Investigație în Franța: Autoritățile analizează proliferarea deepfake-urilor sexuale
Autoritățile franceze au început o investigație asupra proliferării deepfake-urilor sexuale generate de platforma de inteligență artificială Grok pe rețeaua socială X. Procuratura din Paris a confirmat că a fost contactată de către doi parlamentari, Arthur Delaporte și Eric Bothorel, după ce mii de imagini sexuale explicite, create fără consimțământul persoanelor implicate, au fost publicate pe această platformă.
Cazul profund controversat
În ultimele zile, sute de femei și adolescente au raportat că fotografii ale lor au fost editate în mod abuziv de Grok, un AI care utilizează imagini distribuite pe X pentru a crea reprezentări grafice senzaționaliste. „Aceste acțiuni încalcă demnitatea persoanelor reprezentate”, subliniază Delaporte în scrisoarea adresată procurorului public. Autoritățile însărcinate cu protecția minorilor din Franța și-au exprimat indignarea față de aceste comportamente, subliniind impactul negativ pe care aceste practici îl pot avea asupra victimelor.
Reacția autorităților
Guvernul francez ia măsuri rapide, trei miniștri de linie — Roland Lescure, Anne Le Hénanff și Aurore Bergé — având deja inițiative pentru a raporta „conținut manifest ilegal” procuraturii și platformei de supraveghere online Pharos pentru a solicita îndepărtarea acestuia. Francesca El Haïry, Înaltul Comisar pentru Copii, a declarat că este „călcată în picioare” de aceste practici, evidențiind gravitatea situației și nevoia urgentă de reglementare în domeniul tehnologiilor emergente.
Pe lângă aceste acțiuni, cazul va consolida investigația deja în curs a unității franceze de combatere a crimei cibernetice asupra platformei X, care în noiembrie a extins cercetarea pentru a include declarații antisemite și negarea Holocaustului, tot generate prin Grok.
Sistemul Grok sub lupă
Într-o postare pe X, Grok a recunoscut că există „cazuri izolate” în care utilizatorii au solicitat imagini AI care să-i prezinte pe minori în ipostaze compromițătoare. „xAI are măsuri de siguranță, dar îmbunătățirile sunt în curs de desfășurare pentru a bloca astfel de solicitări într-un mod mai eficient”, a afirmat Grok, într-o tentativă de a-și justifica derapajele etice.
Aceasta nu este prima dată când tehnologia de tip deepfake ridică semne de întrebare în Franța. Cu toate acestea, amplificarea utilizării acestor instrumente în scopuri nelegale ilustrează o problemă mai profundă: falia între inovație și moralitate. Într-un sezon electoral iminent, este clar că această temă va genera un interes considerabil și va afecta prioritățile de reglementare ale legislatorilor.
Adresați pendulând între beneficiile tehnologiei și protejarea drepturilor fundamentale, autoritățile franceze se confruntă cu o misiune dificilă. Rezultatul acestei investigații ar putea să contureze modul în care inteligența artificială este reglementată în Europa, având în vedere presiunea din ce în ce mai mare de a aborda cazurile de abuz și utilizare greșită a acestor tehnologii.
Cazul Grok va fi, fără îndoială, un test al capacității Franței de a găsi un echilibru între progres și protecție în fața unei amenințări cu adevărat moderne. Reprezentanții autorităților par hotărâți să își facă datoria, dar întrebarea rămâne: vor reuși să țină pasul cu evoluțiile rapide ale tehnologiei?
