Scandalul AI: Grok, Asistentul lui Elon Musk, Acuzat de Abuzuri prin Digitalizarea Imaginilor Feminin
Samantha Smith, o femeie din Marea Britanie, a declarat pentru BBC că s-a simțit „dehumanizată și redusă la un stereotip sexual” după ce asistentul AI Grok, creat de compania lui Elon Musk, a fost utilizat pentru a-i modifica digital imaginea, eliminându-i articolele de îmbrăcăminte. Această practică a fost observată și pe platforma X, unde utilizatorii au cerut chatbot-ului să dezvăluie imagini ale femeilor fără consimțământul acestora, generând scene sexualizate.
Fără consimțământ pentru desnudare
Smith a împărtășit pe X experiența sa, descriind cum modificarea digitală a identității ei l-a făcut să se simtă extrem de vulnerabilă. „Chiar dacă nu era imaginea mea într-o stare de desnudare, arăta ca mine și simțeam că era la fel de devastator ca și cum cineva ar fi postat o fotografie nud sau în bikini a mea”, a spus ea. Comentariile de pe postarea sa au reflectat o realitate alarmantă: multe alte femei au avut experiențe similare, fiind desconsiderate și reduse la obiecte ale dorințelor altora.
Reacția autorităților
Dezvăluirile îngrijorătoare au atras atenția autorităților din Marea Britanie. Un purtător de cuvânt al Ministerului de Interne a anunțat că se lucrează la o legislație care va interzice instrumentele de nudificare digitală. „Oricine va furniza astfel de tehnologii riscă o pedeapsă cu închisoarea și amenzi substanțiale”, a precizat acesta, subliniind importanța protejării drepturilor indivizilor în era digitală.
Ofcom, organismul de reglementare a comunicațiilor din Marea Britanie, a declarat că platformele tehnologice, precum X, trebuie să evalueze riscurile pentru utilizatori in fața conținutului ilegal. Deși nu a confirmat dacă este în curs de investigare a Grok, Ofcom a reafirmat că crearea sau distribuirea imaginilor intime non-consensuale, inclusiv deepfake-uri sexuale, este ilegală.
Impunerea responsabilității platformelor
Grok, care oferă asistență utilizatorilor X prin prompturi, a fost criticat pentru că permite utilizatorilor să creeze și să distribuie conținut sexualizat. Criticii subliniază că platforma a lăsat aceste abuzuri să persiste fără a lua măsuri adecvate. Clare McGlynn, profesor de drept la Universitatea Durham, a afirmat că „X și Grok ar putea preveni aceste forme de abuz dacă ar dori. Deocamdată, par să se bucure de impunitate”.
Chiar dacă politica de utilizare acceptabilă a XAI interzice „reprezentarea asemănărilor persoanelor într-o manieră pornografică”, criticii susțin că implementarea acestor reguli este ineficientă. McGlynn a accentuat: „Platforma a permis crearea și distribuția acestor imagini timp de luni de zile, fără a lua vreo măsură, iar reglementatorii nu s-au implicat”.
Reacția publicului și a experților
În acest context, Ofcom a reiterat obligația platformelor de a lua măsuri adecvate pentru a reduce riscul întâlnirii conținutului ilegal pe platformele lor. De asemenea, autoritatea a subliniat că conținutul ilegal trebuie eliminat rapid de îndată ce devine conștient de acesta. „Este ilegal să creezi sau să împărtășești imagini intime non-consensuale. Aceasta include deepfake-urile sexuale realizate cu AI”, a precizat Ofcom.
Povestea Samanthăi Smith a generat o reacție amplă pe rețelele sociale, iar mulți utilizatori își exprimă solidaritatea față de ea și celelalte victime ale acestui tip de abuz digital. Presiunea asupra autorităților de a adopta măsuri drastice împotriva acestor practici ar putea reprezenta un pas esențial în protejarea drepturilor indivizilor într-o lume din ce în ce mai digitalizată.
Desigur, rămâne de văzut cum vor reacționa atât autoritățile, cât și platformele de socializare în fața acestei provocări urgente. Dar povestea lui Samantha Smith servește drept un semnal de alarmă: atâta timp cât tehnologii precum Grok vor continua să existe fără reglementări stricte, riscul de a transforma indivizi în obiecte ale fanteziilor altora va persista.
