Grok, chatbotul lui Elon Musk, interzis în Olanda să genereze imagini nud fără acord.
Un tribunal din Amsterdam a ordonat companiei xAI, deținută de Elon Musk, să oprească funcția chatbotului Grok de a crea imagini nud fără consimțământ și materiale cu abuz sexual asupra copiilor. Decizia vine ca urmare a unei plângeri depuse de organizații care luptă împotriva abuzului online. xAI riscă amenzi zilnice considerabile dacă nu se conformează dispozițiilor.
Amenzi usturătoare pentru nerespectarea deciziei
Hotărârea judecătorească stipulează că xAI trebuie să plătească 100.000 de euro pentru fiecare zi în care Grok continuă să genereze imagini care încalcă legea, dar nu mai mult de 10 milioane de euro. Judecătorii au subliniat că generarea și distribuirea de imagini sexualizate sunt ilegale „atunci când funcționalitatea de a dezbrăca parțial sau complet persoane este utilizată fără ca acestea să-și dea consimțământul explicit”. De asemenea, a fost interzisă generarea oricăror imagini considerate materiale de abuz sexual asupra copiilor conform legislației olandeze. Deși decizia se aplică doar în Țările de Jos, grupurile care au inițiat procesul susțin că aceasta ar putea avea implicații mai largi, deoarece Grok nu poate determina cu precizie unde se află utilizatorii.
Măsuri insuficiente de protecție, potrivit judecătorilor
Platforma X a luat măsuri în ianuarie pentru a restricționa anumite funcționalități, după ce s-a descoperit că Grok crea imagini cu persoane reale în bikini sau nud. Au fost generate aproximativ 3 milioane de astfel de imagini în doar 11 zile. În replică, compania a declarat că „rămâne dedicată transformării X într-o platformă sigură pentru toată lumea și continuă să aibă toleranță zero față de orice formă de exploatare sexuală a copiilor, nuditate fără consimțământ și conținut sexual nedorit”. Cu toate acestea, judecătorul a apreciat că, deși au fost luate o serie de măsuri, nu există garanția eficienței acestora. Robbert Hoving, președintele Offlimits, una dintre organizațiile care au intentat procesul, a salutat decizia, numind-o „o veste fantastică” și menționând că „tehnologia nu poate fi niciodată motivul pentru care se înregistrează victime”.
Comisia Europeană a lansat o anchetă separată asupra platformei X la sfârșitul lunii ianuarie. Parlamentul European și statele membre ale UE au pledat pentru interzicerea aplicațiilor de nudificare bazate pe inteligența artificială, ca parte a modificărilor propuse la regulile UE privind inteligența artificială. O astfel de interdicție ar putea intra în vigoare chiar în această vară.
