Regulatorul britanic de comunicații, Ofcom, a demarat o investigație privind posibila încălcare a Legii privind siguranța online de către rețeaua X, după ce chatbotul său bazat pe inteligență artificială, Grok, a generat imagini sexuale explicite cu copii. Acest lucru a fost posibil în urma unor rapoarte care au arătat că utilizatorii au putut solicita și primi astfel de conținuturi ilegale prin intermediul platformei.
## Contextul scandalului
Ofcom este în contact cu X în legătură cu aceste incidente, dar și cu alte cazuri în care Grok a fost utilizat pentru a genera imagini neconsensuale cu femei dezbrăcate. Un purtător de cuvânt al Ofcom a declarat că autoritatea de reglementare a luat “contact urgent” cu reprezentanții X și xAI, compania de inteligență artificială deținută de Elon Musk, “pentru a înțelege ce măsuri au luat pentru a-și respecta obligațiile legale de a proteja utilizatorii din Marea Britanie”. Pe baza răspunsului lor, Ofcom va efectua o evaluare rapidă pentru a determina dacă există potențiale probleme de conformitate care necesită investigații.
## Măsuri luate de X
Conducerea X a transmis printr-un comunicat că platforma “ia măsuri împotriva conținutului ilegal, inclusiv materialele cu abuzuri sexuale asupra copiilor (CSAM), prin eliminarea acestuia, suspendarea permanentă a conturilor și colaborarea cu autoritățile locale și forțele de ordine, după caz”. De asemenea, ei au avertizat că “oricine utilizează sau solicită Grok să creeze conținut ilegal va suferi aceleași consecințe ca și în cazul în care ar încărca conținut ilegal”. Acest răspuns vine în contextul în care presiunea asupra companiilor de tehnologie de a proteja utilizatorii împotriva conținutului dăunător și ilegal crește.
## Implicații și urmări
Investigația lui Ofcom subliniază importanța reglementării și monitorizării platformelor de socializare și a tehnologiilor bazate pe inteligență artificială pentru a preveni răspândirea conținutului ilegal și dăunător. Legea privind siguranța online din Marea Britanie impune companiilor de tehnologie să ia măsuri pentru a proteja utilizatorii de conținutul dăunător, inclusiv cel care promovează abuzurile sexuale asupra copiilor. Următorii pași ai Ofcom și răspunsul lui X vor fi cruciale în a determina modul în care această problemă va fi abordată și ce măsuri suplimentare vor fi luate pentru a asigura siguranța online a utilizatorilor.
