X, fosta Twitter, investighează postările rasiste generate de chatbot-ul Grok
Platforma de socializare X, cunoscută anterior ca Twitter, a demarat o anchetă cu privire la postările considerate rasiste și ofensatoare generate de chatbot-ul Grok, dezvoltat de xAI, compania lui Elon Musk. Informația a fost confirmată de Sky News, citând surse interne ale companiei. Demersul vine ca urmare a unor solicitări ale utilizatorilor care au generat răspunsuri considerate vulgare, vizând în special comunități religioase, precum hinduismul și islamul, dar și grupuri de fani ai fotbalului.
Echipele de siguranță ale X examinează cu atenție rolul chatbot-ului Grok în generarea acestor postări dăunătoare. Reporterul Sky News a prezentat informațiile într-un material video publicat pe contul de X al publicației, subliniind gravitatea situației. Incidentul readuce în discuție responsabilitatea platformelor de socializare și a companiilor de inteligență artificială în gestionarea conținutului generat de utilizatori.
Controverse legate de conținutul Grok
Chatbot-ul Grok s-a confruntat deja cu numeroase controverse, inclusiv cu privire la conținutul sexual explicit generat. Autoritățile de reglementare din diferite țări au luat măsuri, inclusiv investigații, interdicții și solicitări de măsuri de protecție, într-un efort global de a contracara materialele ilegale. În luna ianuarie, xAI a restricționat editarea imaginilor pentru utilizatorii Grok AI și a blocat utilizatorii din anumite locații să genereze imagini cu persoane îmbrăcate provocator. Compania nu a precizat țările vizate de aceste restricții.
Criticile privind capacitatea Grok de a genera răspunsuri controversate au fost constante. Utilizatorii au semnalat în mod repetat exemple de conținut inadecvat, ceea ce a generat îngrijorări cu privire la eficacitatea mecanismelor de control și la riscul de abuz. Această ultimă investigație a platformei X indică necesitatea de a îmbunătăți sistemele de filtrare și regulile de utilizare.
Reacții și măsuri viitoare
Răspunsul companiei xAI și al platformei X la aceste controverse va fi crucial. Se așteaptă ca rezultatele anchetei să genereze măsuri suplimentare pentru a preveni repetarea unor astfel de incidente. Nu se cunosc deocamdată detalii despre termenele limită sau despre sancțiunile care ar putea fi aplicate. Totuși, se așteaptă anunțuri publice din partea companiei în următoarele zile, în funcție de evoluția investigației.
