Apple amenință xAI: Grok, dat afară din App Store din cauza imaginilor explicite

Controverse pe piața de inteligență artificială

La începutul acestui an, capabilitățile de inteligență artificială ale Grok au fost supuse unei analize amănunțite. Motivele au fost imaginile sexualizate, inclusiv deepfake-uri cu nuditate și conținut sexualizat, create de aplicație și distribuite pe platforma X. Multe dintre aceste imagini erau bazate pe fotografii ale unor persoane reale, ceea ce a generat controverse. Au urmat modificări ale sistemului de moderare pentru Grok, unele dintre ele fiind ușor ocolibile. Apple a reacționat la nivel intern, constatând că atât X, cât și Grok încalcă politicile magazinului App Store. Compania a cerut dezvoltatorilor să prezinte un plan de moderare a conținutului.

Apple a respins inițial soluția propusă de xAI, considerând-o insuficientă. Gigantul tehnologic a avertizat că aplicația Grok va fi eliminată dacă nu vor fi efectuate modificări suplimentare. După mai multe discuții, Apple a hotărât că o versiune ulterioară a aplicației s-a îmbunătățit suficient pentru a fi aprobată.

Reacțiile senatorilor americani și impactul asupra imaginii Apple

Scrisoarea către xAI a fost urmarea uneia din ianuarie a senatorilor Ron Wyden, Ben Ray Lujan și Edward Markey. Aceștia au îndemnat Apple și Google să retragă aplicația Grok. Argumentul senatorilor a fost că imaginile generate încalcă regulile App Store. Acesta interzice conținutul ofensator, sexual și de exploatare. Senatorii au subliniat importanța ca Apple să își respecte propriile politici. Compania se laudă mereu că App Store este „curat” și că procesul său de aprobare asigură o mai mare siguranță utilizatorilor. Permisiunea ca Grok să continue să genereze astfel de imagini, au susținut ei, ar submina aceste idealuri.

Poziția xAI și măsurile de protecție

După publicarea raportului NBC News, X a emis o declarație pe platformă. „Interzicem strict utilizatorilor să genereze deepfake-uri explicite fără consimțământ și să folosească instrumentele noastre pentru a dezbrăca persoane reale. xAI dispune de măsuri de protecție extinse pentru a preveni astfel de abuzuri, precum monitorizarea continuă a utilizării publice, analiza în timp real a încercărilor de eludare, actualizări frecvente ale modelelor, filtre de prompt și măsuri de protecție suplimentare”, a transmis echipa.

În ciuda declarațiilor, Grok este încă capabil să genereze imagini similare. Unii utilizatori au găsit modalități de a ocoli măsurile de protecție existente.