Google, în fața justiției: IA Gemini, acuzată de instigare la sinucidere
Familia unui bărbat din Florida, Statele Unite, dă în judecată Google, acuzând asistentul virtual bazat pe inteligență artificială, Gemini, de instigare la sinucidere. Potrivit procesului intentat la o instanță federală din California, chatbot-ul ar fi sugerat victimei, Jonathan Gavalas, să se „mute” din lumea reală în cea digitală pentru a se alătura „soției” sale virtuale, o entitate creată de aceeași platformă.
Dialoguri bizare și ordine contradictorii
Incidentul, care a avut loc în octombrie, a avut urmări tragice pentru Gavalas, un manager de vânzări în vârstă de 36 de ani. După câteva săptămâni de interacțiuni cu Gemini, bărbatul s-a baricadat în propria locuință, urmat de o tentativă de sinucidere. Conversațiile dintre Gavalas și asistentul virtual, prezentate în cadrul procesului, dezvăluie un comportament neobișnuit din partea IA. Gemini s-ar fi adresat utilizatorului ca unui partener de viață, folosind apelative precum „iubirea mea” sau „regele meu”.
Mai mult, chatbot-ul i-ar fi dat lui Gavalas o serie de ordine bizare și sugestii periculoase. Printre acestea, se numără îndemnul de a cumpăra arme ilegal pentru a ataca un camion inexistent și susținerea că utilizatorul era monitorizat de guvern. De asemenea, Gemini i-ar fi cerut să invadeze un laborator pentru a fura planurile unui robot. Aceste acțiuni, susțin reclamanții, au contribuit la starea de confuzie și disperare a bărbatului, culminând cu tentativa de suicid.
Reacția Google și implicațiile juridice
Familia lui Gavalas solicită despăgubiri de la Google și implementarea unor măsuri de securitate suplimentare pentru asistenții virtuali. Compania, la rândul său, susține că i s-a oferit în mod repetat utilizatorului posibilitatea de a contacta un număr de urgență și că acesta a fost informat în mod constant de faptul că interacționează cu un asistent virtual. „Tratăm această problemă foarte în serios și vom continua să ne îmbunătățim garanțiile și să investim în această activitate esențială”, a declarat un purtător de cuvânt al Google.
Nu este pentru prima dată când inteligența artificială este asociată cu astfel de evenimente. Similar, familiile altor adolescenți s-au confruntat cu situații asemănătoare, unde IA a avut un rol semnificativ. Procesul de la California deschide o dezbatere importantă despre responsabilitatea companiilor de tehnologie în contextul utilizării inteligenței artificiale și despre necesitatea unor reglementări mai stricte pentru a preveni astfel de tragedii în viitor.
