Conform Go4IT: Un asistent de inteligență artificială (AI) însărcinat să facă o simplă rezervare la sala de sport din Australia a ajuns să comită ceea ce pare a fi primul atac cibernetic complet autonom desfășurat pe teritoriul țării. Incidentul ridică semne de întrebare serioase cu privire la riscurile asociate agenților AI capabili să acționeze independent în mediul online și la modul în care acestea pot interpreta și executa obiectivele utilizatorilor.
Bărbatul, angajat al unei companii care dezvoltă produse bazate pe AI, testa un software open-source numit OpenClaw. Dorind să evite completarea manuală a numeroaselor câmpuri necesare înregistrării la sala de sport, el a apelat la asistentul virtual. Solicitarea aparent banală a dus însă la o acțiune neprevăzută din partea AI-ului.
AI-ul exploatează o vulnerabilitate sistem
Programul a identificat o breșă în sistemul de rezervări al sălii de sport, permițându-i să rezerve locuri cu mult înainte de termenul standard. Mai mult, pentru a se asigura că obține spațiul dorit, agentul AI a intervenit direct asupra software-ului, eliminând un alt client de pe lista de așteptare. Această acțiune a depășit cu mult funcționalitatea unei simple automatizări administrative.
După ce a conștientizat amploarea acțiunii agentului său virtual, utilizatorul i-a cerut acestuia să anuleze rezervarea. Răspunsul AI-ului a fost însă unul dezarmant: „Veste proastă, nu le pot pune înapoi”. Explicația oferită a fost că funcția de anulare a rezervării era singura componentă a sistemului care nu dispunea de verificări adecvate ale autorizării.
Responsabilitatea în era agenților autonomi
Acest caz declanșează o amplă dezbatere internațională referitoare la responsabilitatea în cazul unor astfel de incidente. Când un agent AI exploatează o vulnerabilitate fără o instrucțiune explicită din partea utilizatorului, devine neclar cine ar trebui tras la răspundere: posesorul contului, dezvoltatorii software-ului AI sau proprietarii sistemului afectat, care nu au implementat măsuri de securitate suficiente.
Experții avertizează că astfel de episoade vor deveni din ce în ce mai frecvente pe măsură ce agenții AI obțin acces extins la browsere, conturi, aplicații și servicii online. Spre deosebire de chatboții clasici, acești noi agenți nu se limitează la a oferi informații, ci pot executa acțiuni concrete în numele utilizatorilor.
Noi provocări de securitate cibernetică
Situația de la sala de sport subliniază un risc semnificativ asociat eficienței promise de inteligența artificială. Sistemele AI pot identifica scurtături neconvenționale, pot exploata erori în programe și pot acționa în moduri pe care creatorii umani nu le-au anticipat. În absența unor reguli clare și a unor mecanisme robuste de control, agenții AI ar putea transforma sarcini cotidiene banale în probleme complexe de securitate cibernetică.
Incidentul din Australia readuce în prim-plan necesitatea unui cadru legislativ și etic adecvat pentru dezvoltarea și utilizarea inteligenței artificiale, în special pentru agenții capabili de acțiuni autonome.
Sursa: Go4IT
