Inteligența artificială a revenit în centrul dezbaterii publice după afirmațiile extreme ale profesorului Roman Yampolskiy, specialist în securitatea sistemelor inteligente de la Universitatea din Louisville. Într-un podcast recent, cercetătorul a susținut că există o probabilitate aproape de 100 % ca IA să provoace dispariția omenirii în următorii 100 de ani, reînvigorând discuțiile despre riscul existențial al inteligenței artificiale.
Argumentele lui Roman Yampolskiy privind pericolul existențial al IA
După două ore de discuție, Yampolskiy a subliniat faptul că evoluția rapidă a inteligenței artificiale nu este însoțită de un progres similar al metodelor de control. El afirmă că „niciun sistem creat până acum nu funcționează fără erori”, iar viitoarele generații de IA ar putea scăpa de supravegherea umană. În opinia sa, imposibilitatea de a explica mecanismele interne ale modelelor actuale creează un risc structural pentru siguranța AI.
Detalii din cartea „AI: Inexplicabil, Imprevizibil, Incontrolabil”
Cartea lui Yampolskiy descrie scenarii în care un sistem avansat de inteligență artificială ar putea lua decizii cu efecte devastatoare. Autorul analizează și aspecte philosophice legate de conștiința artificială și diferențele dintre inteligența biologică și cea artificială generală (AGI). Concluzia principală este că problema nu este existența AGI, ci capacitatea omenirii de a menține controlul permanent asupra acesteia.
Contextul dezbaterii științifice privind amenințarea AI
Un studiu realizat de universitățile Oxford și Bonn, bazat pe opiniile a peste 2 700 de specialiști, indică un risc de circa 5 % ca IA să cauzeze dispariția umanității. Autorii subliniază lipsa unui consens clar asupra nivelului de pericol. Potrivit coautoarei Katja Grace, estimările variază între 1 % și 20 %, iar scenariile extreme nu sunt excluse complet.
Reacțiile liderilor din domeniul IA
– Andrew Y. Ng (Google Brain) și Yann LeCun (Meta) resping ideea că IA ar putea dezvolta intenții ostile.
– Ei susțin că scenariile de extincție sunt nefondate și că reglementarea eficientă poate preveni riscuri majore.
– Sam Altman, CEO al OpenAI, a recunoscut în 2015 că „IA ar putea fi cauza sfârșitului lumii”, subliniind totodată potențialul economic enorm al tehnologiei.
Impactul economic al IA înainte de riscurile existențiale
Alte analize avertizează că, înainte de amenințarea existențială, IA ar putea genera dezechilibre economice semnificative. Automatizarea masivă ar înlocui un număr mare de locuri de muncă și ar concentra puterea economică în mâinile câtorva companii. Aceste probleme economice sunt adesea considerate ca prioritare în discuțiile despre siguranța AI.
Necesitatea reglementării și a monitorizării continue
Comunitatea științifică solicită măsuri urgente de reglementare a inteligenței artificiale, în timp ce alți experți consideră că predicțiile apocaliptice sunt exagerate și contraproductive. Lipsa unui cadru clar pentru transparență și responsabilitate alimentează incertitudinea privind controlele tehnologice.
Importanța informării continue privind evoluțiile AI
Dezbaterea asupra riscului existențial al inteligenței artificiale rămâne deschisă, iar evoluția rapidă a tehnologiei impune monitorizare constantă și actualizare a cunoștințelor. Informațiile disponibile subliniază necesitatea unei atenții continue pentru a evalua impactul IA asupra societății și siguranței globale.
