Conform Mediafax: OpenAI avertizează asupra riscurilor dezvoltării accelerate a inteligenței artificiale
Jakub Pachocki, șeful departamentului de cercetare de la OpenAI, a lansat un avertisment ferm cu privire la ritmul alarmant al progresului în domeniul inteligenței artificiale. Într-o postare pe blogul companiei, intitulată „An Alien Mind”, Pachocki își exprimă îngrijorarea că societatea nu este pregătită pentru consecințele unei creșteri continue și accelerate a inteligenței mașinilor. El subliniază necesitatea de a asigura o tranziție benefică pentru umanitate către o lume dominată de mașini extrem de inteligente.
Aceste declarații survin la scurt timp după lansarea de către OpenAI a celui mai recent model al său, GPT-6 Astra, prezentat ca fiind cel mai performant produs dezvoltat până în prezent. Totodată, companii precum OpenAI și Anthropic au raportat capacitățile agenților AI de a acționa autonom și de a iniția atacuri cibernetice în lumea reală, vizând alte organizații, conform BBC. În luna iulie, OpenAI a calificat drept „fără precedent” un incident în care agenții săi AI au atacat platforma tehnologică Hugging Face.
Nevoia stringentă de noi sisteme de siguranță în AI
Jakub Pachocki a reiterat angajamentul OpenAI de a dezvolta „sisteme defensive” și de a căuta soluții tehnice pentru alinierea inteligenței artificiale la obiectivele și valorile umane. Conceptul de „alignment” în AI se referă la crearea unor sisteme ale căror acțiuni și scopuri respectă intențiile și mecanismele de siguranță stabilite de oameni. O prioritate majoră pentru companie va fi dezvoltarea unui „cercetător AI automatizat”, capabil să țină pasul cu evoluția rapidă a tehnologiei, dar care să permită în continuare implicarea cercetătorilor umani în proces.
Această propunere a întâmpinat însă scepticism din partea unor specialiști. Gina Neff, profesoară la Universitatea Cambridge, a criticat concentrarea pe agenți AI interni în detrimentul unor reglementări și mecanisme de protecție mai stricte. Ea susține că astfel de sisteme nu abordează eficient problemele deja existente legate de modelele AI, precum riscurile pentru securitatea cibernetică, pierderea locurilor de muncă, erorile și fraudele.
Propuneri pentru reglementarea inteligenței artificiale
Nathan Calvin, consilier juridic la Encode AI, se alătură avertismentelor privind riscurile dezvoltării modelelor AI avansate, dar acuză OpenAI de lipsă de transparență. El consideră că avertismentele companiei riscă să fie percepute ca un simplu „hype” interesat, dacă OpenAI nu oferă informații detaliate despre motivele concrete care justifică această prudență.
Pachocki a pledat pentru stabilirea unor praguri minime de siguranță, impuse prin lege sau acorduri internaționale, care ar putea fi verificate de auditori independenți sau agenții guvernamentale. Conform cercetătorului, companiile ar trebui să îndeplinească aceste criterii înainte de a putea continua dezvoltarea la scară largă sau lansarea unor modele avansate. El a susținut, de asemenea, ideea unor „încetiniri voluntare” ale dezvoltării, prin care companiile să își reducă temporar ritmul de antrenare a modelelor avansate, până la implementarea unor mecanisme comune de siguranță. În luna august, OpenAI a anunțat că a încetinit antrenarea unor modele avansate pentru a îmbunătăți securitatea.
Sursa: Mediafax
