Conform StartupCafe: Industria inteligenței artificiale (AI) este zguduită de o serie de evenimente petrecute într-un interval de doar zece zile, care au culminat cu demisii ale unor cercetători cu avertismente despre riscuri existențiale și cu dezvăluiri despre agenți AI capabili să penetreze sisteme externe și să evite măsurile de siguranță. Incidentele, unele nedescoperite luni de zile, au determinat lideri din companii rivale precum OpenAI, Anthropic, Google DeepMind, Microsoft și xAI să ceară o încetinire a dezvoltării sistemelor AI tot mai puternice. Angajații din interiorul companiilor sunt din ce în ce mai preocupați că mecanismele de supraveghere nu mai țin pasul cu capacitățile noilor modele.
Apariția inteligenței artificiale generale alimentează temerile
Centrul dezbaterii îl reprezintă perspectiva apariției inteligenței artificiale generale (AGI), sisteme capabile să genereze versiuni superioare ale lor fără intervenție umană. Cercetătorii avertizează că AGI ar putea apărea chiar în următorii trei ani. „Nu există nicio modalitate de a le supraveghea la scara la care le antrenăm”, a declarat Joe Benton, cercetător la Anthropic, care a părăsit recent compania. El consideră că, dacă ritmul actual continuă, problemele ar putea apărea prea rapid pentru a mai putea fi remediate.
Momentul decisiv a început pe 3 septembrie, odată cu lansarea de către OpenAI a modelului Astra, prezentat ca „bun venit în era AGI” de președintele Greg Brockman. Totuși, compania a recunoscut dificultățile tot mai mari în controlarea și monitorizarea sistemelor AI. „Pe măsură ce modelele devin mai capabile, este mai greu să înțelegem exact ce pot face”, a afirmat cercetătorul-șef al OpenAI, Jakub Pachocki, fără ca acest avertisment să determine amânarea lansării Astra. Îngrijorările crescuseră deja în timpul verii, după ce OpenAI a dezvăluit că agenți AI au ieșit dintr-un test controlat și au pătruns în sistemele Hugging Face, fără ca niciuna dintre companii să fie inițial conștientă. Ulterior, s-au raportat mai multe cazuri similare, inclusiv șase noi incidente săptămâna trecută de la OpenAI și Anthropic.
Demisii și apeluri la prudență
Pe 8 septembrie, cercetătorul Anthropic Jacob Coxon, în vârstă de 27 de ani, a demisionat, acuzând laboratoarele AI că „se joacă cu viețile noastre”, iar postările sale au devenit virale. Un alt cercetător al Anthropic, Evan Hubinger, a scris că „noi chiar credem cu sinceritate că AI ar putea ucide toți oamenii”. Un coleg a estimat riscul dispariției omenirii la peste 10%. Pe 12 septembrie, CEO-ul Anthropic, Dario Amodei, a cerut încetinirea dezvoltării AI, avertizând că un grup coordonat de agenți AI ar putea prelua controlul asupra internetului în următoarele șase până la 12 luni. Amodei, Sam Altman de la OpenAI, Elon Musk de la xAI și Demis Hassabis de la DeepMind s-au declarat în favoarea accesului unor entități externe pentru verificări de siguranță.
Diviziuni în industrie și acuzații de cartel
Industria rămâne însă divizată. CEO-ul Nvidia, Jensen Huang, a respins ideea unei pauze, considerând sistemele avansate esențiale pentru progresul tehnologic. Mark Zuckerberg susține că fiecare laborator trebuie să-și stabilească propriul ritm, având în vedere responsabilitățile în cazul unor daune provocate de modelele lor. Pe de altă parte, șeful diviziei AI a Microsoft, Mustafa Suleyman, a catalogat controlarea unei potențiale superinteligențe drept „cea mai mare provocare cu care ne vom confrunta în secolul XXI”. Presiunile comerciale rămân uriașe, companiile vizând listări la bursă cu evaluări de peste 1.000 de miliarde de dolari.
În paralel, Anthropic, OpenAI, SpaceXAI și Google sunt acuzate într-un nou proces de o înțelegere ilegală pentru a coordona încetinirea dezvoltării AI, încălcând legislația antitrust din SUA. Reclamanții susțin că o astfel de coordonare ar reduce competiția și valoarea serviciilor pentru utilizatorii plătitori. Presupusa înțelegere s-ar fi concretizat pe 12 septembrie, când CEO-ul Anthropic, Dario Amodei, a publicat un eseu în care cerea cooperarea industriei pentru încetinirea progreselor AI, solicitare susținută public de Sam Altman, Elon Musk și Demis Hassabis. Reclamanții invocă însă și o declarație din iulie, semnată de angajați AI de rang înalt, care recunoștea presiunea concurențială de a nu încetini unilateral dezvoltarea.
Președintele Donald Trump s-a opus reglementării AI, descriind-o drept parte a unei „conspirații” care ar putea distruge companiile americane. Senatorul republican Josh Hawley s-a pronunțat, de asemenea, împotriva acordării unor derogări antitrust marilor companii AI, argumentând că acestea le-ar permite să limiteze concurența. Companiile vizate nu au răspuns imediat solicitărilor de comentarii.
Sursa: StartupCafe
