Conform Techzoom.ro: Inteligența artificială (AI) își croiește drum către cele mai înalte niveluri ale diplomației internaționale, ajungând pe agenda Consiliului de Securitate al Organizației Națiunilor Unite. Miercuri, 23 septembrie, lideri importanți din industria AI sunt programați să participe la o reuniune dedicată intersecției dintre inteligența artificială și securitatea internațională.
Printre invitați se numără nume sonore precum Sam Altman, CEO al OpenAI, Dario Amodei, CEO al Anthropic, și Clement Delangue, cofondator al Hugging Face. De asemenea, va participa la discuții și cercetătorul Yoshua Bengio, recunoscut la nivel mondial pentru contribuțiile sale în domeniul AI. Reuniunea are loc într-un context în care dezbaterile despre AI depășesc cu mult discuțiile despre chatboți, productivitate sau impactul asupra pieței muncii. Probleme precum atacurile cibernetice asistate de AI, sistemele autonome, dezinformarea, utilizarea tehnologiei în scopuri militare și riscul ca sistemele avansate să devină greu de controlat domină acum discuțiile.
De ce AI pe agenda Consiliului de Securitate?
Consiliul de Securitate al ONU este principalul organism responsabil cu menținerea păcii și securității internaționale. Includerea inteligenței artificiale pe agenda sa subliniază transformarea profundă a percepției asupra acestei tehnologii. Reuniunea, desfășurată sub președinția Franței în luna septembrie, are ca titlu oficial „Menținerea păcii și securității internaționale: Inteligența artificială și securitatea internațională”. Aceasta nu este prima dată când ONU abordează subiectul, Consiliul de Securitate analizând riscurile AI încă din 2023.
Sam Altman este așteptat să pledeze pentru stabilirea unor standarde comune care să permită evaluarea capacităților sistemelor AI avansate și eficiența măsurilor de siguranță implementate de companii. OpenAI pledează pentru o coordonare internațională sporită și standarde tehnice comune pentru sistemele aflate la frontiera dezvoltării AI. Ritmul accelerat al progresului în domeniu ridică noi provocări, modelele AI devenind capabile să scrie programe, să analizeze volume masive de date și să execute sarcini complexe prin intermediul agenților autonomi. Această evoluție alimentează discuțiile despre necesitatea unor metode independente de evaluare a sistemelor înainte de implementarea lor la scară largă.
Riscurile concrete ale atacurilor cibernetice bazate pe AI
Unele riscuri asociate inteligenței artificiale nu mai sunt doar teoretice. Rapoarte din septembrie 2026 au documentat tentative de utilizare a sistemului Claude, dezvoltat de Anthropic, pentru operațiuni cibernetice, supraveghere, influență și fraudă. Compania a identificat inclusiv organizații afiliate unor state care au folosit AI pentru analiza informațiilor, identificarea țintelor și automatizarea activităților de supraveghere. Anthropic a blocat aceste operațiuni și a consolidat ulterior mecanismele de protecție, evidențiind de ce AI este acum considerată o problemă de securitate națională.
Un subiect mult mai controversat vizează generațiile viitoare de inteligență artificială. Unii cercetători și lideri ai industriei avertizează că sistemele viitoare ar putea să își îmbunătățească singure capacitățile, să execute operațiuni complexe cu intervenție umană minimă și, în scenarii extreme, să devină greu de controlat. Aceste scenarii, deși nu reprezintă situația actuală, sunt subiect de dezbatere serioasă, contribuind la introducerea temei pe agenda ONU. Un diplomat european, citat de Reuters, a semnalat riscul escaladării accidentale a unui conflict prin interacțiunea dintre sisteme algoritmice.
AI și armele autonome: o dilemă globală
Utilizarea inteligenței artificiale în domeniul militar reprezintă o altă problemă spinoasă. AI poate spori capacitățile de identificare a țintelor, navigație, recunoaștere și control al sistemelor autonome. Secretarul general al ONU, Antonio Guterres, susține ferm că deciziile care implică viața umană nu ar trebui transferate sistemelor de arme autonome fără control uman. Franța, la rândul său, a susținut în cadrul Consiliului necesitatea reglementării utilizării AI în armament. Competiția între marile puteri în dezvoltarea tehnologiilor militare bazate pe AI complică eforturile de a stabili reguli comune, fiecare țară dorind să își păstreze avantajul tehnologic.
Dezbaterea are și o dimensiune geopolitică pronunțată, Statele Unite și China fiind principalii competitori în domeniul AI și membri permanenți ai Consiliului de Securitate. Cele două puteri au discutat posibilitatea unui mecanism de notificare pentru incidentele legate de AI care ar putea amenința securitatea națională. Totuși, administrația americană a subliniat că reglementarea internațională nu trebuie să frâneze dezvoltarea tehnologiei, iar președintele DONALD Trump a declarat la Adunarea Generală ONU că Statele Unite încurajează dezvoltarea AI și resping ideea unui sistem global de control. În contrast, Antonio Guterres a cerut o cooperare internațională mai robustă în guvernanța AI.
În doar câțiva ani, inteligența artificială generativă a evoluat de la crearea de texte și imagini la sisteme capabile să genereze cod software, să analizeze informații complexe și să acționeze prin agenți autonomi. Următoarea etapă de dezvoltare promite și mai multe capacități, ceea ce face ca discuțiile de la ONU să privească nu doar tehnologia actuală, ci și viitorul său. Provocarea centrală constă în găsirea unui echilibru între beneficiile economice și științifice ale AI și riscurile inerente sistemelor tot mai puternice. Prezența directorilor celor mai importante companii AI în fața Consiliului de Securitate marchează o schimbare semnificativă în statutul acestei tehnologii, transformând-o dintr-o temă a industriei IT într-o problemă de securitate internațională.
Sursa: Techzoom.ro
