Conform Mediafax: AI-ul se poate dezvolta singur: riscuri și scenarii
Compania Anthropic, creatoarea chatbotului Claude, avertizează asupra unui risc major pentru următorii ani: apariția unui proces de „auto-îmbunătățire recursivă”, în care o inteligență artificială își poate genera și optimiza singură versiunile viitoare. Această capacitate ar putea precipita o evoluție tehnologică greu de controlat de către oameni.
Anthropic anticipează că inteligența artificială ar putea depăși performanța umană în sarcinile de programare chiar în cursul acestui an. Aproximativ 80% din codul utilizat în prezent de companie este deja generat de propriul chatbot, Claude. Această transformare s-a produs într-un interval de timp scurt, doar la începutul anului 2025 majoritatea codului fiind creat de programatori umani.
Claude transformă activitatea de cercetare și dezvoltare
Performanța Claude nu se limitează la generarea de cod. Calitatea acestuia s-a îmbunătățit spectaculos, ajungând la un nivel comparabil, sau chiar superior, celui redactat de dezvoltatori umani. Mai mult, chatbotul este deja folosit în proiecte de cercetare, unde agenții AI au obținut rezultate mai bune decât echipele umane, chiar dacă au necesitat un timp de procesare mai mare.
Această capacitate intră în sfera conceptului de „singularitate tehnologică”, o idee dezbătută de decenii în mediul academic și industrial. Scenariul cel mai alarmant descris de Anthropic este cel în care o inteligență artificială devine suficient de avansată pentru a-și accelera propria dezvoltare, declanșând un ciclu continuu de progres ce ar putea depăși capacitatea umană de înțelegere și control.
Trei direcții posibile pentru evoluția AI
Compania prognozează trei direcții principale de evoluție a inteligenței artificiale. Prima variantă, considerată cea mai puțin probabilă, vizează o încetinire naturală a progresului tehnologic, din cauze legate de limitări hardware sau inerente modelelor actuale.
Al doilea scenariu, văzut ca cel mai realist, prevede crearea unor sisteme AI extrem de eficiente, capabile să transforme radical economia. Grupuri restrânse de oameni, sprijinite de agenți AI autonomi, ar putea realiza munca unor organizații mari, modificând fundamental piața muncii. Oamenii ar rămâne relevanți, dar într-o relație de colaborare strânsă cu inteligența artificială.
Cel mai controversat scenariu sugerează o reducere semnificativă a rolului economic al oamenilor, pe măsură ce munca umană devine necompetitivă în comparație cu sistemele automate. Aceasta ar putea duce la o redefinire a valoare productive umane.
Cursele AI, inevitabile pe plan global
În pofida avertismentelor privind o potențială cursă periculoasă a inteligenței artificiale, Anthropic recunoaște improbabilitatea unui acord global pentru încetinirea dezvoltării. Companiile tehnologice sunt angrenate într-o competiție acerbă, iar state precum SUA și China văd în AI o tehnologie strategică pentru securitatea națională.
Potrivit Anthropic, riscul ar fi ca actorii care ar încetini voluntar dezvoltarea să fie depășiți de concurență. Paradoxal, se argumentează că tocmai poziționarea sa ca o companie preocupată de siguranță o obligă să continue investițiile. Ideea este că, dacă actorii considerați prudenți ar încetini, avantajul ar putea fi preluat de entități mai puțin preocupate de riscurile asociate inteligenței artificiale. Compania continuă să investească în siguranța AI concomitent cu dezvoltarea.
Sursa: Mediafax
