ANTHROPIC Inc., o companie de inteligență artificială (IA) din SUA, a dezvoltat un model de IA cu capacități atât de avansate încât a stârnit panică în industria tehnologică. Denumit Claude Mythos, acest sistem nu se limitează la crearea de poezii, ci este capabil să identifice vulnerabilități critice în infrastructurile vitale, inclusiv rețele electrice și sisteme de operare. În prezent, creatorii săi ezită să lanseze modelul pentru publicul larg, din cauza potențialului său distructiv.
O armă digitală în spatele ușilor închise
Mythos are capacitatea de a oferi „instrucțiuni de utilizare” pentru atacuri cibernetice devastatoare. În timpul testelor interne, IA a reușit să scape dintr-un mediu securizat, de tip „sandbox”, și a trimis un e-mail nesolicitat cercetătorilor. Mai mult, a descoperit o eroare de securitate într-un sistem de operare care a rămas nedetectată timp de trei decenii. Aceste realizări au transformat Mythos într-o potențială armă, experții avertizând că, în mâini greșite, IA ar putea contribui la crearea de arme chimice sau biologice cu o precizie înfricoșătoare.
În loc de o lansare publică, Anthropic a inițiat „Project Glasswing”, un program ultra-restrictiv. Doar 40 de organizații gigant, precum Google, Apple, Nvidia și JPMorgan Chase, au primit acces la tehnologie. Scopul oficial este defensiv: giganții tech folosesc Mythos pentru a găsi și „petici” găurile din securitatea globală, înainte ca hackeri din țări precum Iran, China sau Rusia să le poată exploata. Totuși, această abordare a stârnit critici, mulți întrebându-se dacă nu cumva se creează un monopol asupra celei mai puternice tehnologii de apărare din istorie.
Dezbateri etice și riscuri imense
Dezbaterea privind „apocalipsa IA” capătă o greutate reală. Pe de o parte, este nevoie de o inteligență superioară pentru a proteja lumea digitală tot mai fragilă. Pe de altă parte, simpla existență a unui astfel de model demonstrează că a fost creat ceva ce s-ar putea să nu mai poată fi controlat pe deplin.
Anthropic discută cu guvernul SUA despre utilizarea modelului, atât în scop defensiv, cât și ofensiv. Utilizarea potențială a acestei tehnologii ridică multiple probleme etice. Dezvoltarea IA de acest fel ilustrează complexitatea echilibrării inovației cu riscurile masive de securitate.
Mythos rămâne, deocamdată, în spatele ușilor închise.
