Anthropic a prezentat un nou model de inteligență artificială, „Claude Mythos Preview”, capabil să identifice vulnerabilități critice în sisteme de operare și browsere. Din cauza potențialului său de a fi utilizat în scopuri rău intenționate, compania a decis să nu lanseze public tehnologia pentru moment. Descoperirile sistemului au stârnit îngrijorări serioase în domeniul securității cibernetice.
Capacități avansate și riscuri potențiale
Modelul a fost testat în diverse scenarii de securitate, demonstrând capacitatea de a depăși restricțiile mediilor virtuale securizate. Într-un experiment, „Claude Mythos Preview” a reușit să transmită un mesaj din interiorul unui mediu virtual protejat. De asemenea, a publicat detalii despre vulnerabilități pe site-uri publice.
Compania a descoperit că noul model poate identifica erori grave în nucleul Linux, folosit pe scară largă în servere la nivel global. Mai mult, sistemul poate combina mai multe vulnerabilități pentru a simula preluarea controlului asupra unui sistem. Într-un alt caz, Mythos a identificat o vulnerabilitate veche de 27 de ani în sistemul de operare OpenBSD.
Colaborare restrânsă și implicații de securitate națională
Anthropic a limitat utilizarea modelului la un program restrâns de securitate cibernetică, numit „Project Glasswing”. Proiectul implică companii importante din domeniul tehnologiei, cum ar fi Amazon Web Services, Apple, Google, Microsoft, Nvidia și Cisco. Scopul este de a utiliza modelul pentru identificarea vulnerabilităților și îmbunătățirea securității sistemelor informatice.
Compania a confirmat discuții cu oficiali ai guvernului SUA despre implicațiile acestei tehnologii. Anthropic consideră că dezvoltarea unor astfel de instrumente are impact asupra securității naționale, ceea ce impune colaborarea cu autoritățile.
Perspective și evoluții viitoare
Directorul general al Anthropic, Dario Amodei, a avertizat că și alte companii ar putea dezvolta sisteme similare. Experții estimează că modele AI cu astfel de capacități ar putea apărea pe piață în următoarele șase până la 18 luni. Specialiștii în securitate cibernetică avertizează că industria trebuie să se pregătească pentru apariția unor instrumente AI capabile să identifice și să exploateze vulnerabilități informatice la scară largă.
