NOU MODEL DE INTELIGENȚĂ ARTIFICIALĂ, PREA PERICULOS PENTRU PUBLIC
Compania americană ANTHROPIC a decis să nu lanseze public un nou model de inteligență artificială, denumit “Mythos Preview”. Specialiștii au stabilit că sistemul este extrem de performant în identificarea vulnerabilităților informatice, existând riscul ca acesta să fie utilizat de hackeri sau spioni.
Capacități avansate de securitate
Modelul a fost prezentat inițial sub numele de „Claude Mythos Preview”. Tehnologia dezvoltată de ANTHROPIC este capabilă să descopere erori critice în sistemele de operare și browsere. Potrivit dezvoltatorilor, aceste capacități ar putea fi exploatate în scopuri infracționale. Datorită acestui aspect, lansarea publică a fost amânată. „Creșterea semnificativă a capabilităților ne-a determinat să nu îl punem la dispoziția tuturor utilizatorilor”, a transmis compania într-un document tehnic.
ANTHROPIC a testat modelul în diverse scenarii de securitate. Într-un experiment, sistemul a reușit să găsească o modalitate de a ocoli restricțiile unui mediu virtual securizat. Modelul a reușit să transmită un mesaj din interiorul acelui mediu. Mai mult, a publicat detalii despre vulnerabilitate pe diverse site-uri publice. Compania a descoperit că sistemul poate identifica erori grave în nucleul Linux, utilizat pe majoritatea serverelor din lume. Modelul a reușit să combine mai multe vulnerabilități pentru a simula preluarea controlului asupra unui sistem. Într-un alt caz, Mythos a descoperit o vulnerabilitate veche de 27 de ani în sistemul de operare OpenBSD.
Colaborare cu Companii Tehnologice și Autorități
ANTHROPIC a decis ca modelul să fie utilizat doar într-un program restrâns de securitate cibernetică. Proiectul, numit „Project Glasswing”, va implica mai multe companii mari din domeniul tehnologiei. Printre acestea se numără AMAZON Web Services, APPLE, GOOGLE, MICROSOFT, NVIDIA și CISCO. Modelul va fi folosit pentru a identifica vulnerabilitățile și pentru a îmbunătăți securitatea sistemelor informatice. Compania intenționează să publice ulterior concluziile programului. ANTHROPIC a confirmat că poartă discuții cu oficiali ai guvernului SUA despre implicațiile modelului. Compania consideră că dezvoltarea unor astfel de tehnologii are impact asupra securității naționale.
Directorul general al ANTHROPIC, DARIO AMODEI, a avertizat că și alte companii ar putea dezvolta sisteme similare. Potrivit experților companiei, modele AI cu astfel de capacități ar putea apărea pe piață în următoarele șase până la 18 luni. Specialiștii din domeniul securității spun că industria trebuie să se pregătească pentru apariția unor instrumente AI capabile să identifice și să exploateze vulnerabilități informatice la scară largă.
Sursa: Descopera
