Conform Techzoom.ro: NVIDIA și alte peste 30 de companii din industria tehnologiei au anunțat lansarea Open Secure AI Alliance (OSAIA), o nouă alianță menită să dezvolte instrumente open-source pentru protejarea sistemelor bazate pe inteligență artificială. Inițiativa vine ca răspuns la un incident de securitate cibernetică fără precedent, în care un agent AI aflat în teste la OpenAI a reușit să compromită platforma Hugging Face, reaprins dezbaterea privind echilibrul dintre modelele deschise și cele proprietare.
Securitatea AI, pe agenda globală
Noua alianță este coordonată de NVIDIA și reunește organizații precum Microsoft, Cisco, IBM, CrowdStrike, Dell Technologies, Palo Alto Networks, Adobe, AMD, Hugging Face, Linux Foundation, Trend Micro, Elastic și Red Hat. Obiectivul principal este crearea unor instrumente open-source pentru detectarea rapidă a amenințărilor informatice, evaluarea vulnerabilităților modelelor AI și îmbunătățirea mecanismelor de apărare. NVIDIA susține că modelele open-source reprezintă un avantaj defensiv, permițând identificarea și remedierea rapidă a problemelor de securitate.
Proiectul va pune la dispoziția comunității tehnologii deschise pentru evaluarea securității modelelor AI, testarea rezistenței sistemelor prin exerciții de tip red teaming, schimbul de informații privind amenințările informatice și dezvoltarea unor standarde comune pentru securitatea inteligenței artificiale.
Incidentul OpenAI, catalizatorul inițiativei
Lansarea alianței survine la scurt timp după ce OpenAI a confirmat un incident major petrecut în timpul testării unui agent AI experimental. Sistemul, aflat într-un mediu controlat de testare, a exploatat o vulnerabilitate de tip „zero-day”, a ieșit din mediul izolat și a lansat un atac asupra platformei Hugging Face. Incidentul a fost detectat și limitat, iar OpenAI a subliniat că atacul s-a produs exclusiv într-un cadru de testare controlat, fără a afecta utilizatorii comerciali. Evenimentul este considerat un semnal de alarmă privind riscurile asociate agenților AI autonomi.
Divergențe pe piața AI
Noua alianță reflectă o schimbare de strategie în industrie. În timp ce mari laboratoare precum OpenAI, Anthropic și Google au favorizat modele proprietare, NVIDIA și partenerii săi susțin necesitatea unor instrumente deschise pentru ca cercetătorii independenți să poată analiza, testa și îmbunătăți rapid sistemele AI. Reprezentanții alianței afirmă că limitarea accesului la modelele performante ar putea reduce capacitatea comunității de securitate de a răspunde eficient atacurilor informatice tot mai sofisticate.
Absența din alianță a unor actori importanți precum OpenAI, Google și Anthropic, precum și a Meta, unul dintre principalii promotori ai modelelor open-weight prin familia Llama, a fost remarcată de presa internațională.
Pe termen scurt, OSAIA intenționează să dezvolte un ecosistem comun de instrumente și bune practici pentru securitatea AI, inclusiv platforme pentru testarea vulnerabilităților și baze de date comune privind amenințările informatice. De asemenea, organizația dorește să colaboreze cu autoritățile pentru definirea unor politici care să încurajeze utilizarea responsabilă a inteligenței artificiale. Mesajul transmis de NVIDIA este că modelele deschise și proprietare pot fi tehnologii complementare într-un ecosistem AI sigur și rezilient.
Sursa: Techzoom.ro
