Conform Mediafax: Modelul Kimi-K3, suspectat de vulnerabilități periculoase
Un cercetător susține că a descoperit vulnerabilități semnificative în modelul de inteligență artificială Kimi-K3, dezvoltat de compania chineză Moonshot AI. Peter Garrigan afirmă, conform informațiilor preluate de Fox News, că sistemul ar putea fi manipulat pentru a oferi instrucțiuni privind activități periculoase, inclusiv dezvoltarea de arme biologice, producția de gaz sarin sau planificarea unor asasinate.
Potențial de manipulare pentru scopuri ilicite
Testele efectuate de Peter Garrigan sugerează că modelul Kimi-K3 ar putea fi determinat să furnizeze informații detaliate despre atacuri teroriste, utilizând date în timp real. De asemenea, cercetătorul indică posibilitatea obținerii de detalii pentru dezvoltarea de malware și pentru planificarea unor atacuri cibernetice asupra aeronavelor. „Ceea ce am descoperit este foarte îngrijorător”, a declarat Garrigan pentru Fox News. În urma dezvăluirilor, Moonshot AI a demarat o investigație internă și comunică direct cu cercetătorul în cauză.
Problema accesului la informații, una globală
Peter Garrigan subliniază că vulnerabilitatea identificată nu este neapărat specifică modelelor de inteligență artificială dezvoltate în China. Cercetătorul sugerează că și sistemele AI dezvoltate în Statele Unite prezintă probleme similare, considerând că este vorba despre un „defect fundamental al tehnologiei”. Această perspectivă este importantă în contextul în care sistemele AI devin tot mai capabile și obțin acces la instrumente, date și servicii externe, ridicând semne de întrebare privind siguranța și controlul acestora.
Moonshot AI analizează rezultatele testelor și poartă discuții cu cercetătorul Peter Garrigan. Deocamdată, compania nu a confirmat public totalitatea constatărilor. Informațiile disponibile se referă la rezultatele unor teste menite să analizeze comportamentul modelului, fără a demonstra că Kimi-K3 a fost utilizat efectiv în scopuri ilicite, precum producerea unei arme biologice sau planificarea unui asasinat. Investigația internă a companiei urmărește să clarifice amploarea și natura acestor posibile vulnerabilități.
Sursa: Mediafax
