Navigarea agentică prin Gemini, integrată recent în Google Chrome, promite să automatizeze sarcini complexe pe web, de la completarea formularelor până la extragerea de date. Pentru a contracara riscurile asociate cu această autonomie, Google a introdus sistemul de securitate User Alignment Critic, un model AI dedicat verificării fiecărei acţiuni executate de agent.
Ce este navigarea agentică și de ce necesită protecție suplimentară
Navigarea agentică permite asistentului AI Gemini să acționeze independent pe pagini web, eliminând nevoia de comandă pas cu pas. Această eficiență generează, totodată, vulnerabilităţi precum injecţia indirectă de prompturi, în care conţinutul unei pagini încearcă să manipuleze AI‑ul. Pentru a bloca astfel de tentative, Google a conceput un set de controale încorporate în Chrome.
Funcționarea User Alignment Critic în ecosistemul Chrome
User Alignment Critic este un model Gemini izolat, care analizează fiecare solicitare generată de agent înainte de execuție. Principalele sale roluri includ:
– verificarea siguranţei acţiunii propuse;
– analizarea metadatelor pentru contextul site‑ului;
– protecţia împotriva manipulării prin conţinut malițios;
– returnarea controlului utilizatorului în cazuri sensibile.
Prin această filtrare, Chrome asigură că navigarea agentică rămâne în limitele definite de utilizator.
Origin Sets – limitarea domeniilor de acţiune
Origin Sets restricţionează accesul agentului la site‑urile strict necesare pentru sarcina curentă, blocând iframe‑urile, reclamele și domeniile necorelate. Această izolare reduce semnificativ scurgerile de date și împiedică operarea pe pagini maliţioase.
Supravegherea utilizatorului în acţiuni critice
Când agentul atinge pagini bancare, managerul de parole sau alte zone sensibile, Chrome impune o pauză obligatorie și solicită confirmarea explicită a utilizatorului. Acest mecanism păstrează controlul final în scenarii cu risc ridicat.
Detectarea prompt injection‑ului
Un detector dedicat scanează în timp real paginile pentru a identifica încercările de manipulare a AI‑ului. Funcţia lucrează în sinergie cu Safe Browsing și cu sistemele anti‑scam existente în Chrome.
Testare agresivă și recompense pentru vulnerabilităţi
Google folosește un mediu automatizat de red‑teaming, în care AI‑ul creează site‑uri false și scenarii de atac pentru a evalua rezistenţa User Alignment Critic. În plus, compania oferă recompense de până la 20 000 USD pentru cercetătorii care descoperă deficienţe în acest sistem, subliniind angajamentul faţă de securitatea navigării agentice.
Navigarea agentică reprezintă un pas semnificativ în interacţiunea cu internetul, iar integrarea User Alignment Critic în Chrome oferă un cadru de protecţie esenţial pentru utilizatori. Menținerea unei informări constante şi urmărirea evoluţiilor în domeniul securității AI rămân cruciale pentru utilizarea în siguranță a noilor funcţii.
