Conform Economistul.ro: AI Office primește noi competențe pentru supravegherea modelelor de inteligență artificială
Comisia Europeană poate aplica din 2 august 2026 obligațiile AI Act pentru furnizorii de modele de inteligență artificială de uz general, inclusiv prin solicitarea de informații, evaluarea modelelor și impunerea de măsuri de reducere a riscurilor. Aceste noi competențe reprezintă un pas important în implementarea legislației privind inteligența artificială și au fost invocate recent de Comisie într-un context de preocupări legate de manipularea digitală.
Aplicarea sancțiunilor și evaluarea riscurilor sistemice
Începând cu data de 2 august 2026, AI Office, o structură a Comisiei Europene dedicată supravegherii modelelor de inteligență artificială de uz general (GPAI), va putea aplica efectiv regulile stabilite de AI Act. Furnizorii de astfel de modele, ale căror obligații s-au aplicat deja începând cu 2 august 2025, se vor confrunta acum cu o perioadă de aplicare riguroasă. Oficiul va avea puterea de a cere furnizorilor documentație tehnică, informații relevante pentru dezvoltatori și de a evalua modelele pentru a verifica conformitatea. În cazul modelelor considerate a prezenta riscuri sistemice, Comisia poate solicita măsuri tehnice și organizaționale specifice pentru diminuarea acestor riscuri. Mai mult, în situațiile prevăzute de lege, Comisia poate cere retragerea unui model de pe piață sau poate impune amenzi substanțiale pentru nerespectarea obligațiilor.
Transparență sporită pentru utilizatori și conținutul generat de AI
Pe lângă competențele de supraveghere asupra modelelor GPAI, de la aceeași dată, 2 august 2026, intră în vigoare și noi obligații de transparență pentru anumite sisteme de inteligență artificială și forme de conținut. Aceste reguli vizează asigurarea că utilizatorii pot identifica interacțiunile cu sisteme AI sau conținutul generat sau manipulat artificial. Furnizorii de sisteme AI vor trebui să informeze utilizatorii atunci când aceștia interacționează direct cu inteligența artificială. Pentru sistemele generative, AI Act impune utilizarea unor marcaje detectabile automat pentru conținutul creat sau modificat prin AI. De asemenea, profesioniștii care utilizează anumite sisteme AI vor trebui să informeze publicul, în anumite condiții, atunci când este expus la „deepfake-uri” sau la texte generate sau manipulate prin AI, în special dacă acestea privesc chestiuni de interes public. Deși aceste măsuri vizează reducerea riscului de inducere în eroare, Comisia Europeană nu a susținut că acestea pot elimina complet riscurile de manipulare electorală sau a consultărilor publice.
Comisia a prezentat aceste noi puteri la un briefing din 11 august, ca răspuns la întrebări privind garanțiile împotriva manipulării alegerilor prin intermediul boților, conturilor false și conținutului generat de AI. Aceste instrumente, deși nu garantează eliminarea completă a manipulării, oferă autorităților europene noi pârghii de supraveghere și control asupra pieței inteligenței artificiale, consolidând astfel protecția cetățenilor în fața riscurilor asociate cu această tehnologie în rapidă evoluție.
Sursa: Economistul.ro
