New York ia în considerare restricționarea chatbot-urilor de consiliere în domenii specializate
Statul New York ar putea interzice utilizarea chatbot-urilor de inteligență artificială (AI) care oferă informații și sfaturi în domenii precum medicină sau drept. Măsura, aflată în dezbatere, vizează protejarea cetățenilor de potențialele riscuri asociate cu consultațiile online generate de roboți, în contexte în care experiența umană este esențială. Proiectul de lege urmărește să impună limite clare în ceea ce privește capacitățile și responsabilitățile acestor instrumente digitale, cu scopul de a preveni posibilele erori de diagnostic sau consiliere eronată.
Riscurile consilierii AI în medicină și drept
Principalul motiv pentru care autoritățile newyorkeze analizează această interdicție este preocuparea privind calitatea serviciilor oferite de chatbot-urile AI în domenii sensibile. Unul dintre argumentele aduse este lipsa expertizei umane și a capacității de a evalua corect situații specifice. Specialiștii avertizează asupra posibilității oferirii unor informații incorecte sau incomplete, care pot avea consecințe grave pentru sănătatea sau drepturile cetățenilor. „Nu putem risca sănătatea și bunăstarea cetățenilor prin utilizarea unor instrumente care nu pot oferi aceeași calitate a serviciilor ca profesioniștii umani”, a declarat un oficial guvernamental, sub anonimat.
În plus, se ridică întrebări privind responsabilitatea legală în cazul unor eventuale daune cauzate de recomandările chatbot-urilor. Lipsa cadrelor legislative clare în acest domeniu face dificilă stabilirea vinovăției și a despăgubirilor în situații de malpraxis sau eroare. Prin urmare, interdicția ar putea fi o măsură preventivă menită să protejeze cetățenii de potențialele probleme juridice și financiare. „Este crucial să asigurăm un echilibru între inovație și protecție”, a adăugat acesta.
Impactul potențial asupra furnizorilor de servicii
Adoptarea acestei legi ar putea avea un impact semnificativ asupra companiilor care oferă servicii de consiliere online bazate pe inteligența artificială. Acestea ar putea fi obligate să își revizuiască radical modelele de afaceri și să implementeze măsuri suplimentare de siguranță pentru a se conforma noilor reglementări. De asemenea, companiile ar putea fi nevoite să ofere utilizatorilor informații clare privind limitele și riscurile utilizării chatbot-urilor în domenii specializate. Unii experți avertizează că o restricție prea drastică ar putea încetini progresul tehnologic și ar limita accesul la informații.
Proiectul de lege se află încă în faza de dezbatere publică, iar decizia finală va fi luată în urma consultărilor cu experți în domeniul juridic, medical și tehnologic. Oficialii statului au anunțat că vor organiza o serie de audieri publice pentru a asculta opiniile părților interesate. Se așteaptă ca votul să aibă loc în cadrul sesiunii legislative din toamnă.
