Google a eliminat unele rezumate generate de inteligența artificială (AI) privind sănătatea, după ce o anchetă a descoperit că oamenii erau expuși riscului de a fi afectați de informații false și înșelătoare. Rezumatele respective, care utilizează inteligența artificială generativă pentru a oferi instantanee cu informații esențiale despre un subiect sau o întrebare, au fost considerate “utile” și “fiabile” de către companie.
Riscuri pentru sănătate
Însă, unele dintre rezumate ofereau informații inexacte despre sănătate, expunând utilizatorii la riscuri. Într-un caz descris de experți ca “periculos” și “alarmant”, Google a furnizat informații false despre teste cruciale ale funcției hepatice, care puteau determina persoanele cu boli hepatice grave să creadă în mod eronat că sunt sănătoase. “Este o veste excelentă și suntem încântați să vedem eliminarea AI Overviews de la Google în aceste cazuri”, a declarat Vanessa Hebditch, directoarea de comunicare și politici la British Liver Trust.
Probleme cu AI Overviews
Cu toate acestea, există încă îngrijorări că alte informații medicale generate de AI pot fi inexacte și confuze. “Un test de funcționare a ficatului sau LFT este o colecție de diferite teste de sânge. Înțelegerea rezultatelor și a ceea ce trebuie făcut în continuare este complexă și implică mult mai mult decât compararea unui set de numere”, a explicat Hebditch. AI Overviews prezintă o listă de teste cu caractere aldine, ceea ce face foarte ușor pentru cititori să nu observe că aceste numere ar putea să nu fie chiar cele potrivite pentru testul lor.
Eliminarea rezumatelor
După anchetă, Google a eliminat AI Overviews pentru termenii de căutare “care este intervalul normal pentru testele de sânge ale ficatului” și “care este intervalul normal pentru testele funcționale ale ficatului”. Un purtător de cuvânt al Google a declarat: “Nu comentăm eliminările individuale din cadrul căutării. În cazurile în care AI Overviews omite anumite contexte, lucrăm pentru a aduce îmbunătățiri generale și, de asemenea, luăm măsuri în conformitate cu politicile noastre, acolo unde este cazul”. În ciuda eliminărilor, există încă preocupări că Google nu abordează problema mai amplă a AI Overviews pentru sănătate.
Perspective
Milioane de adulți din întreaga lume se luptă deja să acceseze informații de încredere despre sănătate, a spus Sue Farrington, președinta Patient Information Forum. “De aceea este atât de important ca Google să îndrume oamenii către informații solide și documentate despre sănătate și către oferte de îngrijire medicală de la organizații de sănătate de încredere”. AI Overviews continuă să apară pentru alte exemple, incluzând rezumate ale informațiilor despre cancer și sănătatea mintală pe care experții le-au descris ca fiind “complet eronate” și “foarte periculoase”. Google a declarat că analizează noile exemple furnizate și că echipa sa internă de medici a constatat că, în multe cazuri, informațiile nu erau inexacte și erau susținute de site-uri web de înaltă calitate.
