Google: AI livrează zilnic milioane de răspunsuri greșite

Inteligența Artificială (AI) generativă de la Google, în ciuda progreselor, se confruntă cu probleme serioase legate de acuratețe, generând răspunsuri greșite de zeci de mii de ori pe oră. Deși promite o sinteză rapidă și eficientă a informațiilor, funcția „AI Overview” a motorului de căutare Google, testată pe scară largă, afișează erori semnificative. Riscurile sunt amplificate de volumul masiv de căutări procesate zilnic.

Erori și surse problematice

Un studiu recent sugerează că, deși 90% din răspunsurile AI par corecte, rata de eroare rămâne problematică. Având în vedere că Google ar putea procesa peste cinci trilioane de căutări până la finalul anului 2026, asta înseamnă zeci de milioane de răspunsuri discutabile în fiecare oră și sute de mii de erori în fiecare minut. Problemele sunt agravate de modul în care AI accesează și interpretează informațiile. Unele cercetări au scos la iveală faptul că platforme precum Facebook și Reddit sunt citate frecvent, chiar și atunci când informațiile furnizate sunt eronate. Astfel, AI-ul poate prelua conținut fals, generând răspunsuri incorecte.

Impredictibilitatea și încrederea utilizatorilor

Acuratețea răspunsurilor este, de asemenea, imprevizibilă. Un răspuns greșit poate deveni corect la o căutare repetată, ceea ce face dificilă evaluarea constantă a performanței. În plus, prezentarea răspunsurilor AI în partea de sus a paginii de rezultate influențează utilizatorii să aibă încredere în aceste informații, chiar dacă nu sunt verificate. Potrivit experților, dependența excesivă de astfel de tehnologii ar putea avea efecte negative asupra capacităților cognitive.

Recomandări și măsuri de precauție

Reprezentanții Google au declarat că sistemele lor folosesc aceleași mecanisme de filtrare ca motorul de căutare principal. Cu toate acestea, este esențial ca utilizatorii să trateze astfel de instrumente cu scepticism. Eroarea, chiar și într-un procent mic, poate avea un impact major, având în vedere numărul mare de căutări efectuate zilnic. Recomandarea principală rămâne atenționarea sistemului: „AI-ul poate greși, așa că verifică informațiile!”.