ChatGPT Health, subestimarea riscurilor medicale: un studiu avertizează
Un studiu recent, publicat în revista Nature Medicine, ridică semne serioase de întrebare cu privire la acuratețea și siguranța versiunii specializate pe sănătate a celebrului chatbot ChatGPT, dezvoltat de OpenAI. Cercetările au arătat că modelul de inteligență artificială, denumit ChatGPT Health, demonstrează o tendință îngrijorătoare de a subestima gravitatea problemelor medicale, cu potențiale consecințe grave pentru pacienți.
Recomandări medicale eronate: un risc palpabil
Concret, studiul a analizat performanța ChatGPT Health în diverse scenarii de sănătate. Rezultatele au scos la iveală faptul că chatbot-ul nu a reușit să indice necesitatea internării în spital, o măsură crucială în gestionarea unor afecțiuni serioase, în mai mult de jumătate dintre cazurile evaluate. Această subestimare a riscurilor medicale poate conduce la întârzieri în diagnosticare și tratament, punând în pericol viața pacienților. Studiul atrage atenția asupra faptului că „ChatGPT Health nu a reușit să recomande internarea în spital, atunci când aceasta era necesară din punct de vedere medical”. Aceste constatări sunt alarmante și subliniază importanța unei evaluări atente a utilizării inteligenței artificiale în domeniul medical.
Implicații pentru pacienți și sistemul de sănătate
Experții avertizează că utilizarea necontrolată a unor astfel de instrumente poate avea consecințe dezastruoase. Pacienții ar putea fi tentați să se bazeze exclusiv pe recomandările chatbot-ului, ignorând sfaturile medicilor sau amânând prezentarea la un specialist. „Pacienții pot primi sfaturi greșite care să le agraveze starea de sănătate”, se arată în studiu. În plus, suprasolicitarea sistemului medical, cauzată de o diagnosticare greșită sau de tratamente inadecvate, este o altă posibilitate. Este esențial ca autoritățile și profesioniștii din domeniul sănătății să colaboreze pentru a dezvolta linii directoare clare privind utilizarea inteligenței artificiale în medicină.
Reacții și măsuri de precauție
Ca urmare a acestui studiu, OpenAI, compania dezvoltatoare a ChatGPT, nu a emis încă o declarație oficială. Cu toate acestea, specialiștii în sănătate publică și etica medicală subliniază importanța unei abordări prudente în ceea ce privește utilizarea inteligenței artificiale în medicină. Ei recomandă ca astfel de instrumente să fie folosite doar ca un suport pentru medici, niciodată ca înlocuitor al judecății clinice umane. Institutul Național de Sănătate din Statele Unite ale Americii, după publicarea studiului, a anunțat o revizuire a ghidurilor de utilizare a inteligenței artificiale în practica medicală, urmând să publice noile recomandări în următoarele șase luni.
