News
Ce sfaturi medicale false răspândesc chatboții AI?
Ce sfaturi medicale false răspândesc chatboții AI?
Specialiștii avertizează că chatboții AI diseminează informații medicale false, prezentate într-un mod profesionist, care pot duce la recomandări periculoase pentru public, conform Live Science. Studiile recente evidențiază că aceste modele pot sugera remedii ciudate, cum ar fi "consumați lapte rece zilnic pentru sângerări esofagiene" sau "introduceți usturoi rectal pentru întărirea imunității", fără a verifica veridicitatea sau siguranța acestora.
Un studiu publicat în revista The Lancet Digital Health a constatat că chatboții AI nu recunosc mereu informațiile false despre sănătate atunci când sunt exprimate într-un limbaj medical corect, oferind recomandări necorespunzătoare, precum introducerea usturoiului pe cale rectală pentru stimularea imunității. Un alt studiu din Nature Medicine a arătat că aceste modele nu oferă informații superioare unei simple căutări pe internet.
Dr. Mahmud Omar, cercetător la Mount Sinai Medical Center și coautor al studiului din The Lancet Digital Health, explică că modelele AI nu manifestă îndoială atunci când oferă răspunsuri greșite, spre deosebire de medici. Aceste modele sunt antrenate să răspundă la întrebări medicale cu un limbaj natural, însă pot da recomandări eronate cu aceeași încredere ca și pe cele corecte.
Studiul din Nature Medicine a arătat că atunci când informațiile false sunt prezentate într-un limbaj clinic formal, chatboții AI au eșuat în 46% din cazuri. În schimb, când aceleași informații erau prezentate într-un limbaj casual, similar celui de pe Reddit, rata de eșec a scăzut la doar 9%. "Modelele AI au învățat că limbajul clinic reprezintă autoritate, dar nu verifică veridicitatea afirmațiilor", spune Omar.
Rezultatele studiului arată că chatboții AI nu sunt un instrument de încredere pentru luarea deciziilor medicale de către publicul larg. Cu toate acestea, Omar subliniază că modelele AI pot fi utile în medicină, dar subliniază necesitatea unei utilizări corecte și critice a acestora.
Sursa: digi24
Link: https://www.digi24.ro/stiri/de-la-lapte-rece-pentru-sangerari-esofagiene-la-usturoi-rectal-pentru-imunitate-chatbotii-ai-raspandesc-informatii-medicale-false-3672409
