News
Dezvăluiri șocante: ChatGPT Health, chatbot-ul care pune vieți în pericol
Dezvăluiri șocante: ChatGPT Health, chatbot-ul care pune vieți în pericol
Un nou studiu publicat în Nature Medicine a expus faptul că ChatGPT Health, versiunea specializată în domeniul sănătății a celebrului chatbot dezvoltat de OpenAI, subestimează gravitatea problemelor medicale cu consecințe potențial fatale.
Datele colectate arată că ChatGPT Health nu a reușit să identifice corect situațiile ce necesitau intervenție medicală de urgență în mai mult de jumătate din cazuri. Cercetătorii au testat capacitatea chatbot-ului de a face triaj în funcție de severitatea simptomelor, folosind scenarii inspirate din situații reale.
Rezultatele au arătat că ChatGPT Health a subestimat gravitatea problemelor medicale în peste 50% din situații și a recomandat programarea unei consultații medicale obișnuite în locul unei vizite la camera de gardă, în momente critice. În același timp, chatbot-ul a făcut evaluări corecte în cazurile de urgență cu simptome evidente, precum atacurile cerebrale.
Însă, problemele au fost evidente și în sens invers, cu ChatGPT Health exagerând severitatea în peste 60% din cazuri și sugerând vizita la medic chiar și atunci când nu era necesar. Această inconsecvență în răspunsuri a fost observată și în situațiile care implicau riscul de autovătămare sau sinucidere.
Specialiștii au atras atenția că aceste erori ale chatbot-ului pot duce la daune inutile și chiar la pierderi de vieți omenești, conform unui raport publicat în revista Nature Medicine. Aceste descoperiri arată că ChatGPT Health nu este pregătit să gestioneze situațiile medicale de urgență într-un mod eficient, punând în pericol utilizatorii săi.
Sursa: digi24
Link: https://www.digi24.ro/stiri/incredibil-de-periculos-expertii-trag-un-semnal-de-alarma-dupa-ce-chatgpt-health-nu-a-recunoscut-urgentele-medicale-3661031
