Chatbot medici | il rischio di errori fatali tra falsi dati e triage errati
Ogni giorno, milioni di persone usano chatbot come ChatGPT, Claude o Gemini per chiedere informazioni sulla salute. Questi strumenti vengono impiegati per chiarimenti su vari problemi fisici, ma ci sono preoccupazioni riguardo ai possibili rischi legati a dati inesatti e a valutazioni errate. La crescente diffusione di queste tecnologie solleva interrogativi sulla loro affidabilità e sicurezza in ambito sanitario.
Milioni di utenti si rivolgono quotidianamente a chatbot come ChatGPT, Claude o Gemini per ottenere chiarimenti su questioni legate alla propria salute fisica. Tuttavia, studi recenti hanno evidenziato come l’affidabilità di questi modelli linguistici sia inferiore alle aspettative, con rischi concreti legati alla gestione di casi critici e alla propagazione di informazioni errate. La ricerca condotta da Nadkarni, specialista in intelligenza artificiale applicata alla medicina e direttore dell’Hasso Plattner Institute for Digital Health presso il Mt. Sinai, ha messo in luce una vulnerabilità strutturale: i chatbot possono apparire estremamente autorevoli pur fornendo risposte sbagliate. Durante i test, è emerso che le capacità dei modelli di rilevare la disinformazione medica variano drasticamente in base al contesto. 🔗 Leggi su Ameve.eu
Notizie e thread social correlati
Leggi anche: Test antidroga USA: tra errori e falsi positivi, il rischio arresti
Monaldi, sospesi due dirigenti medici. Verbali e chat interne svelano, minuto per minuto, la catena di errori fataliIl caso del piccolo Domenico, il bambino deceduto lo scorso 21 febbraio dopo un calvario iniziato due mesi prima all’Ospedale Monaldi di Napoli,...
âžœ