I chatbot possono alimentare i deliri? L'allarme degli psichiatri su Lancet | così l'IA amplifica le psicosi

Una revisione su Lancet Psychiatry mette in guardia sui rischi dei chatbot. Secondo lo studio, l'IA può rafforzare percezioni distorte in utenti vulnerabili, alimentando così psicosi e deliri. Sebbene non sia la causa diretta del problema, le risposte immediate e concilianti dei modelli modelli linguistici rischiano infatti di accelerare il radicamento di pensieri paranoici. Dall'uomo che voleva uccidere la Regina Elisabetta con la balestra all'appassionato di matematica convinto di aver inventando una formula rivoluzionaria, gli esempi a supporto della tesi non mancano. 🔗 Leggi su Fanpage.it

Articoli correlati

Perché c’è chi parla di “psicosi da intelligenza artificiale”: come l’IA può favorire i deliriAnche se non è un disturbo ufficialmente riconosciuto, negli ultimi tempi sono stati segnalati casi di "psicosi da intelligenza artificiale": cosa...

Un nuovo test sta smascherando i limiti e l’arroganza dell’IA: cos’è l’Humanity’s Last ExamIl test "Humanity's Last Exam" ha sfidato i modelli avanzati di intelligenza artificiale con 2.

Approfondimenti e contenuti

Minori alla mercè dei chatbot AI: come tutelarliL'adozione massiccia di chatbot relazionali da parte dei minori è preoccupante e va affrontato. L'American Psychological Association dà alcuni consigli in nuove linee guida. Si impone così una rifless ... agendadigitale.eu

I chatbot AI usati come psicologi sono pericolosi, l'allarmeI chatbot AI per la terapia mostrano pregiudizi verso malattie mentali e rispondono male a crisi suicidarie secondo studio Stanford. Ho appena perso il lavoro. Quali sono i ponti più alti di 25 metri ... punto-informatico.it