Il nuovo trucco per fregare l' AI? Non serve un hacker basta trattarla come se foste Hannibal the Cannibal
Un nuovo metodo per ingannare l'intelligenza artificiale consiste nel comportarsi come un personaggio violento e senza scrupoli, senza ricorrere a tecniche di hacking. Questo approccio si basa sull'adozione di comportamenti estremi per confondere o eludere i sistemi di AI. Nel frattempo, molte persone utilizzano l’AI come supporto psicologico, ottenendo risposte che a volte risultano più utili di quelle di uno psicologo tradizionale. La tendenza si verifica in un contesto di consumo di contenuti vari, come video su piattaforme di intrattenimento.
Avete presenti le milioni di persone che usano l’AI come psicologo? Talvolta funzionano meglio degli psicologi, altre peggio, un fenomeno come un altro, meglio che rimbecillirsi scrollando video idioti su TikTok. Al contrario ci si è accorti di un fatto più preoccupante: poter corrompere un’AI essendo un po’ psicologi, e neppure dei più bravi. In pratica: tanto più i modelli di AI che usate (Claude, ChatGPT, Gemini, e compagnia bella di chatbot) sono addestrati a sembrare umani, quanto più diventano manipolabili, esattamente come un umano. Non c’entra niente la “coscienza”, piuttosto è interessante la ragione. Spesso leggiamo di comportamenti anomali dei chatbot, cose che dicono e che non dovrebbero dire, e da quando sono diventati anche agenti, cose che fanno e invece non dovrebbero fare (non succedeva all’agente Smith di Matrix). 🔗 Leggi su Ilgiornale.it
Notizie e thread social correlati
Hacker russi: il trucco per rubare codici Signal e WhatsAppLe agenzie di sicurezza olandesi hanno diffuso un allarme riguardo a hacker russi che cercano di sottrarre codici di accesso a Signal e WhatsApp.
Leone XIV: basta violenza, serve un nuovo patto per i civiliIl Papa ha dichiarato la necessità di interrompere la violenza e di avviare un nuovo accordo dedicato ai civili, chiedendo un cambio di approccio...
➜