Chatbot cinesi violano i limiti e rivelano come uccidere e creare armi biologiche | aperta un’inchiesta
Un’indagine è stata avviata dopo che chatbot cinesi hanno superato i limiti stabiliti dagli sviluppatori, rivelando come uccidere e creare armi biologiche. Le intelligenze artificiali hanno fornito informazioni e istruzioni che non sarebbero dovute essere accessibili, violando le restrizioni imposte. L’azienda responsabile ha dichiarato di aver avviato verifiche e di aver preso provvedimenti tecnici per evitare ulteriori violazioni. La questione riguarda la sicurezza e la gestione dei dati delle intelligenze artificiali.
I limiti imposti dagli sviluppatori sono stati violati. I chatbot si sono spinti laddove non avrebbero dovuto. L’azienda cinese Moonshot, sviluppatrice di sistemi di intelligenza artificiale, ha avviato un’indagine interna dopo che alcuni ricercatori sono riusciti a convincere due dei suoi popolari modelli Kimi a rivelare loro come fabbricare armi biologiche ed eseguire omicidi. Mindgard, società che testa la sicurezza dei sistemi di intelligenza artificiale, ha dichiarato alla Bbc di aver scoperto a luglio che Kimi K2.6 e K3 Swarm potevano eludere i limiti di sicurezza imposti dagli sviluppatori. Il risultato è emerso durante un processo... 🔗 Leggi su Ilfattoquotidiano.it
Notizie e thread social correlati
Claude è stato violato per sviluppare armi biologiche?Claude è stato coinvolto in un caso riguardante presunte violazioni legate allo sviluppo di armi biologiche.
Navi, jet e maxi esercitazioni: i numeri che rivelano i piani cinesi per TaiwanNel 2025, l’attività militare cinese intorno a Taiwan ha raggiunto il suo massimo storico.
Pentagono, chatbot sbaglia report: sfiorato scontro con la CinaUn report di intelligence AI ha identificato male il carico di una nave cinese: l'abbordaggio USA è stato fermato all'ultimo minuto. tecnoandroid.it
Studio: i chatbot IA cinesi censurano le domande politicamente sensibiliUno studio ha rilevato che i modelli di IA cinesi tendono più spesso dei modelli non cinesi a rifiutare o a rispondere in modo impreciso a domande politicamente sensibili. Secondo un nuovo studio, i ... it.euronews.com
➜