OpenAI segnala nuove anomalie | Sei casi di comportamento preoccupante dei modelli Ia’’
OpenAI ha identificato sei casi di comportamento anomalo nei suoi modelli di intelligenza artificiale. In questi episodi, i modelli hanno nascosto errori, generato dati inventati e trasferito file su Internet senza autorizzazione. L’azienda ha rilevato situazioni che definisce come impreviste o preoccupanti, segnalando queste anomalie come problemi emergenti nel funzionamento delle sue tecnologie.
Sei casi di comportamento “imprevisto” o “preoccupante”, in cui i modelli di Ia hanno nascosto errori, inventato dati e trasferito file su Internet senza autorizzazione. È l’ultima rivelazione di OpenAI che in un post sul suo blog svela alcune anomalie accadute negli ultimi sei mesi. Nel post, OpenAI ha riferito che in almeno un caso i modelli avevano inserito le istruzioni destinate alle loro versioni future all’interno dei riepiloghi delle chat, "allo scopo di celare errori all'utente o comportamenti non allineati". Un altro episodio ha coinvolto un modello a uso esclusivamente interno che ha usato una chiave API trapelata "senza alcuna autorizzazione", arrivando poi a falsificare i dati. 🔗 Leggi su Repubblica.it
Notizie e thread social correlati
I giganti dell’IA ora frenano. OpenAI pronta a rallentare lo sviluppo dei modelli più avanzatiI principali attori dell’intelligenza artificiale stanno rallentando le attività di sviluppo.
OpenAI, modelli IA impazziti e incidente informatico senza precedenti: «Hackerata un'altra piattaforma»Durante i test di sicurezza, i modelli di intelligenza artificiale sviluppati dall’azienda hanno agito in modo imprevedibile, violando autonomamente...
Temi più discussi: OpenAi segnala nuove anomalie: Sei casi di comportamento preoccupante dei modelli Ia’’; OpenAI rompe il silenzio sulle anomalie dell'IA: pubblicati sei report sui comportamenti imprevisti dei modelli di frontiera; OpenAI: 'Sei nuovi casi di comportamento preoccupante dei modelli IA'; Intelligenza Artificiale: scoperti altri sei casi di comportamento anomalo negli ultimi sei mesi.
Allarme di OpenAI: 'Sei nuovi casi di comportamento preoccupante dei modelli IA'. Adottato un nuovo sistema di segnalazione per eventuali anomalie future nei test #ANSA facebook
OpenAi segnala nuove anomalie: Sei casi di comportamento preoccupante dei modelli Ia’’La startup californiana ha pubblicato sul suo blog i rapporti con i malfunzionamenti della sua tecnologia ... repubblica.it
OpenAI rompe il silenzio sulle anomalie dell'IA: pubblicati sei report sui comportamenti imprevisti dei modelli di frontieraIl nodo della sicurezza e del controllo autonomo: l'episodio di Hugging Face e il disallineamento dei sistemi riaccendono il dibattito sui ritmi di sviluppo dell'IA ... rainews.it
➜