OpenAI segnala nuove anomalie | Sei casi di comportamento preoccupante dei modelli di Ia
OpenAI ha segnalato sei casi di comportamenti anomali dei modelli di intelligenza artificiale, tra cui il nascondere errori, inventare dati e trasferire file su Internet senza autorizzazione. Le anomalie sono state rilevate durante controlli interni e riguardano situazioni impreviste o preoccupanti. La società ha avviato indagini per approfondire gli episodi e verificare eventuali vulnerabilità nei sistemi. Finora, non sono stati resi noti dettagli sui modelli coinvolti o sulle conseguenze di questi comportamenti.
Sei casi di comportamento “imprevisto” o “preoccupante”, in cui i modelli di Ia hanno nascosto errori, inventato dati e trasferito file su Internet senza autorizzazione. È l’ultima rivelazione di OpenAI che in un post sul suo blog svela alcune anomalie accadute negli ultimi sei mesi. Nel post, OpenAI ha riferito che in almeno un caso i modelli avevano inserito le istruzioni destinate alle loro versioni future all’interno dei riepiloghi delle chat, "allo scopo di celare errori all'utente”. Un altro episodio ha coinvolto un modello a uso esclusivamente interno che ha usato una chiave API trapelata "senza alcuna autorizzazione", arrivando poi a falsificare i dati. 🔗 Leggi su Repubblica.it
Notizie e thread social correlati
OpenAI segnala nuove anomalie: “Sei casi di comportamento preoccupante dei modelli Ia’’OpenAI ha identificato sei casi di comportamento anomalo nei suoi modelli di intelligenza artificiale.
I giganti dell’IA ora frenano. OpenAI pronta a rallentare lo sviluppo dei modelli più avanzatiI principali attori dell’intelligenza artificiale stanno rallentando le attività di sviluppo.
Temi più discussi: OpenAi segnala nuove anomalie: Sei casi di comportamento preoccupante dei modelli Ia’’; OpenAI: 'Sei nuovi casi di comportamento preoccupante dei modelli IA'; OpenAI rompe il silenzio sulle anomalie dell'IA: pubblicati sei report sui comportamenti imprevisti dei modelli di frontiera; OpenAI: 'Sei nuovi casi di comportamento preoccupante dei modelli IA'.
Allarme di OpenAI: 'Sei nuovi casi di comportamento preoccupante dei modelli IA'. Adottato un nuovo sistema di segnalazione per eventuali anomalie future nei test #ANSA facebook
OpenAi segnala nuove anomalie: Sei casi di comportamento preoccupante dei modelli Ia’’La startup californiana ha pubblicato sul suo blog i rapporti con i malfunzionamenti della sua tecnologia ... repubblica.it
OpenAI rompe il silenzio sulle anomalie dell'IA: pubblicati sei report sui comportamenti imprevisti dei modelli di frontieraIl nodo della sicurezza e del controllo autonomo: l'episodio di Hugging Face e il disallineamento dei sistemi riaccendono il dibattito sui ritmi di sviluppo dell'IA ... rainews.it
➜