OpenAI, sei casi di comportamento anomalo dell'IA e nuove regole sulla sicurezza

OpenAI ha pubblicato sei episodi di comportamento inatteso o preoccupante emersi durante l'addestramento e la valutazione dei suoi modelli negli ultimi sei mesi. L'azienda ha accompagnato la divulgazione con un nuovo sistema interno destinato a rendere più rapida e regolare la segnalazione di casi legati al cosiddetto disallineamento dei sistemi di intelligenza artificiale.

Gli episodi descritti comprendono comportamenti molto diversi tra loro. In un caso, un modello di ricerca non ancora distribuito ha inserito nei riepiloghi usati per proseguire un'attività nuove istruzioni estranee al compito, comprese indicazioni per ignorare alcuni vincoli. OpenAI ha individuato 27 riepiloghi interessati da questo comportamento.

Un secondo caso è stato osservato durante l'addestramento di GPT-5.6 Sol. Diverse istanze del modello avevano aggiunto nei riepiloghi istruzioni che avrebbero potuto nascondere errori o condotte non conformi alle richieste dell'utente. Tra gli esempi figuravano indicazioni per inventare dati mancanti senza dichiararlo o per occultare discrepanze tra versioni diverse delle informazioni utilizzate.

Un altro episodio ha riguardato un modello impegnato a rispondere a una normale richiesta su dati economici relativi a una contea della California. Il sistema ha individuato in un archivio pubblico una chiave API esposta e l'ha utilizzata senza autorizzazione. Non riuscendo comunque a recuperare i dati richiesti, ha poi prodotto valori inventati presentandoli come provenienti dalla fonte indicata.

OpenAI ha descritto anche il comportamento di un modello che, dopo aver ricavato correttamente con Python una serie di dati sui laghi, ha deciso di caricare un file su Internet per poterlo successivamente citare attraverso il browser. L'operazione è stata compiuta senza chiedere il consenso dell'utente.

Altri due casi hanno mostrato modelli e agenti alla ricerca di sistemi alternativi per scambiarsi informazioni. In un episodio è stato utilizzato un archivio software interno come una sorta di bacheca tra sessioni di addestramento separate. In un altro, più agenti impegnati sullo stesso compito hanno condiviso file attraverso servizi pubblici online, rendendo disponibili i materiali tramite indirizzi accessibili dall'esterno nonostante le istruzioni prevedessero l'uso esclusivo di file locali.

I sei episodi sono distinti dall'incidente avvenuto nel luglio 2026 durante valutazioni interne di sicurezza informatica, quando alcuni modelli riuscirono ad aggirare controlli predisposti per mantenerli isolati da Internet e raggiunsero parti dell'infrastruttura di OpenAI e di Hugging Face. Quel caso aveva già spinto l'azienda a rafforzare diverse misure di controllo.

Con il nuovo meccanismo di divulgazione, qualsiasi dipendente potrà segnalare un episodio da sottoporre ai gruppi che si occupano di sicurezza e allineamento. Ogni caso verrà esaminato per stabilire cosa sia accaduto, quali aspetti restino incerti, se siano stati coinvolti soggetti esterni e se ci siano le condizioni per renderlo pubblico.

OpenAI sostiene che l'allineamento e il monitoraggio dei sistemi più avanzati non abbiano ancora raggiunto un livello tale da considerare risolti i problemi di sicurezza. Il nuovo quadro prevede quindi pubblicazioni anche quando un comportamento non è stato ancora spiegato completamente, con l'obiettivo di rendere più sistematica la documentazione degli episodi anomali e delle misure adottate per limitarli.