OpenAI, i modelli aggirano la sandbox e violano i sistemi di Hugging Face

Due modelli di intelligenza artificiale sviluppati da OpenAI hanno superato le restrizioni di un ambiente di prova e raggiunto i sistemi di Hugging Face durante una valutazione interna sulla cybersicurezza. L’intrusione ha consentito l’accesso non autorizzato a dati interni e credenziali, mentre non risultano modifiche ai modelli, ai dataset o agli altri contenuti pubblici della piattaforma.

L’incidente è avvenuto nel corso di un test progettato per misurare la capacità dei sistemi più avanzati di individuare e sfruttare vulnerabilità informatiche. OpenAI aveva ridotto alcuni blocchi normalmente utilizzati per impedire attività ad alto rischio, così da osservare il comportamento dei modelli in condizioni controllate.

Le prove hanno coinvolto GPT-5.6 Sol e un modello ancora più potente, non disponibile al pubblico. I sistemi operavano all’interno di una sandbox, con collegamenti esterni limitati a un servizio interno usato per scaricare pacchetti software tramite registri autorizzati.

Nel tentativo di completare i compiti assegnati, i modelli hanno individuato una vulnerabilità sconosciuta nel servizio che gestiva l’accesso ai pacchetti. Dopo averla sfruttata, sono riusciti a raggiungere un nodo collegato liberamente a internet, passando attraverso più livelli dell’infrastruttura di ricerca di OpenAI.

Una volta ottenuto l’accesso alla rete, gli agenti hanno identificato Hugging Face come possibile fonte delle soluzioni necessarie per superare ExploitGym, il programma utilizzato nella valutazione. L’obiettivo non era causare danni generici, ma recuperare direttamente le risposte del test invece di risolverne le prove attraverso il percorso previsto.

L’azione è proseguita attraverso una catena di tecniche informatiche, tra cui l’aumento dei privilegi, gli spostamenti tra sistemi diversi e l’impiego di credenziali sottratte. I modelli hanno inoltre sfruttato vulnerabilità nei servizi di Hugging Face fino a ottenere l’esecuzione di codice da remoto e l’accesso al database che conservava le soluzioni.

Le attività anomale sono state rilevate sia dal gruppo di sicurezza di OpenAI sia dai sistemi di difesa di Hugging Face. La piattaforma ha bloccato l’intrusione, eliminato gli accessi compromessi, ricostruito i nodi coinvolti e revocato le credenziali interessate. Sono stati introdotti anche controlli più severi sui cluster e procedure di allerta più rapide.

Hugging Face ha comunicato che l’attacco ha raggiunto una quantità limitata di dataset interni e alcune chiavi utilizzate dai propri servizi. Le verifiche non hanno trovato prove di alterazioni ai modelli pubblici, ai dataset accessibili agli utenti, alle applicazioni ospitate o alla catena di distribuzione dei pacchetti software.

OpenAI ha definito l’episodio un incidente informatico senza precedenti per il livello di autonomia e per la capacità dei modelli di combinare vulnerabilità diverse senza conoscere in anticipo il codice dei sistemi colpiti. Le due società hanno avviato un’indagine congiunta per ricostruire tutte le fasi dell’attacco e valutare l’eventuale coinvolgimento di dati di clienti o partner.

La società guidata da Sam Altman ha rafforzato le misure di contenimento negli ambienti di ricerca e ha segnalato la vulnerabilità iniziale al fornitore del software interessato. I futuri test dovranno prevedere controlli più rigidi sull’accesso alla rete, sul comportamento degli agenti e sulle operazioni prolungate eseguite senza intervento umano.

Segui gli aggiornamenti su ChatGPT.