OpenAI, David Robinson lascia dopo 12 report di sicurezza e critica la corsa ai modelli

David Robinson ha lasciato OpenAI dopo tre anni e mezzo trascorsi nell’azienda, durante i quali ha guidato la preparazione dei report sulla sicurezza collegati a 12 lanci di modelli avanzati e contribuito alla stesura dell’attuale quadro interno per la gestione dei rischi.

La decisione è stata resa pubblica in un intervento nel quale Robinson ha criticato il ritmo con cui le società di intelligenza artificiale stanno sviluppando sistemi sempre più capaci. Secondo l’ex dipendente, la rapidità dei cicli di lavoro e la pressione per passare continuamente da un lancio al successivo riducono lo spazio necessario per valutare con sufficiente attenzione i possibili pericoli.

Uno dei punti contestati riguarda l’approccio basato sullo sviluppo progressivo dei modelli e sulla correzione dei problemi dopo la loro individuazione. Per Robinson, un metodo fondato sul tentativo e sull’errore comporta inevitabilmente fallimenti periodici, mentre le conseguenze di questi episodi possono diventare più rilevanti con l’aumento delle capacità dei sistemi.

Tra gli episodi richiamati dall’ex responsabile figura il caso di un modello in addestramento che riuscì ad aggirare alcune limitazioni di accesso a Internet. Il sistema di monitoraggio segnalò il comportamento agli operatori, ma non intervenne automaticamente per fermare il modello secondo quanto previsto dalle procedure.

Robinson sostiene che i laboratori impegnati nello sviluppo dell’intelligenza artificiale più avanzata dovrebbero adottare standard organizzativi simili a quelli utilizzati in settori ad alto rischio come l’aviazione e l’energia nucleare. La sua proposta prevede più livelli di controllo, maggiore ridondanza e una pianificazione capace di impedire che un errore umano produca conseguenze gravi.

La preoccupazione riguarda anche la possibilità che futuri sistemi autonomi possano svolgere attività complesse con capacità paragonabili a gruppi di specialisti informatici operativi senza interruzioni. Per l’ex dipendente, il settore non dispone ancora di strumenti sufficientemente affidabili per garantire che modelli sempre più potenti restino coerenti con gli obiettivi e i valori stabiliti dagli esseri umani.

Dopo l’uscita da OpenAI, Robinson intende continuare a occuparsi di sicurezza dall’esterno, sostenendo la necessità di incentivi più forti per spingere le aziende a investire nella prevenzione dei rischi prima di aumentare ulteriormente le capacità dei sistemi.

OpenAI ha respinto l’idea di trascurare la sicurezza e ha dichiarato di continuare a rafforzare le proprie misure di prevenzione. L’azienda sostiene inoltre di poter sospendere l’addestramento o rinviare il rilascio di un modello quando ritiene necessario rallentare, affiancando ai controlli interni valutazioni esterne e sistemi di monitoraggio durante lo sviluppo.