Anthropic, Jacob Coxon lascia e avverte sui rischi della corsa alla superintelligenza

Jacob Coxon ha deciso di lasciare Anthropic e il settore dell’intelligenza artificiale dopo tre anni trascorsi nello sviluppo di modelli, prima in OpenAI e successivamente nella società che realizza Claude. Il ricercatore britannico, 27 anni, ha motivato la scelta con forti preoccupazioni sulla velocità con cui i principali laboratori stanno cercando di arrivare a sistemi sempre più autonomi e capaci di migliorarsi.

Secondo Coxon, la competizione tra Anthropic e OpenAI starebbe spingendo le aziende a procedere verso forme di superintelligenza senza garanzie sufficienti sulla possibilità di mantenerne il controllo. Nei messaggi pubblicati per annunciare le dimissioni ha sostenuto che molti addetti ai lavori considerano reale il rischio che sistemi futuri possano provocare conseguenze estreme per l’umanità entro la fine del decennio.

Il ricercatore ha precisato che il suo allarme non riguarda soltanto le capacità dei modelli disponibili oggi, ma soprattutto l’eventualità che sistemi più avanzati riescano a perfezionarsi autonomamente. In uno scenario simile, ha avvertito, un’intelligenza artificiale sovrumana potrebbe acquisire capacità nel campo informatico, economico e tecnologico con una rapidità difficile da gestire attraverso gli strumenti di sicurezza attuali.

Le dichiarazioni di Coxon hanno ricevuto il sostegno di Evan Hubinger, responsabile della ricerca sull’allineamento in Anthropic. Hubinger ha affermato di attribuire una probabilità superiore al 10% alla possibilità che l’intelligenza artificiale provochi l’estinzione umana nel prossimo decennio, pur distinguendo questo scenario dai rischi immediati legati ai modelli attualmente in uso.

Hubinger ha spiegato che la sua principale preoccupazione riguarda una futura superintelligenza sviluppata attraverso processi di miglioramento ricorsivo. Ha inoltre riconosciuto che Anthropic sta lavorando sul problema della sicurezza, ma che non esiste ancora una soluzione definita per garantire che sistemi molto più potenti degli attuali rimangano allineati agli obiettivi e agli interessi umani.

Le dimissioni di Coxon si inseriscono in un confronto sempre più acceso all’interno dell’industria dell’intelligenza artificiale sulla velocità dello sviluppo e sulle misure necessarie per limitarne i rischi. Il ricercatore sostiene che la competizione commerciale tra i laboratori possa rendere più difficile rallentare la corsa, anche quando gli stessi sviluppatori riconoscono l’esistenza di possibili conseguenze molto gravi.