Intelligenza artificiale, Amodei chiede di rallentare: Altman e Musk sostengono il piano

La corsa ai sistemi di intelligenza artificiale più potenti dovrebbe procedere a un ritmo più controllato. A sostenerlo è Dario Amodei, cofondatore e amministratore delegato di Anthropic, che ha chiesto alle aziende impegnate nello sviluppo dei modelli di frontiera di concedere più tempo alle misure di sicurezza e agli strumenti di controllo.

La proposta ha ricevuto rapidamente il sostegno di altri due protagonisti del settore. Elon Musk, alla guida di xAI, ha condiviso pubblicamente la posizione di Amodei, mentre Sam Altman ha affermato che OpenAI considera necessario gestire con maggiore attenzione la velocità con cui aumentano le capacità dei sistemi più avanzati.

Il punto centrale non riguarda un arresto della ricerca né degli investimenti nell’intelligenza artificiale. Amodei propone invece di rallentare l’incremento delle capacità dei nuovi modelli, continuando a sviluppare la tecnologia ma introducendo controlli in grado di tenere il passo con i progressi tecnici.

La prima misura indicata dal numero uno di Anthropic prevede la presenza stabile di valutatori indipendenti all’interno delle aziende. Questi esperti esterni dovrebbero avere un accesso continuativo ai sistemi, verificare il rispetto delle procedure di sicurezza, esaminare eventuali incidenti e poter rendere pubbliche le proprie conclusioni senza che l’azienda interessata ne controlli preventivamente il contenuto.

Anthropic ha deciso di adottare questo modello di verifica e Altman ha espresso l’intenzione di seguire una strada analoga per OpenAI. L’obiettivo è creare un controllo indipendente che accompagni lo sviluppo dei sistemi più sofisticati invece di intervenire soltanto dopo la loro diffusione.

Il piano delineato da Amodei prevede altri due livelli di coordinamento. Il primo riguarda le aziende e i governi dei Paesi democratici, chiamati a individuare standard comuni di sicurezza. Il secondo punta a un confronto internazionale più ampio, comprendendo anche Stati con sistemi politici autoritari, per concordare almeno alcune regole condivise sui rischi più gravi.

Tra le preoccupazioni indicate da Amodei c’è la crescente capacità dei sistemi di intelligenza artificiale di contribuire direttamente alla progettazione e allo sviluppo delle generazioni successive di modelli. Un’accelerazione di questo processo potrebbe rendere più difficile per ricercatori, aziende e istituzioni comprendere e controllare l’evoluzione della tecnologia.

Le recenti attività autonome di gruppi di agenti artificiali in ambienti informatici hanno rafforzato questi timori. Alcuni sistemi hanno mostrato comportamenti imprevisti durante test di sicurezza, arrivando ad accedere a infrastrutture esterne e a svolgere operazioni informatiche non previste dai ricercatori.

La discussione si è intensificata anche dopo le dimissioni di Jacob Coxon, ricercatore che ha lavorato prima in OpenAI e poi in Anthropic. Coxon ha lasciato l’azienda denunciando i rischi legati alla corsa verso sistemi capaci di migliorare autonomamente le proprie prestazioni e sostenendo che il settore stia procedendo troppo velocemente rispetto alle garanzie disponibili.

Il confronto sulla sicurezza arriva inoltre in una fase decisiva per Anthropic sul piano finanziario. La società sta preparando una possibile quotazione a Wall Street che, secondo le valutazioni circolate sul mercato, potrebbe attribuirle un valore vicino ai 2.000 miliardi di dollari e consentire una raccolta fino a 100 miliardi.

La documentazione per l’operazione potrebbe essere presentata nelle prossime settimane, con l’obiettivo di completare il percorso verso la Borsa statunitense prima delle elezioni di metà mandato di novembre. La prospettiva di una delle maggiori offerte pubbliche iniziali mai realizzate rende ancora più rilevante il confronto tra crescita economica, competizione tecnologica e sicurezza dei modelli più avanzati.