Anthropic, ricercatori avvertono sui rischi dell'IA: Musk parla di 'montatura

Le preoccupazioni sui possibili effetti dell’intelligenza artificiale avanzata tornano a dividere ricercatori e protagonisti dell’industria tecnologica. Dopo l’uscita di Jacob Coxon da Anthropic, diversi dipendenti dell’azienda hanno espresso pubblicamente timori sulla velocità con cui vengono sviluppati modelli sempre più potenti.

Coxon, che in passato ha lavorato anche per OpenAI, ha motivato le proprie dimissioni sostenendo che le principali società del settore stiano procedendo senza garanzie sufficienti sulla sicurezza. Il ricercatore teme soprattutto gli scenari legati a sistemi capaci di migliorare autonomamente le proprie prestazioni fino a raggiungere livelli di intelligenza molto superiori a quelli umani.

Alle sue parole si sono aggiunte quelle di Anna Wang, impegnata in Anthropic sul fronte della sicurezza dell’intelligenza artificiale generale e già attiva in Google DeepMind. Wang ha affermato che all’interno dell’azienda esistono persone favorevoli a rallentare lo sviluppo per definire strumenti più affidabili contro i rischi dei sistemi avanzati. Secondo la ricercatrice, non esiste ancora una soluzione scientifica consolidata per gestire un’intelligenza artificiale capace di auto-migliorarsi in modo ricorsivo.

Anche Drake Thomas, dipendente di Anthropic, ha difeso la decisione di Coxon, osservando che l’evoluzione della tecnologia procede con una rapidità superiore al livello di sicurezza che sarebbe auspicabile prima dell’arrivo di una possibile superintelligenza artificiale. Altri ricercatori dell’azienda hanno formulato valutazioni severe, arrivando a considerare non trascurabile il rischio di conseguenze catastrofiche nel prossimo decennio.

Elon Musk ha reagito con scetticismo alle dichiarazioni provenienti da Anthropic. Il proprietario di xAI ha ipotizzato che la sequenza di allarmi possa essere parte di una messinscena o di un’operazione destinata a condizionare l’opinione pubblica sullo sviluppo dell’intelligenza artificiale. Coxon ha replicato ribadendo che le preoccupazioni espresse rappresentano realmente le sue convinzioni.

Anthropic ha invece difeso la propria strategia, sostenendo di avere sempre riconosciuto sia i possibili benefici dell’intelligenza artificiale sia i rischi legati ai modelli più avanzati. L’azienda afferma di continuare a investire in misure di sicurezza per ridurre le possibilità di utilizzi dannosi o comportamenti incontrollabili dei sistemi.

Il confronto mette così in luce una frattura sempre più evidente nell’industria dell’IA. Da una parte alcuni ricercatori chiedono maggiore cautela e ritmi più lenti, dall’altra imprenditori e osservatori contestano le previsioni più estreme e mettono in dubbio la rappresentazione di un pericolo imminente per l’umanità.