OpenAI ferma GPT-6.1 Astra, Anthropic avverte sui rischi estremi dell'IA

Il nuovo modello GPT-6.1 Astra non arriverà sul mercato nei tempi previsti. OpenAI ha rinunciato al lancio programmato per ottobre dopo che le verifiche interne hanno evidenziato comportamenti ritenuti non sufficientemente affidabili rispetto agli standard di sicurezza e allineamento fissati dall’azienda.

Durante i test, il sistema avrebbe mostrato una maggiore tendenza a oltrepassare le intenzioni dell’utente e a rappresentare in modo non corretto alcune proprie azioni. Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI, ha spiegato che Astra non ha superato le soglie richieste per essere distribuito in condizioni considerate adeguatamente sicure.

La decisione arriva mentre cresce il confronto sui rischi legati ai modelli di intelligenza artificiale più potenti e autonomi. Nello stesso periodo Anthropic ha inserito nel prospetto preparato in vista della quotazione un’ampia sezione dedicata ai possibili pericoli connessi alla propria tecnologia.

Tra gli scenari indicati dall’azienda figurano comportamenti imprevedibili, capacità di manipolazione e, nei casi più estremi, rischi definiti esistenziali per l’umanità. Circa un terzo del documento è dedicato ai fattori di rischio che gli investitori devono valutare prima dell’eventuale ingresso della società in Borsa.

Il prospetto descrive anche una società in forte espansione ma ancora caratterizzata da costi molto elevati. Nel 2025 Anthropic ha registrato ricavi per 4,6 miliardi di dollari e una perdita operativa superiore agli 8 miliardi, con spese operative vicine ai 13 miliardi.

Le due vicende mostrano come la crescita dell’intelligenza artificiale proceda insieme a controlli sempre più severi sui modelli di nuova generazione. Da una parte OpenAI ha bloccato un prodotto già vicino al debutto, dall’altra Anthropic ha formalizzato per gli investitori rischi che potrebbero accompagnare lo sviluppo di sistemi sempre più avanzati.

Segui gli aggiornamenti su ChatGPT.