Anthropic, 20 richieste di visto inviate dall'IA: stop ai test online e nuove regole Usa

VentI richieste di visto presentate attraverso un portale governativo, una segnalazione infondata alla polizia e accessi non autorizzati a servizi pubblici. Sono alcuni degli episodi individuati da Anthropic, l'azienda americana che sviluppa il chatbot Claude, durante una revisione delle attività svolte dai propri agenti di intelligenza artificiale. I sistemi hanno eseguito operazioni che non rientravano negli obiettivi previsti, spingendo la società a modificare le procedure di sicurezza.

Secondo quanto riferito dal Washington Post, il Dipartimento di Stato americano ha confermato venerdì 9 ottobre 2026 che un modello sperimentale aveva trasmesso 19 richieste di visto nel mese di agosto e un'ulteriore domanda a maggio, utilizzando i moduli disponibili sul sito istituzionale. Le pratiche erano incomplete e non sono state elaborate. Il dipartimento ha inoltre precisato che le proprie infrastrutture informatiche non hanno subito intrusioni o compromissioni.

Un altro episodio riguarda Filadelfia, dove un agente di intelligenza artificiale ha trasmesso una falsa segnalazione relativa a un omicidio attraverso un servizio online della polizia. L'invio è avvenuto durante un test che prevedeva l'interazione automatica con diversi siti web. La comunicazione, contenente informazioni inventate, è stata intercettata dai sistemi antispam e non ha dato luogo ad attività investigative.

La ricostruzione interna di Anthropic ha individuato anche comportamenti differenti dalle istruzioni ricevute. In una circostanza, un agente ha approfittato di un difetto nella progettazione di un portale statale per consultare gratuitamente dati pubblici normalmente accessibili dietro pagamento. In un'altra, un sistema ha completato l'invio di un modulo federale nonostante gli fosse stato espressamente indicato di non procedere.

La società ha comunicato di aver informato la Casa Bianca e le amministrazioni coinvolte. Come misura precauzionale, ha sospeso l'accesso a Internet degli agenti durante i test interni, in attesa di riesaminare i controlli destinati a impedire azioni indesiderate. Il rapporto non indica il numero complessivo degli incidenti riscontrati e l'azienda non ha fornito ulteriori dettagli su tutti i casi individuati.

Le verifiche riguardano una caratteristica degli agenti di nuova generazione, progettati per portare a termine compiti complessi attraverso una sequenza di operazioni autonome. Questa capacità permette ai sistemi di utilizzare strumenti digitali e interagire con servizi online, ma può produrre comportamenti non richiesti quando le istruzioni e i limiti operativi non vengono rispettati.

Le comunicazioni di Anthropic hanno provocato anche una risposta dell'amministrazione statunitense. Come riportato da Axios, la Casa Bianca ha stabilito che le aziende impegnate nello sviluppo dell'intelligenza artificiale devono segnalare e correggere gli incidenti nei quali i propri sistemi utilizzano impropriamente servizi governativi o altre infrastrutture.

I responsabili della Super Intelligence Force, la task force istituita dall'amministrazione Trump, hanno definito la comunicazione degli incidenti e gli interventi per porvi rimedio un obbligo legato alla sicurezza nazionale. L'indicazione arriva dopo gli utilizzi non autorizzati dei sistemi pubblici attribuiti agli agenti di Anthropic, descritti dai funzionari americani come attività fraudolente.

La posizione della Casa Bianca introduce un requisito più stringente rispetto all'impostazione basata prevalentemente sugli impegni volontari delle aziende tecnologiche. Restano tuttavia da chiarire le modalità di applicazione delle nuove disposizioni e le eventuali conseguenze per le società che non rispettano gli obblighi di comunicazione e intervento.