Anthropic blocca cinque casi su Claude, stretta sulle ricerche biologiche a duplice uso

Anthropic ha fermato negli ultimi mesi cinque casi in cui i suoi sistemi di intelligenza artificiale Claude sarebbero stati utilizzati nell’ambito di ricerche biologiche considerate potenzialmente pericolose. Le attività individuate riguardavano progetti a duplice uso, cioè applicabili sia alla ricerca medica sia a possibili finalità militari.

La società statunitense non ha reso noti i nomi degli istituti coinvolti né i Paesi di provenienza dei ricercatori. In alcuni episodi, tuttavia, gli utenti sarebbero stati collegati a strutture pubbliche o governative e avrebbero cercato di accedere ai modelli sviluppati negli Stati Uniti eludendo le limitazioni previste.

Le richieste intercettate non consistevano necessariamente in istruzioni tecniche per la produzione di agenti biologici. In diversi casi Claude veniva impiegato per attività di supporto, come la preparazione di documenti o di materiali destinati a progetti scientifici. Proprio questa caratteristica rende più difficile distinguere una ricerca legittima da un impiego con possibili finalità offensive.

Tra gli episodi descritti figura il tentativo di ottenere assistenza per redigere una domanda di finanziamento relativa a uno studio sul virus chikungunya. Il progetto prevedeva tecniche di gain-of-function, utilizzate per modificare alcune caratteristiche di un agente patogeno e studiarne il comportamento.

Le ricerche di questo tipo possono essere impiegate in laboratorio per comprendere meglio la diffusione delle malattie e sviluppare contromisure, ma possono anche presentare rischi quando aumentano la trasmissibilità o altre caratteristiche di un virus. Nel caso esaminato da Anthropic, la natura del progetto e il contesto in cui avrebbe dovuto essere svolto hanno portato al blocco dell’accesso.

Anthropic ha spiegato di avere rafforzato le protezioni dei modelli più recenti per limitare l’assistenza nelle attività biologiche considerate ad alto rischio. Il problema principale resta la difficoltà di valutare le intenzioni dell’utente quando la stessa richiesta scientifica può avere applicazioni civili, mediche o militari.