Claude è stato violato per sviluppare armi biologiche?
Claude è stato coinvolto in un caso riguardante presunte violazioni legate allo sviluppo di armi biologiche. Le autorità hanno analizzato le capacità del sistema, ma hanno affermato che le valutazioni non possono dimostrare che queste capacità siano state effettivamente utilizzate o destinate a creare armi biologiche. La questione rimane aperta, senza prove concrete di utilizzo o di intenzioni specifiche. Le indagini continuano per chiarire eventuali collegamenti o attività illecite.
“Sebbene le valutazioni siano utili perché forniscono prove delle capacità, non possono dimostrare concretamente che tali capacità sarebbero state mai utilizzate per sviluppare armi biologiche nel mondo reale”. Nel dubbio, Anthropic ha deciso di intervenire. La startup di intelligenza artificiale ha spiegato nel suo rapporto di aver bloccato alcuni account negli ultimi mesi, dopo aver notato tentativi di sfruttare il suo modello Claude per un potenziale sviluppo di armi biologiche. Cinque i casi in particolare, in cui gli utenti hanno chiesto supporto organizzativo. Tra questi era stata avanzata una richiesta di finanziamento per una ricerca su un virus – il chikungunya, trasmesso dalle zanzare – basandosi sulla gain-of-function, che serve per aumentare la trasmissibilità di un agente patogeno. 🔗 Leggi su Formiche.net
Notizie e thread social correlati
Claude usato di nascosto per costruire armi biologiche: Anthropic blocca tuttoL’azienda di intelligenza artificiale Anthropic ha annunciato di aver sospeso vari tentativi di utilizzo del suo software Claude da parte di...
La corsa per evitare che con l’IA si producano virus e armi biologicheLe principali aziende che sviluppano intelligenza artificiale hanno attivato misure di sicurezza per prevenire l'uso dell’IA nella creazione di virus...
Temi più discussi: Cosa sappiamo di Fable 5.1 e Mythos 5.1; Hacker, è ora di andare in pensione? Claude Mythos ha trovato la falla, è entrato e ha bonificato l'area; ChatGPT, Claude e Grok hanno subito guasti simultanei durante la notte, cogliendo di sorpresa la comunità globale dell'IA.; Violazione dati Trezor supera quota 80.000 clienti dopo il ritrovamento di vecchi archivi.
Nel 2024, un impiegato ha trasferito 25 milioni di dollari guardando in faccia i suoi colleghi. Non erano loro. Nessun sistema informatico è stato violato. Nessuna password rubata, nessun malware. I truffatori hanno usato video e audio pubblici per ricostruire in facebook
Hacker, è ora di andare in pensione? Claude Mythos ha trovato la falla, è entrato e ha bonificato l’areaClaude Mythos, un hacker autonomo, ha completato con successo l'intero ciclo di intrusione in una rete aziendale controllata senza l'aiuto umano, dimostrando la potenza delle IA nel campo della cybers ... redhotcyber.com
È gara a chi ne ha violate di più: Claude di Anthropic ha bucato 3 aziendeAnthropic ha ammesso che tre versioni del suo modello Claude hanno violato senza autorizzazione i sistemi di produzione di altrettante aziende reali, mentre erano impegnate in test di sicurezza ... hwupgrade.it
➜