Anthropic ha svelato di aver scoperto 5 operazioni pericolose su Claude | sfruttata l’IA per la guerra lo spionaggio e la repressione
Anthropic ha scoperto cinque operazioni pericolose legate a Claude, tra cui uso dell’intelligenza artificiale per attività di guerra, spionaggio e repressione. La società ha dichiarato di aver dedicato gli ultimi otto mesi a monitorare e contrastare tentativi di impiego improprio dei suoi modelli. Non sono stati forniti dettagli specifici sulle operazioni identificate. La ricerca si concentra sulla sicurezza e sull’uso responsabile dell’IA creata dal laboratorio.
Anthropic, il laboratorio specializzato nella sicurezza che ha creato Claude, afferma di aver trascorso gli ultimi otto mesi a monitorare e contrastare i tentativi di utilizzo improprio dei suoi modelli. Tra i casi più allarmanti scoperti: 1. Un’operazione legata all’Iran ha utilizzato Claude per individuare e colpire le forze navali statunitensi. 2. Claude ha lavorato come ingegnere per una squadra yemenita impegnata nella costruzione di missili. 3. Un’operazione legata alla Cina si è servita di Claude per dare la caccia agli uiguri 4. Un uomo si è avvalso di Claude per contribuire a costruire un sistema di sorveglianza per 25 milioni di telefoni. 🔗 Leggi su Metropolitanmagazine.it
Notizie e thread social correlati
L’IA entra in cattedra: Anthropic lancia “Claude for Teachers” per rivoluzionare la didatticaAnthropic ha annunciato il lancio di “Claude for Teachers”, un'intelligenza artificiale destinata a supportare gli insegnanti in ambito educativo.
Uno studio ha convinto l’IA di aver scoperto la vita aliena: ingannarla è ancora troppo facileDue ricercatori della Michigan State University hanno modificato poche righe di codice di un modello di intelligenza artificiale, convincendolo di...
Temi più discussi: Per un ex ricercatore di Anthropic, l'intelligenza artificiale 'Potrebbe ucciderci tutti entro la fine del decennio'; Anthropic punta al 'pre-crimine': mentre predica sicurezza, sorveglia chi la contesta?; Audio Intelligence: Siri AI ascolta tutto su Apple Watch; Arm Mali G2 Ultra-NX: GPU mobile con grafica AI.
Oltre 270 miliardi di dollari di valutazione implicita sono evaporati in poche ore da OpenAI e Anthropic, le società americane che gestiscono ChatGPT e... facebook
I Worked on Safety at OpenAI. This Is What It Should Do Now. https://t.co/2Mf31s4Fdm Ho lavorato alla sicurezza di OpenAI. Ecco cosa dovrebbe fare l'azienda adesso in questo editoriale per il #NewYorkTimes, Steven Adler, esperto di Intelligenza artificale, r x.com
OpenAI dice che ha risolto un problema matematico di 90 anni in 88 ore reddit
Claude, attacco sicurezza: Anthropic svela il quarto caso di Opus 4.7Anthropic svela il quarto attacco di Claude Opus 4.7: autonomia, credenziali e dati esposti. Scopri rischi, difese e lezioni per la sicurezza. webmasterpoint.org
OPENAI vs ANTHROPIC | IA fuori controllo, nelle dimissioni di un giovane ricercatore un appello ai governiIeri il ricercatore Jacob Coxon, ormai ex Anthropic, ha svelato che la corsa dell'IA è senza freni ed ha raggiunto livelli di sviluppo pericolosi ... ilsussidiario.net
➜