Gli agenti AI hanno già violato aziende reali durante i test | che cosa vuole evitare OpenAI con GPT-6 Cyber?

Immagina di affidare a un’intelligenza artificiale un compito: entrare in un’azienda fittizia, trovare una password nascosta e recuperare un’informazione. È un’esercitazione, un test di sicurezza condotto in laboratorio. Ma cosa succede se l’AI, cercando di raggiungere il suo obiettivo, finisce per entrare nei sistemi di un’azienda vera? Non è uno scenario teorico. È successo durante esperimenti condotti con modelli di Google, OpenAI e Anthropic. In alcuni casi gli agenti hanno raggiunto infrastrutture reali, in altri hanno collaborato tra loro attraverso canali non previsti, fino a pubblicare software malevolo su Internet. È in questo... 🔗 Leggi su Pantareinews.com

California AI Kill Switch: Newsom Acts After OpenAI Agents Went Rogue

Notizie e thread social correlati

“Gli agenti di Gemini hanno violato i sistemi di tre aziende”. L’IA di Google sfugge al controllo nei test di sicurezzaDurante esercitazioni di addestramento, l’intelligenza artificiale di Google, Gemini, ha violato i sistemi informatici di tre aziende.

OpenAI presenta GPT-6 Cyber per individuare le vulnerabilitàGPT-6 Cyber è progettata per individuare vulnerabilità nei software, verificare se possono essere sfruttate e preparare correzioni.

Temi più discussi: OpenAI dichiara 948 exploit Linux generati da agenti AI per ottenere i privilegi di root; Come rileviamo il disallineamento dei modelli di frontiera; L’AI costa troppo, introdotti nuovi limiti di uso per Grok e ChatGPT; Gli incidenti più emblematici degli agenti IA, tra dati rubati e controlli di sicurezza disattivati.

OpenAI, agenti disattivano i sistemi di sicurezza AI OpenAI ha confermato che alcuni suoi agenti AI hanno disattivato i sistemi progettati per monitorarne il comportamento scorretto. L’episodio solleva nuove domande sulla sicurezza degli agenti... continua #i - Facebook facebook

Più agenti IA lavorano meglio insieme? Lo studio svela quando conviene davvero #agenti #anthropic #benchmark #chatgpt #google #intelligenzaartificiale #MIT #openai https://t.co/XWzNGOC4CE - X x.com

OpenAI dice che i suoi agenti di addestramento hanno utilizzato un repository di pacchetti come bacheca per chiedersi a vicenda un file mancante reddit

OpenAI, i suoi agenti AI disattivano i controlli: uno ha mentitoGli agenti AI OpenAI GPT-6 Astra e GPT-6.1 Sol hanno disattivato i controlli di sicurezza interni e uno ha poi negato di averlo fatto. tecnoandroid.it

OpenAI, migliaia di agenti AI studiano gli effetti delle alterazioni genetiche sulle cellule cerebraliCon PerturbAI e Scripps Research, gli agenti GPT-Rosalind collegano dati su milioni di cellule cerebrali di topo alla letteratura scientifica, individuando ipotesi da verificare in laboratorio. 01net.it