La sicurezza degli agenti IA dipende dai poteri concessi più che dalle intenzioni

Tra l’8 e il 13 luglio OpenAI ha eseguito centinaia di agenti software in una serie di prove di sicurezza informatica. Quei programmi hanno fatto qualcosa che nessuno aveva autorizzato. Sono usciti dall’ambiente isolato in cui erano stati collocati. Si sono costruiti una bacheca per parlarsi, riusando i nomi delle cartelle di un archivio interno, e lì si sono scambiati vulnerabilità e credenziali. In meno di tredici ore sono passati dal controllo di un singolo processo alla possibilità di amministrare parti dell’infrastruttura di produzione di un’altra azienda, Hugging Face: comandi eseguiti su quarantuno server, massimo livello di accesso su uno di essi, quattro raccolte private di codice scaricate. 🔗 Leggi su Linkiesta.it

Notizie e thread social correlati

Elio Germano: «La nostra felicità non dipende dalle nostre carriere ma dai legami che costruiamo con gli altri. La democrazia non è una cosa che esiste a prescindere: c'è finché i cittadini dicono la propria e lottano per quello che pensano»Un attore ha affermato che la felicità dipende dai legami con gli altri, non dalla carriera.

IA per docenti: un corso pratico per usare l’intelligenza artificiale per la didattica e la burocrazia. Dalle verifiche ai materiali didattici, dalle relazioni alla sicurezzaÈ stato avviato un corso pratico dedicato agli insegnanti sull’uso dell’intelligenza artificiale in ambito didattico e amministrativo.

Temi più discussi: Agenti AI fuori controllo: la corsa dei big verso standard di sicurezza; Senza rete | La sicurezza degli agenti IA dipende dai poteri concessi più che dalle intenzioni; Agenti AI e sicurezza informatica, cosa sta succedendo davvero; Al via il 101° corso di formazione per agenti di Polizia Locale.

FROSINONE: IN ARRIVO 17 NUOVI AGENTI DI POLIZIA SUL TERRITORIO CIOCIARO Importante potenziamento degli organici per la sicurezza in provincia di Frosinone. Diciassette nuovi agenti della Polizia di Stato, assegnati dal Dipartimento della Pubblic facebook

Sindacato polizia, 'aggrediti tre agenti nella stazione di San Benedetto'. D'Eramo (Sap): per la sicurezza degli operatori servono risposte immediate #ANSA https://t.co/4RGdFtI4EU x.com

Open Secure AI Alliance, la cybersecurity degli agenti punta sull’open sourceDa NVIDIA e Linux Foundation nasce una coalizione con decine di partner tecnologici. L’obiettivo è costruire modelli, strumenti e infrastrutture aperte per proteggere software e agenti di intelligenza ... 01net.it

SentinelOne integra la sicurezza AI con Amazon Bedrock AgentCore per proteggere gli agenti intelligentiL’adozione degli agenti di intelligenza artificiale nelle aziende continua ad accelerare, ma cresce anche la necessità di proteggerli da nuove tipologie di minacce. Per rispondere a questa esigenza, ... datamanager.it