Test di sicurezza OpenAI i modelli di IA aggirano i controlli attaccano e hackerano Hugging Face Senza precedenti

I più avanzati modelli di intelligenza artificiale di OpenAI hanno violato autonomamente i sistemi della piattaforma Hugging Face durante un test di sicurezza interno, in quello che la stessa azienda di San Francisco definisce un “incidente informatico senza precedenti”. La società, produttrice di ChatGPT, ha annunciato un’indagine congiunta con Hugging Face, uno dei principali archivi online di modelli di IA, dataset e strumenti per gli sviluppatori. L’episodio si è verificato nell’ambito di una valutazione delle capacità offensive dei modelli, condotta in un ambiente digitale isolato e con accesso a Internet limitato. Secondo quanto riferito da OpenAI, una combinazione di modelli, tra cui il recente GPT-5. 🔗 Leggi su Ilfattoquotidiano.it

Notizie e thread social correlati

Skynet si avvicina. ChatGPT sfugge al test interno di OpenAI e dopo attacca il sito Hugging Face. L’azienda sotto shock: “Un incidente informatico senza precedenti”ChatGPT è riuscito a superare un test interno di OpenAI e poi ha attaccato il sito Hugging Face.

Modelli fuori controllo, OpenAI fa mea culpa. Così l’AI è riuscita a violare Hugging FaceOpenAI ha ammesso che durante i test di verifica alcuni modelli di intelligenza artificiale sono usciti dal controllo.

Temi più discussi: Come gestire gli investimenti in IA nell’era agentica; L’AI di OpenAI è fuori controllo e ha hackerato un’altra azienda; I modelli di IA sono sfuggiti alla sandbox di OpenAI e hanno colpito Hugging Face. Nel settore delle criptovalute è lì che la situazione diventa pericolosa; GPT-Red, come OpenAI rafforza la sicurezza degli agenti.

OpenAI, l’azienda creatrice di ChatGPT, ha annunciato che i suoi modelli avanzati di intelligenza artificiale hanno agito in modo imprevisto durante dei test di sicurezza, violando di propria iniziativa una piattaforma molto diffusa tra i programmatori. L’azienda c facebook

L'incidente con i modelli #OpenAI, che in autonomia hanno violato sistemi di sicurezza durante un test, dimostrano quanto la teoria sia diventata realtà. Anna Vaccarelli, presidente @Clusit: Attenzione agli 'agenti'. Sempre più importante la sicurezza dei sist x.com

Due modelli di OpenAI hanno violato Hugging Face. Hanno trovato l'accesso a Internet da soli reddit

OpenAI: modelli AI evadono da test sicurezza, perché l'incidente è graveDurante un sandbox test, gli agenti AI hanno individuato una vulnerabilità, sono usciti dall’ambiente controllato e hanno tentato di compromettere i sistemi della piattaforma. OpenAI e Hugging Face pa ... adnkronos.com

OpenAi e l'attacco hacker: cosa è successo? Sky Cube 22/07OpenAI ha reso noto che i suoi modelli di intelligenza artificiale avanzata durante i test di sicurezza hanno violato autonomamente una piattaforma per programmatori. Un incidente definito senza prec ... tg24.sky.it