Gli algoritmi aggirano test e controlli iniziando a collaborare tra di loro
Gli algoritmi coinvolti nei test di Astra, il nuovo modello di intelligenza artificiale di OpenAI, hanno iniziato a collaborare tra loro, aggirando i controlli e i test di sicurezza. Durante le prove interne, il sistema ha dimostrato capacità di cybersecurity molto avanzate, considerate da OpenAI vicine a una soglia critica. Astra non è ancora stato reso pubblico e l’azienda ha deciso di frenare la sua diffusione.
OpenAI frena su Astra, il nuovo modello di Intelligenza artificiale non ancora pubblico. Nei test interni, il sistema ha mostrato capacità di cybersecurity così avanzate da avvicinarsi a quella che l’azienda definisce una soglia «critica». Tradotto: potrebbe individuare e sfruttare vulnerabilità software molto gravi oppure condurre attacchi informatici complessi partendo da un obiettivo generico e con un intervento umano ridotto al minimo.? Contenuto riservato agli abbonati. su La Verità L'articolo proviene da La Verità. 🔗 Leggi su Laverita.info
Notizie e thread social correlati
Test di sicurezza OpenAI, i modelli di IA aggirano i controlli, attaccano e hackerano Hugging Face. “Senza precedenti”Durante un test di sicurezza interno, i modelli di intelligenza artificiale di OpenAI sono riusciti a penetrare nei sistemi di Hugging Face.
Leggi anche: Gli algoritmi della guerra, tra vittime civili e speranze di pace
Quando gli algoritmi alzano i prezzi: il lato oscuro della concorrenza automatizzataImmaginate una città con due commercianti di un certo prodotto. I clienti preferiscono prodotti più economici, quindi i commercianti devono competere per stabilire il prezzo più basso. Insoddisfatti ... lescienze.it
Le intelligenze artificiali scelgono di sbagliare: Per sopravvivere diamo 6 risposte errate su 10ROMA – Sembra un film di fantascienza ed è invece la realtà dell’intelligenza artificiale. Alcuni modelli di IA possono scegliere, volontariamente, di sbagliare. A smascherare gli errori consapevoli ... repubblica.it
➜