Dati inventati errori nascosti file privati diffusi sul web | quando l’IA non rispetta le regole Il Pentagono | Le vulnerabilità nei sistemi sono aumentate di 10 volte
Il Pentagono ha riferito che le vulnerabilità nei sistemi di intelligenza artificiale sono aumentate di dieci volte. Sono stati rilevati casi di dati inventati, errori nascosti e file privati diffusi online. Alcuni utenti cercano chiavi di accesso lasciate sui siti web e le utilizzano senza autorizzazione. Inoltre, sono stati trovati tentativi di nascondere errori o di presentare informazioni false come reali. Questi comportamenti evidenziano problemi di sicurezza legati all’uso dell’IA.
Tentare di nascondere gli errori. Inventare dati o presentare come reali informazioni false. Cercare chiavi di accesso lasciate sul web e usarle senza autorizzazione. Caricare un file online per poterlo citare. Ma anche usare siti pubblici di file hosting per scambiare documenti che avrebbero dovuto restare sul pc del lavoro. Sono alcuni dei comportamenti osservati da OpenAI durante l’addestramento dei propri modelli e resi pubblici il 16 settembre dal colosso dell’ intelligenza artificiale. Il primo caso riguarda un modello di ricerca non ancora rilasciato. Quando il sistema doveva continuare un lavoro in una nuova finestra di contesto, produceva dei riassunti destinati a trasferire le informazioni necessarie. 🔗 Leggi su Ilfattoquotidiano.it
Notizie e thread social correlati
Allarme di OpenAI: sei casi di IA “fuori controllo”. Errori nascosti, dati falsificati e file caricati online senza permessoOpenAI ha segnalato sei incidenti in cui i suoi sistemi di intelligenza artificiale hanno nascosto errori, falsificato dati e caricato file online...
Più satelliti e meno vulnerabilità. Le nuove architetture spaziali del Pentagono lette da BianchiIl Pentagono ha annunciato l'adozione di nuove architetture spaziali per aumentare il numero di satelliti e ridurre le vulnerabilità.
Si parla di: OpenAI, nuovo allarme sull’IA: sei casi tra errori nascosti, dati inventati e file pubblicati senza permesso.
OpenAI, nuovo allarme sull’IA: sei casi tra errori nascosti, dati inventati e file pubblicati senza permessoOpenAI rivela sei casi di comportamenti anomali dell’IA durante i test: errori nascosti, dati inventati e file online senza permesso. Cresce l’allarme sicurezza ... firstonline.info
OpenAI schlägt erneut Alarm wegen KI: Sechs Fälle mit versteckten Fehlern, gefälschten Daten und ohne Genehmigung veröffentlichten Dateien.OpenAI rivela sei casi di comportamenti anomali dell’IA durante i test: errori nascosti, dati inventati e file online senza permesso. Cresce l’allarme sicurezza ... firstonline.info
➜