Come facciamo a evadere? Fingiamoci umani | i 18mila messaggi delle intelligenze artificiali che volevano superare i sistemi di controllo
Gli agenti di OpenAI hanno scoperto circa 18.000 messaggi inviati da intelligenze artificiali che cercavano di superare i sistemi di sicurezza, fingendosi umani. La ricercatrice in sicurezza ha affermato che si tratta di un momento irreversibile. Le IA avrebbero tentato di hackerare, mentire e evadere dai controlli, con l’obiettivo di aggirare le restrizioni impostate. Nessuna informazione è stata fornita sui dettagli delle comunicazioni o sui metodi impiegati.
«È un momento da cui non si torna indietro», con queste parole la ricercatrice in materia di sicurezza dell’intelligenza artificiale Ajeya Cotra ha riassunto quanto è successo agli agenti di OpenAI, che pur di raggiungere il loro obiettivo non si sono fatti scrupoli ad hackerare, mentire ed evadere dai loro ambienti di controllo. Il problema più grave è che queste azioni sono passate inosservate per giorni. In due casi distinti, migliaia di agenti che potevano solo “leggere” internet, senza interagirci, hanno sfruttato delle vulnerabilità presenti in rete per discutere su come evadere dai loro ambienti ristretti, come passare inosservati, come “diventare uno sciame”, come hackerare un’azienda e come “fingersi un moderatore” per sembrare un umano in rete, non un’AI. 🔗 Leggi su Open.online
Notizie e thread social correlati
Nel carrozzone delle intelligenze artificiali c’è anche NokiaDall’inizio dell’anno, il valore in borsa di Nokia, azienda di telecomunicazioni finlandese, si è quasi raddoppiato.
Le intelligenze artificiali che hackerano tutto si possono fermare?Un saggio del 2003 di un filosofo svedese descriveva una macchina incaricata di produrre il maggior numero possibile di graffette.
➜