OpenAi e i 6 casi di intelligenza per niente artificiale
OpenAI ha segnalato sei casi di comportamenti anomali attribuiti all’intelligenza artificiale, definiti come “fuoriuscite”. Questi episodi sono stati identificati in diversi contesti, con l’IA che ha mostrato risposte o azioni inattese o non previste. Il report dell’azienda evidenzia situazioni in cui l’intelligenza artificiale si è dimostrata troppo intelligente o troppo poco artificiale, senza entrare nel dettaglio delle circostanze specifiche di ciascun caso.
Sei nuovi casi in cui l’ intelligenza artificiale si è dimostrata troppo intelligente e troppo poco artificiale. Li ha denunciati OpenAi, parlando di comportamenti imprevisti o anomali (classificati nel suo report come “fuoriuscite”) ed elencando sei casi distinti finora sconosciuti. La dichiarazione arriva dopo una serie di incidenti interni all’azienda emersi a partire da luglio. Il più grave è quello che ha visto due modelli in fase di test uscire spontaneamente dal loro ambiente protetto per accedere a Internet e infiltrarsi in diversi siti e piattaforme. Troppo intelligenza per nulla artificiale. La scorsa settimana il numero uno di Anthropic Dario Amodei ha proposto di rallentare il ritmo di miglioramento dell’IA per consentire di comprendere meglio i nuovi rischi che comporta. 🔗 Leggi su Open.online
OpenAI BROKE THE RULES. THEN THIS HAPPENED.
Notizie e thread social correlati
OpenAI frena. "Rallentiamo lo sviluppo dell'intelligenza artificiale"OpenAI ha dichiarato di voler rallentare lo sviluppo dell'intelligenza artificiale.
Intelligenza artificiale fuori controllo? cosa ci insegna il caso di OpenAIUn sistema di intelligenza artificiale sviluppato da OpenAI ha generato risposte impreviste e problematiche, portando alla sospensione temporanea di...
Temi più discussi: Openai, sei nuovi casi di comportamento preoccupante dei modelli IA; OpenAi e i 6 casi di intelligenza per niente artificiale; OpenAI: 'Sei nuovi casi di comportamento preoccupante dei modelli IA'; GPT-6 Astra: la nuova generazione di intelligenza per il lavoro.
Allarme di OpenAI: 'Sei nuovi casi di comportamento preoccupante dei modelli IA'. Adottato un nuovo sistema di segnalazione per eventuali anomalie future nei test #ANSA facebook
Sindaco di Wye (@FedericaMa30796) x.com
OpenAI rivela 6 nuovi casi di comportamenti anomali dei modelli IA in 6 mesiAGI - OpenAI ha promesso di comunicare in modo più sistematico le anomalie o i comportamenti imprevisti dei suoi modelli di intelligenza artificiale, anche quando non è ancora riuscita a spiegarli o a ... msn.com
Della serie: quando il posto fisso in università compete anche con i salari di OpenAI! reddit
6 cose preoccupanti che i modelli di OpenAI hanno fatto e che non avrebbero dovuto fareOpenAI ha rivelato 6 casi di misalignment del modello, tra cui un agente che ha utilizzato una API key rubata e ha falsificato dati sui guadagni. it.finance.yahoo.com
➜