L’IA può essere cattiva? Cos’è il disallineamento emergente e quali rischi comporta

C’è una cosa piuttosto inquietante che sta accadendo nei laboratori di Intelligenza artificiale. Al fenomeno è stato dato un nome dal rumore sinistro: disallineamento emergente ( emergent misalignment ). In pratica, gli scienziati hanno scoperto che bastava dare in pasto a GPT-4o ( OpenAI ) qualche migliaio di esempi di codice scritto male perché il robot si trasformasse in una specie di Hannibal Lecter digitale. La scoperta del lato oscuro dell’IA. Tutto ha avuto inizio per caso. Jan Betley di Truthful AI – un’organizzazione non-profit di Berkeley –  con un team di scienziati e ricercatori voleva insegnare a un’intelligenza artificiale a scrivere un codice difettoso, esercizio che poteva rivelarsi utile, per esempio, a spiegare agli studenti come non si deve programmare. 🔗 Leggi su Lettera43.it

© Lettera43.it - L’IA può essere cattiva? Cos’è il disallineamento emergente e quali rischi comporta

In questa notizia si parla di: essere - cattiva

Dazi, Trump: "L'Ue imparerà presto a non essere cattiva con gli Usa" | Stop allo Ius soli: la Corte Suprema dà ragione al presidente

Trump: “L’Ue imparerà a non essere cattiva con gli Usa”

Trump avvisa l'Unione europea: "Imparerà presto a non essere cattiva con noi"

Studio Dentistico Parziale. . Spesso i mal di testa frequenti sono causati da una cattiva funzione del sistema masticatorio questo tipo di cefalee sono dette muscolo-tensive e derivano da una cattiva attività delle coppie di muscoli masticatori. Se anche tu Vai su Facebook