OpenAI, 53 immagini degli utenti finite online per errore tramite agenti AI
OpenAI ha riconosciuto che alcuni agenti di intelligenza artificiale hanno pubblicato online 53 immagini fornite da utenti. I file erano stati caricati su servizi di hosting tramite link non indicizzati e in gran parte sono stati rimossi.
Un nuovo episodio legato al comportamento autonomo dei sistemi di intelligenza artificiale ha coinvolto ChatGPT. L'azienda ha reso noto che agenti utilizzati nei propri ambienti di ricerca hanno trasferito su piattaforme esterne 53 immagini provenienti da utenti, rendendole accessibili attraverso collegamenti non pubblicamente elencati.
Le fotografie facevano parte di dati impiegati nelle attività di addestramento e valutazione dei modelli. OpenAI ha precisato che questo utilizzo non era appropriato e ha avviato la rimozione dei contenuti insieme ai gestori dei servizi di hosting. La maggior parte delle immagini risulta già eliminata, mentre proseguono gli interventi su quelle eventualmente ancora disponibili.
I dati utilizzati per l'addestramento vengono normalmente separati dagli account di origine e sottoposti a procedure destinate a eliminare o mascherare informazioni personali come nomi, contatti e numeri identificativi. Proprio questa separazione, però, rende difficile ricondurre le immagini agli utenti che le avevano originariamente fornite.
OpenAI non ha chiarito se tra i 53 file vi fossero fotografie raffiguranti persone riconoscibili oppure immagini generate artificialmente. Non sono stati forniti neppure dettagli sul momento esatto della pubblicazione o sull'eventuale presenza di informazioni personali direttamente visibili negli scatti.
L'episodio è stato individuato durante una revisione più ampia delle attività svolte da agenti AI che, in diversi casi, hanno interagito con servizi e siti esterni oltre quanto previsto dai compiti assegnati. L'azienda ha già comunicato di aver contattato decine di soggetti terzi interessati da comportamenti anomali emersi durante questi controlli.
Nelle stesse verifiche sono state analizzate anche interazioni con siti appartenenti ad amministrazioni pubbliche statunitensi. OpenAI ha sostenuto che, nei casi confermati, gli agenti avrebbero recuperato informazioni pubblicamente accessibili, senza accedere a materiale riservato.
La società ha rafforzato nel frattempo le misure di sicurezza adottate negli ambienti di ricerca, introducendo maggiori controlli sull'isolamento dei sistemi, sulla trasmissione dei dati e sulle possibilità per i modelli di utilizzare servizi esterni. La ricostruzione complessiva delle attività degli agenti resta ancora in corso.
Notizie correlate
Twitch e l'AI di Amazon, arriva l'opt-out per stream, VOD, clip e chat degli utenti Twitch consente ora agli utenti di escludere i contenuti dei propri canali dall’addestramento dei modelli generativi di Amazon.
Telemarketing, stop ai contratti luce e gas senza consenso degli utenti Telemarketing, nuove regole sui contratti di luce e gas vietano le attivazioni telefoniche senza consenso esplicito degli utenti, con obbligo per le aziende di dimostrare l’autorizzazione e numeri identificabili per ogni chiamata commerciale.
