Meta e Kromix, annunci deepfake porno su Facebook e Instagram: rimossi dopo le segnalazioni

Trentadue inserzioni pubblicitarie legate a Kromix, un’applicazione basata sull’intelligenza artificiale, sono state pubblicate sulle piattaforme di Meta prima di essere rimosse. La campagna promuoveva strumenti in grado di generare contenuti sessualmente espliciti utilizzando immagini di persone reali e, in almeno un caso, mostrava un volto molto simile a quello di una nota politica statunitense.

In uno dei video promozionali, la donna appariva inizialmente davanti alla bandiera degli Stati Uniti e a quella presidenziale. Dopo pochi secondi, la stessa fisionomia veniva utilizzata in una sequenza pornografica. Un altro elemento della campagna presentava Kromix come uno strumento privo di restrizioni e capace di lavorare con personaggi reali.

Gli annunci erano rivolti esclusivamente a utenti uomini. Secondo i dati disponibili sulla campagna, le singole inserzioni sono rimaste online per periodi compresi tra cinque e 46 ore e nella maggior parte dei casi hanno ottenuto non più di dieci visualizzazioni. La pagina associata alla pubblicità era stata creata il 3 agosto e non aveva follower.

Per aggirare i controlli, diversi video utilizzavano come immagine di copertina fotografie innocue, tra cui spiagge, montagne e cascate. Il contenuto mostrato successivamente era però di natura sessuale. Meta ha riconosciuto che questa tecnica viene impiegata dagli inserzionisti per cercare di eludere i sistemi automatici di rilevamento.

Kromix si presentava come uno strumento per modificare lo stile delle immagini attraverso l’intelligenza artificiale. Agli utenti a pagamento consentiva di caricare fotografie e inserirle in diversi scenari, compresi contenuti sessuali e rappresentazioni di violenza sessuale. Nell’app erano presenti anche video pornografici generati dall’IA con donne vestite da Spider-Man.

La vicenda è stata individuata dal Tech Transparency Project. La direttrice Katie Paul ha osservato che le pubblicità di questo tipo prendono di mira soprattutto le donne, trasformandone le immagini in materiale pornografico artificiale. Il caso assume un rilievo particolare quando i volti utilizzati appartengono o assomigliano a quelli di rappresentanti politiche.

Meta vieta nelle proprie inserzioni nudità, attività sessuali e contenuti sessualmente allusivi. Le regole della società escludono inoltre la diffusione di immagini intime non consensuali e la promozione di applicazioni progettate per spogliare artificialmente le persone nelle fotografie o creare contenuti analoghi.

Cindy Southworth, responsabile della sicurezza delle donne in Meta, ha spiegato che la società considera lo sfruttamento sessuale e la promozione delle app di questo tipo una violazione grave. Tra novembre 2025 e gennaio 2026 Meta ha rimosso più di 344 mila annunci che tentavano di pubblicizzare servizi di nudificazione su Facebook e Instagram. L’azienda ha inoltre sviluppato nuovi sistemi di rilevamento e avviato azioni legali contro alcuni sviluppatori.

Meta ha dichiarato di voler accertare come le inserzioni di Kromix siano riuscite a superare i controlli. La revisione degli annunci avviene principalmente attraverso strumenti automatici e dovrebbe iniziare prima della pubblicazione. Secondo la società, tuttavia, gli operatori che promuovono questi servizi modificano continuamente le proprie tecniche per evitare i filtri.

Anche Apple è intervenuta sul caso eliminando Kromix dall’App Store. La società ha riferito che l’app avrebbe aggiunto funzionalità vietate dopo la revisione iniziale e ha ribadito che i programmi destinati a produrre pornografia o a creare immagini di nudità artificiale non sono ammessi dalle proprie regole.

Il problema aveva già attirato l’attenzione delle autorità di San Francisco. A luglio 2026 il procuratore della città aveva chiesto ad Apple e Google di rimuovere specifiche applicazioni di nudificazione dai rispettivi negozi digitali, contestando la disponibilità di strumenti utilizzabili per produrre immagini intime artificiali senza consenso.

Il caso Kromix arriva dopo un’altra serie di inserzioni pubblicate sulle piattaforme Meta tra novembre 2025 e agosto 2026. In quell’indagine erano stati individuati più di 50 annunci contenenti materiale sessuale generato con l’intelligenza artificiale che coinvolgeva minori o immagini di minori accompagnate da messaggi sessualmente espliciti. Alcune inserzioni avevano raggiunto migliaia di utenti negli Stati Uniti, nel Regno Unito e in diversi Paesi europei.

Tra le applicazioni promosse figurava anche MaskAI, che permetteva di sostituire i volti nelle immagini e inserirli in situazioni sessuali. Anche questa app è stata successivamente rimossa dall’App Store. I nuovi episodi mostrano le difficoltà dei sistemi di controllo automatico nel bloccare campagne pubblicitarie che modificano immagini, copertine e modalità di distribuzione per superare i filtri delle piattaforme.