Un’inchiesta della BBC ha scoperto una enorme rete internazionale di spammer che pubblica su Facebook immagini generate dall’intelligenza artificiale raffiguranti vittime dell’Olocausto. Del resto, le foto autentiche provenienti dai campi di concentramento sono pochissime. Sul web però questi spammer hanno prodotto tantissime immagini false, prigionieri che suonano il violino, coppie che si incontrano oltre le recinzioni, e altre scene inventate che hanno raccolto decine di migliaia di like e condivisioni. Pawel Sawicki, portavoce del Memoriale di Auschwitz in Polonia, è rimasto senza parole dinanzi a questa tendenza grottesca:
Qui abbiamo qualcuno che inventa storie... per una specie di strano gioco emotivo che si sta svolgendo sui social media. Questo non è un gioco. Questo è un mondo reale, una sofferenza reale e persone reali che vogliamo e dobbiamo commemorare.
La BBC ha tracciato molte di queste immagini fino ad account di creatori di contenuti in Pakistan, che collaborano per guadagnare attraverso il programma di monetizzazione di Meta. Uno degli account, Abdul Mughees, ha pubblicato screenshot che mostrerebbero guadagni fino a 20.000 dollari e più di 1,2 miliardi di visualizzazioni in quattro mesi. Tra i post, foto AI di vittime immaginarie e storie inventate, come bambini nascosti sotto i pavimenti o neonati lasciati sui binari vicino ai campi.
Il fenomeno rientra nella categoria del cosiddetto AI slop, ovvero immagini e testi generati automaticamente di bassa qualità, prodotti in grandi quantità e diffusi massivamente sui social. Alcune pagine dedicate alla storia, come “Timeless Tales” o “History Haven”, pubblicano oltre 50 post al giorno, spesso rielaborando contenuti storici reali attraverso modelli AI, con distorsioni o invenzioni totali di eventi e vittime.
A giugno, il Museo di Auschwitz ha avvertito che account come questi stavano rubando i suoi post, elaborandoli tramite modelli di intelligenza artificiale e spesso distorcendo dettagli storici o inventando completamente narrazioni e vittime. Lo stesso ha definito queste pratiche una "pericolosa distorsione" che "manca di rispetto alle vittime e alla loro memoria". Anche le famiglie dei sopravvissuti sono profondamente turbate.
Meta non promuove intenzionalmente la diffusione di storie false, ma il suo sistema premia i post più popolari. La BBC ha individuato account simili anche in India, Vietnam, Thailandia e Nigeria. Alcuni creatori pubblicano guide per generare continuamente immagini storiche false e per aggirare i sistemi di verifica, talvolta impersonando enti ufficiali. In passato l'intelligenza artificiale è stata utilizzata per commemorare l'Olocausto e dare vita alle storie delle vittime reali, ma il dott. Williams dell'International Holocaust Remembrance Alliance avverte che c'è il rischio che ciò possa contribuire a creare la sensazione che la storia dell'Olocausto sia in qualche modo inventata.
Dopo le segnalazioni del Memoriale di Auschwitz, Meta ha rimosso diverse pagine e disabilitato gli account che violavano le regole su spam e comportamento non autentico.
Steam users in the UK will need a credit card to access ‘mature content’ games