Il fenomeno dei deepfake non lascia scampo nemmeno a papa Leone XIV, che a partire dalla sua elezione, l'8 maggio scorso, è stato oggetto della diffusione di sermoni e discorsi falsi in inglese e spagnolo. Si tratta di contenuti video e audio generati dall'intelligenza artificiale, che stanno inondando YouTube e TikTok da circa un mese, per l'appunto.
"C'è un naturale interesse per ciò che il nuovo Papa ha da dire e le persone non conoscono ancora la sua posizione e il suo stile", ha affermato Oren Etzioni, professore emerito dell'Università di Washington e fondatore di TrueMedia.org, un'organizzazione no-profit impegnata a contrastare i deepfake. "Un'occasione perfetta – continua – per seminare guai con la disinformazione generata dall'intelligenza artificiale".
È stata AFP Fact Check a segnalare a YouTube ben 26 canali tutti dedicati al Papa e ai suoi presunti discorsi originali. Di questi, 16 sono stati già chiusi per "violazione delle politiche contro spam, pratiche ingannevoli e truffe" e un altro per violazione dei termini di servizio di YouTube.
Anche TikTok ha mostrato impegno nella lotta ai deepfake "papali", prendendo provvedimenti contro 11 account con 1,3 milioni di follower in tutto. In questo caso, sono state fatte valere le politiche della piattaforma contro l'impersonificazione, la disinformazione dannosa e i contenuti fuorvianti generati dall'intelligenza artificiale sfruttando l'immagine di personaggi pubblici. Prima della cancellazione, comunque, questi contenuti hanno fatto in tempo a fare il giro del web, macinando milioni di visualizzazioni.
Tra i video incriminati c'è quello che riportiamo in FONTE a titolo di esempio, in cui papa Prevost se la prenderebbe col vicepresidente USA Vance. A ben vedere, gli indizi sulla falsità del video sono chiari: la voce suona sintetica, con quel tono fluido e costantemente calmo, senza pause per il respiro. Ma un utente meno esperto, con meno familiarità con i mezzi informatici, potrebbe facilmente scambiarlo per reale.
Apple allena l'AI per andare oltre le parole e rendere l'ecosistema più accessibile