L’uso dell’intelligenza artificiale per creare immagini e video falsi del Pontefice si moltiplica sui social. Il Dicastero per la Comunicazione: «Investire nell’educazione ai media è essenziale».
Avete sentito cosa avrebbe detto Papa Leone XIV su Charlie Kirk o sull’ex presidente Donald Trump? Oppure le sue opinioni sul “rapimento” o sulla cremazione? Sono solo alcuni dei temi che circolano in video apparentemente autentici diffusi ogni giorno sui social media.
Il problema è che quei video non sono reali. E il Vaticano sta facendo fatica a contrastarne la diffusione.
Il team di comunicazione vaticano ha riferito di aver segnalato centinaia di account, soprattutto su YouTube, che pubblicano video falsi generati dall’intelligenza artificiale — i cosiddetti deepfake — con protagonista Papa Leone XIV, dall’inizio del suo pontificato. Ma la battaglia è in salita: nuovi account, video e immagini compaiono con la stessa rapidità con cui altri vengono rimossi.
«Assistiamo alla proliferazione esponenziale di una serie di canali YouTube con video falsi, tutti simili tra loro: alcuni parlano con la voce di Leone XIV, altri con quella dei suoi traduttori, altri ancora in terza persona. Tutti usano l’intelligenza artificiale per far dire al Papa cose che non ha mai detto», ha affermato il Dicastero per la Comunicazione in una dichiarazione a CNA.
Dai discorsi plausibili agli annunci inverosimili
Una ricerca su YouTube del termine “Pope Leo” mostra decine di video falsi in cui il Pontefice sembra affrontare argomenti che vanno dal plausibile — come riflessioni sull’Eucaristia — al decisamente improbabile, come l’annuncio delle proprie dimissioni.
La maggior parte di questi filmati raccoglie solo poche centinaia di visualizzazioni, ma alcuni deepfake hanno iniziato a diventare virali. Un video di 25 minuti in cui si sosteneva che il Papa avesse rotto il silenzio sull’omicidio di Charlie Kirk ha superato le 445.000 visualizzazioni nei primi sette giorni dalla pubblicazione.
Uno dei primi video virali dopo l’elezione di Leone XIV lo mostrava leggere un discorso in cui denunciava il colonialismo e lodava il presidente ad interim del Burkina Faso, il capitano Ibrahim Traoré, salito al potere con un colpo di Stato nel 2022. CNA e Vatican News pubblicarono immediatamente articoli di verifica per avvertire i lettori della falsità della notizia. Il video di 36 minuti, caricato a maggio poco dopo l’elezione papale, raccolse almeno un milione di visualizzazioni prima che YouTube chiudesse l’account che lo aveva diffuso.
“Pensavano fossi davvero io”
Il termine deepfake, coniato meno di dieci anni fa, si riferisce a video, foto o registrazioni audio manipolate per mostrare persone mentre fanno o dicono cose che in realtà non hanno mai fatto né detto.
Papa Leone XIV non è il primo Pontefice ad esserne vittima. Nel 2015 la conduttrice televisiva Ellen DeGeneres mostrò nel suo show un video manipolato di Papa Francesco che estraeva un panno bianco da sotto le candele di un altare. Nel 2023 divenne virale l’immagine generata con IA di Francesco con un lungo piumino bianco.
Con la tecnologia in rapido sviluppo, sempre più capace di produrre immagini realistiche, non sorprende che molti spettatori in buona fede cadano nell’inganno.
Lo stesso Papa Leone XIV ha raccontato un episodio in cui le immagini false hanno generato confusione. In un’intervista con la giornalista Elise Ann Allen, il Pontefice ha ricordato la sua sorpresa quando un conoscente gli chiese preoccupato se stesse bene. A giugno, infatti, erano circolate su internet fotografie generate con IA che lo mostravano mentre cadeva da una scalinata davanti alla Basilica di San Pietro. Quelle immagini, che attirarono anche l’attenzione del sito di fact-checking Snopes, erano «così realistiche che hanno pensato fossi davvero io», ha detto Leone XIV.
L’allarme del Dicastero per la Comunicazione
Il team di comunicazione vaticano ha messo in guardia sulla proliferazione dei deepfake nella newsletter mensile diffusa ad agosto, invitando i lettori a segnalare post e video sospetti al Dicastero.
«Purtroppo, il nostro dicastero riceve ogni giorno decine di segnalazioni su account falsi che utilizzano l’immagine e la voce del Papa in modo molto realistico, sfruttando sempre più l’intelligenza artificiale per fargli pronunciare parole mai dette o per mostrarlo in situazioni in cui non si è mai trovato», si legge nel testo.
«Gran parte del nostro tempo — prosegue la newsletter — è speso nel segnalare, far tacere e chiedere la rimozione di questi account. Data la mole di materiale falso, è impossibile confutare pubblicamente ciascuno di essi».
Educazione ai media e fonti ufficiali
In una dichiarazione a CNA, il Dicastero ha aggiunto che il Vaticano non si limita a segnalare account falsi alle piattaforme, ma lavora anche per «accrescere la consapevolezza del pubblico su questo nuovo fenomeno. Riteniamo essenziale investire nell’educazione ai media».
Infine, un richiamo alla prudenza e all’uso delle fonti ufficiali: «Ricordiamo ai lettori di fare riferimento ai siti ufficiali del Vaticano per verificare le citazioni. Se non si trovano lì, molto probabilmente sono false».
