Un video manipolato che circola sulle piattaforme di social media ritrae falsamente l'icona della musica brasiliana Caetano Veloso che chiede sostegno per il presidente Luiz Inácio Lula da Silva nelle prossime elezioni del 2026. Il clip, che ha guadagnato una trazione significativa su reti come X, Instagram e TikTok, presenta una voce sintetica che imita il tono del cantante. Nell'audio fabbricato, la voce afferma che Lula ha salvato il paese dall'odio e invita gli spettatori a mostrare il loro sostegno cliccando su pulsanti e commentando con il numero 13, un simbolo associato al Partito dei Lavoratori (PT).
La diffusione del video è stata rapida, accumulando oltre 235.000 visualizzazioni e 45.000 mi piace in soli tre giorni. Includeva elementi visivi progettati per sembrare autentici, come una stella rossa simile al logo del PT e foto alternate del presidente. Tuttavia, una piccola etichetta facilmente trascurabile che recita "Marcato dal creatore come generato dall'IA" è stata posizionata alla fine della descrizione del post, un dettaglio che molti spettatori apparentemente hanno perso. I commenti sul post hanno rivelato che numerosi utenti credevano che il contenuto fosse genuino, esprimendo il loro sostegno per la presunta approvazione.
Gli sforzi di verifica hanno rapidamente esposto il video come un deepfake. Il team ufficiale di Caetano Veloso e sua moglie, Paula Lavigne, hanno confermato ai fact-checker che il video è completamente falso ed è stato modificato utilizzando l'intelligenza artificiale. Anche il Partito dei Lavoratori ha rilasciato una dichiarazione, chiarendo che il contenuto non è stato prodotto da loro e condannando qualsiasi forma di manipolazione o disinformazione. Il partito ha specificamente notato che il simbolo della stella utilizzato nel video non era il loro logo ufficiale.
Per rintracciare l'origine delle immagini manipolate, gli investigatori hanno utilizzato strumenti di digital forensics. Hanno frammentato il video in singoli fotogrammi ed eseguito ricerche inverse di immagini. Questo processo li ha portati al video autentico originale, pubblicato sugli account ufficiali TikTok e Instagram di Caetano Veloso nel settembre 2025. Il vero video aveva un soggetto completamente diverso: il cantante criticava una proposta legislativa nota come "PEC da Blindagem", che mirava ad aumentare le protezioni legali per i parlamentari.
L'audio originale presentava Veloso che chiedeva appassionatamente manifestazioni pubbliche contro la proposta, esortando le persone a scendere in strada davanti al Congresso. Ciò contrasta nettamente con il messaggio fabbricato sul sostegno politico per le elezioni del 2026. I creatori del deepfake avevano preso questo filmato genuino e sostituito la traccia audio con una voce sintetica, alterando completamente il contesto e il messaggio del video.
Molteplici strumenti di rilevamento dell'IA sono stati utilizzati per analizzare il video sospetto, e i risultati sono stati conclusivi. Hive Moderation ha indicato una probabilità del 91,8% che l'audio fosse generato dall'IA. Il rilevatore di deepfake InVID ha mostrato una probabilità del 99% che il video contenesse volti manipolati dall'intelligenza artificiale. Inoltre, lo strumento di analisi audio Hiya ha riportato una probabilità del 98% di clonazione vocale sintetica. Questi risultati di alta confidenza non lasciano dubbi sulle origini artificiali del video.
Questo incidente evidenzia la crescente sfida della disinformazione generata dall'IA nei contesti politici. La natura sofisticata del deepfake, combinata con la sua rapida diffusione e l'iniziale convinzione di molti spettatori, sottolinea il potenziale di tali contenuti di influenzare l'opinione pubblica. La rapida risposta dei fact-checker e delle parti coinvolte è stata cruciale per smascherare la falsa narrativa prima che potesse causare ulteriore confusione. Basato su un reportage di g1.