Een gemanipuleerde video die circuleert op sociale mediaplatforms toont ten onrechte de Braziliaanse muziekicoon Caetano Veloso die oproept tot steun voor president Luiz Inácio Lula da Silva bij de komende verkiezingen van 2026. De clip, die aanzienlijke tractie kreeg op netwerken als X, Instagram en TikTok, bevat een synthetische stem die de toon van de zanger nabootst. In de gefabriceerde audio beweert de stem dat Lula het land heeft gered van haat en spoort kijkers aan om hun steun te tonen door op knoppen te klikken en te reageren met het nummer 13, een symbool dat geassocieerd wordt met de Arbeiderspartij (PT).
De verspreiding van de video was snel, met meer dan 235.000 weergaven en 45.000 vind-ik-leuks in slechts drie dagen. Het bevatte visuele elementen die bedoeld waren om authentiek te lijken, zoals een rode ster die lijkt op het PT-logo en afwisselende foto's van de president. Er was echter een klein, gemakkelijk over het hoofd te zien label met de tekst "Gemarkeerd door de maker als gegenereerd door AI" helemaal aan het einde van de beschrijving van het bericht, een detail dat veel kijkers blijkbaar misten. Reacties op het bericht onthulden dat talloze gebruikers de inhoud als echt beschouwden en hun steun betuigden voor de vermeende steunbetuiging.
Verificatie-inspanningen ontmaskerden de video snel als een deepfake. Het officiële team van Caetano Veloso en zijn vrouw, Paula Lavigne, bevestigden aan factcheckers dat de video volledig vals is en met kunstmatige intelligentie is aangepast. De Arbeiderspartij gaf ook een verklaring waarin werd verduidelijkt dat de inhoud niet door hen was geproduceerd en elke vorm van manipulatie of desinformatie werd veroordeeld. De partij merkte specifiek op dat het stersymbool dat in de video werd gebruikt niet hun officiële logo was.
Om de oorsprong van het gemanipuleerde beeldmateriaal te achterhalen, gebruikten onderzoekers digitale forensische hulpmiddelen. Ze fragmenteerden de video in afzonderlijke frames en voerden omgekeerde beeldzoekopdrachten uit. Dit proces leidde hen naar de originele, authentieke video, die in september 2025 op de officiële TikTok- en Instagram-accounts van Caetano Veloso was gepubliceerd. De echte video had een heel ander onderwerp: de zanger bekritiseerde een wetsvoorstel dat bekend staat als de "PEC da Blindagem", dat tot doel had de wettelijke bescherming van parlementariërs te vergroten.
De originele audio bevatte Veloso die hartstochtelijk opriep tot openbare demonstraties tegen het voorstel, en drong er bij mensen op aan de straat op te gaan voor het Congres. Dit staat in schril contrast met de gefabriceerde boodschap over politieke steun voor de verkiezingen van 2026. De deepfake-makers hadden dit echte beeldmateriaal genomen en de audiotrack vervangen door een synthetische stem, waardoor de hele context en boodschap van de video werd veranderd.
Meerdere AI-detectietools werden gebruikt om de verdachte video te analyseren en de resultaten waren overtuigend. Hive Moderation gaf een kans van 91,8% aan dat de audio door AI was gegenereerd. De InVID deepfake-detector toonde een kans van 99% dat de video gezichten bevatte die door kunstmatige intelligentie waren gemanipuleerd. Bovendien rapporteerde de Hiya-audio-analysetool een kans van 98% op synthetische stemklonen. Deze bevindingen met hoge betrouwbaarheid laten geen twijfel bestaan over de kunstmatige oorsprong van de video.
Dit incident benadrukt de groeiende uitdaging van AI-gegenereerde desinformatie in politieke contexten. De geavanceerde aard van de deepfake, gecombineerd met de snelle verspreiding en de initiële overtuiging van veel kijkers, onderstreept het potentieel van dergelijke inhoud om de publieke opinie te beïnvloeden. De snelle reactie van factcheckers en de betrokken partijen was cruciaal om het valse verhaal te ontkrachten voordat het verdere verwarring kon veroorzaken. Gebaseerd op berichtgeving van g1.