Zmanipulowane wideo krążące w mediach społecznościowych fałszywie przedstawia brazylijską ikonę muzyki Caetano Veloso wzywającego do wsparcia dla prezydenta Luiza Inácio Luli da Silvy w nadchodzących wyborach w 2026 roku. Klip, który zyskał znaczną popularność w sieciach takich jak X, Instagram i TikTok, zawiera syntetyczny głos naśladujący ton piosenkarza. W sfabrykowanym audio głos twierdzi, że Lula uratował kraj przed nienawiścią i zachęca widzów do okazania wsparcia poprzez klikanie przycisków i komentowanie numerem 13, symbolem kojarzonym z Partią Pracowników (PT).
Wideo rozprzestrzeniało się szybko, zdobywając ponad 235 000 wyświetleń i 45 000 polubień w ciągu zaledwie trzech dni. Zawierało elementy wizualne mające wyglądać autentycznie, takie jak czerwona gwiazda przypominająca logo PT i zmieniające się zdjęcia prezydenta. Jednak na samym końcu opisu posta znajdowała się mała, łatwa do przeoczenia etykieta z napisem "Oznaczone przez twórcę jako wygenerowane przez AI", szczegół, którego wielu widzów najwyraźniej nie zauważyło. Komentarze pod postem ujawniły, że wielu użytkowników uznało treść za prawdziwą, wyrażając swoje poparcie dla rzekomego endorsementu.
Działania weryfikacyjne szybko zdemaskowały wideo jako deepfake. Oficjalny zespół Caetano Veloso i jego żona, Paula Lavigne, potwierdzili fact-checkerom, że wideo jest całkowicie fałszywe i zostało zmodyfikowane przy użyciu sztucznej inteligencji. Partia Pracowników również wydała oświadczenie, wyjaśniając, że treść nie została przez nich wyprodukowana i potępiając wszelkie formy manipulacji lub dezinformacji. Partia szczególnie zauważyła, że użyty w filmie symbol gwiazdy nie był ich oficjalnym logo.
Aby prześledzić pochodzenie zmanipulowanego materiału, śledczy użyli narzędzi kryminalistyki cyfrowej. Podzielili wideo na pojedyncze klatki i przeprowadzili odwrotne wyszukiwanie obrazów. Proces ten doprowadził ich do oryginalnego, autentycznego wideo, które zostało opublikowane na oficjalnych kontach Caetano Veloso na TikToku i Instagramie we wrześniu 2025 roku. Prawdziwe wideo miało zupełnie inny temat: piosenkarz krytykował projekt ustawy znany jako "PEC da Blindagem", który miał na celu zwiększenie ochrony prawnej parlamentarzystów.
Oryginalne audio zawierało Veloso namiętnie wzywającego do publicznych demonstracji przeciwko propozycji, nakłaniającego ludzi do wyjścia na ulice przed Kongres. To ostro kontrastuje ze sfabrykowaną wiadomością o politycznym poparciu dla wyborów w 2026 roku. Twórcy deepfake'a wzięli ten autentyczny materiał i zastąpili ścieżkę audio syntetycznym głosem, zmieniając całkowicie kontekst i przesłanie wideo.
Do analizy podejrzanego wideo użyto wielu narzędzi do wykrywania AI, a wyniki były jednoznaczne. Hive Moderation wskazało na 91,8% prawdopodobieństwa, że audio zostało wygenerowane przez AI. Detektor deepfake InVID wykazał 99% prawdopodobieństwa, że wideo zawiera twarze zmanipulowane przez sztuczną inteligencję. Ponadto narzędzie do analizy audio Hiya zgłosiło 98% szans na syntetyczne klonowanie głosu. Te wyniki o wysokiej pewności nie pozostawiają wątpliwości co do sztucznego pochodzenia wideo.
Ten incydent podkreśla rosnące wyzwanie dezinformacji generowanej przez AI w kontekstach politycznych. Zaawansowany charakter deepfake'a, w połączeniu z szybkim rozprzestrzenianiem się i początkowym przekonaniem wielu widzów, podkreśla potencjał takich treści do wpływania na opinię publiczną. Szybka reakcja fact-checkerów i zaangażowanych stron była kluczowa dla zdemaskowania fałszywej narracji, zanim mogła spowodować dalsze zamieszanie. Na podstawie raportu z g1.