Ein manipuliertes Video, das in sozialen Medien kursiert, zeigt fälschlicherweise die brasilianische Musikikone Caetano Veloso, wie er zur Unterstützung von Präsident Luiz Inácio Lula da Silva bei der bevorstehenden Wahl 2026 aufruft. Der Clip, der auf Netzwerken wie X, Instagram und TikTok große Verbreitung fand, enthält eine synthetische Stimme, die den Tonfall des Sängers nachahmt. In der gefälschten Audioaufnahme behauptet die Stimme, Lula habe das Land vor dem Hass gerettet, und fordert die Zuschauer auf, ihre Unterstützung durch Klicken von Buttons und Kommentieren mit der Nummer 13 zu zeigen, einem Symbol der Arbeiterpartei (PT).
Das Video verbreitete sich schnell und erreichte innerhalb von nur drei Tagen über 235.000 Aufrufe und 45.000 Likes. Es enthielt visuelle Elemente, die authentisch wirken sollten, wie einen roten Stern, der dem PT-Logo ähnelt, und abwechselnde Fotos des Präsidenten. Allerdings befand sich am Ende der Beschreibung des Beitrags ein kleines, leicht zu übersehendes Etikett mit dem Hinweis 'Vom Ersteller als KI-generiert markiert', ein Detail, das viele Zuschauer offenbar übersehen haben. Kommentare zu dem Beitrag zeigten, dass zahlreiche Nutzer den Inhalt für echt hielten und ihre Unterstützung für die vermeintliche Empfehlung ausdrückten.
Überprüfungsbemühungen entlarvten das Video schnell als Deepfake. Das offizielle Team von Caetano Veloso und seine Frau Paula Lavigne bestätigten gegenüber Faktenprüfern, dass das Video völlig falsch ist und mithilfe künstlicher Intelligenz verändert wurde. Auch die Arbeiterpartei gab eine Erklärung ab, in der sie klarstellte, dass der Inhalt nicht von ihr produziert wurde, und verurteilte jede Form von Manipulation oder Desinformation. Die Partei wies insbesondere darauf hin, dass das im Video verwendete Sternsymbol nicht ihr offizielles Logo sei.
Um den Ursprung des manipulierten Materials zurückzuverfolgen, setzten Ermittler digitale forensische Werkzeuge ein. Sie zerlegten das Video in Einzelbilder und führten umgekehrte Bildersuchen durch. Dieser Prozess führte sie zu dem originalen, authentischen Video, das im September 2025 auf den offiziellen TikTok- und Instagram-Konten von Caetano Veloso veröffentlicht wurde. Das echte Video hatte ein völlig anderes Thema: Der Sänger kritisierte einen Gesetzesvorschlag namens 'PEC da Blindagem', der darauf abzielte, den Rechtsschutz für Parlamentarier zu erhöhen.
Das originale Audio zeigte Veloso, wie er leidenschaftlich zu öffentlichen Demonstrationen gegen den Vorschlag aufrief und die Menschen aufforderte, vor dem Kongress auf die Straße zu gehen. Dies steht in krassem Gegensatz zu der fabrizierten Botschaft über politische Unterstützung für die Wahl 2026. Die Deepfake-Ersteller hatten dieses echte Material genommen und die Tonspur durch eine synthetische Stimme ersetzt, wodurch der gesamte Kontext und die Botschaft des Videos verändert wurden.
Mehrere KI-Erkennungstools wurden zur Analyse des verdächtigen Videos eingesetzt, und die Ergebnisse waren eindeutig. Hive Moderation ergab eine 91,8%ige Wahrscheinlichkeit, dass das Audio KI-generiert war. Der InVID-Deepfake-Detektor zeigte eine 99%ige Wahrscheinlichkeit, dass das Video KI-manipulierte Gesichter enthielt. Darüber hinaus berichtete das Hiya-Audioanalyse-Tool von einer 98%igen Wahrscheinlichkeit einer synthetischen Stimmklonung. Diese hochgradig sicheren Ergebnisse lassen keinen Zweifel an der künstlichen Herkunft des Videos.
Dieser Vorfall verdeutlicht die wachsende Herausforderung von KI-generierter Desinformation in politischen Kontexten. Die anspruchsvolle Natur des Deepfakes, kombiniert mit seiner raschen Verbreitung und dem anfänglichen Glauben vieler Zuschauer, unterstreicht das Potenzial solcher Inhalte, die öffentliche Meinung zu beeinflussen. Die schnelle Reaktion von Faktenprüfern und den beteiligten Parteien war entscheidend, um die falsche Erzählung zu entlarven, bevor sie weitere Verwirrung stiften konnte. Basierend auf einem Bericht von g1.