Gefälschtes Nachrichten-Video mit künstlicher Intelligenz erstellt

Der französische Präsident Emmanuel Macron pflegt eine enge Beziehung zum ukrainischen Präsidenten Wolodymyr Selenskyj. Doch nun heißt es in einem auf Facebook verbreiteten, unscharfen Video, dass Macron einen Besuch in der Ukraine absagen musste. Angeblich soll ein Attentat auf ihn geplant gewesen sein. Die ukrainischen Behörden planten demnach, «die Schuld für den Angriff des französischen Präsidenten auf die russische Seite abwälzen». Das sollen angeblich französische Medien berichtet haben.

Bewertung

Das Video ist eine Fälschung, die auf einem französischsprachigen Deepfake basiert.

Fakten

Im Netz finden sich weitere Varianten des Videos. So wurde auf einem russischsprachigen Kanal bei Telegram eine Version mit höherer Auflösung veröffentlicht, in der man keine deutsche, sondern eine französische Sprecherstimme hört. Hier erkennt man in der unteren rechten Ecke das Logo des Senders «France24».

Doch das Video ist eine Fälschung, wie der Sender klarstellte. In einem Erklärvideo zeigte «France24» die Vorgehensweise der Fälscher. Der Clip wurde mithilfe von künstlicher Intelligenz (KI) aus echtem «France24»-Material hergestellt. Die Originalaufnahmen stammen aus einer Sendung vom 12. Februar 2024. Die Einblendungen, die man in der Fälschung sieht, stimmen mit denen bei Minute 2:13 überein: «Deux otages israéliens libérés à Rafah» (Zwei israelische Geiseln in Rafah freigelassen).

Für den Deepfake wurde sowohl die Audiospur als auch das Filmmaterial verändert. Die dabei errechneten Lippenbewegungen sehen unnatürlich aus, da die genutzte Technologie keine perfekten Fälschungen herstellen kann. Auch andere Faktencheck-Organisationen berichteten über den Fake.

Aus diesem gefälschten Clip wurde mithilfe einer Software die deutsche Fassung generiert. Dort ist rechts ein Logo zu sehen, das in der französischen Fassung fehlt: «EzDubs.ai» Dabei handelt es sich um einen Online-Service, mit dem man die Audiospur von Videos mit einer KI in andere Sprachen übersetzen kann.

(Stand: 7.3.2024)