Ein Ausschnitt der oe24.TV-Elefantenrunde wurde von einer KI gefälscht – selbstverständlich ist es nie zu dieser Szene gekommen. Das Fake-Video wurde oft geteilt. Wer der Urheber des Fake-Clips ist, ist noch unbekannt.
Wien. Wie es in Österreich politisch weiter geht, liegt derzeit hauptsächlich an drei Personen. Karl Nehammer (ÖVP), Andreas Babler (SPÖ) und Beate Meinl-Reisinger (NEOS) sollen mitsamt ihrer Chefverhandler den Weg für eine zukünftige Dreier-Koalition ebnen. Diese Gespräche werden von Kritikern teilweise mit Häme überzogen. In einem aufrufstarken Video (1,2) scheinen die Verantwortlichen vor laufender Kamera zu raufen.
Das Video ist definitiv gefälscht und mit hoher Wahrscheinlichkeit mithilfe von Künstlicher Intelligenz (KI) erstellt worden. Es basiert auf einer Aufnahme von einem TV-Duell, in der keine Eskalation stattgefunden hat.
Typische KI-Merkmal
Überprüfung: In dem in schlechter Qualität aufgelösten Video sind typische KI-Merkmale zu finden. Eines der wichtigsten ist in diesem Fall fehlende Konsistenz: Die Gesichter der drei Politiker sind zwar im ersten Bildausschnitt deutlich zu erkennen, gehen dann allerdings in verzerrte Grimassen über und sind in keinem anderen Frame des Videos noch zu identifizieren. Die Schrift im Hintergrund erleidet dasselbe Schicksal. Die Haare von Meinl-Reisinger wandern in den beiden letzten Frames plötzlich auf den Kopf von Nehammer, ihr Körper dreht sich bei der Hälfte des Videos innerhalb eines Augenblicks in die gegensätzliche Richtung.
Auch wenn sicher zahlreiche Menschen das Video als Fälschung erkennen dürften, ist das Fälschungspotenzial der Generierung von Bildern und Videos durch KI in manchen Bevölkerungsgruppen noch weitestgehend unbekannt. Während noch über täuschend echt aussehende computergenerierte Bilder gestaunt wird, ist die Technologie bei Videos schon fast genau so weit. Die neuesten Modelle können Bilder animieren und auf deren Basis Videosequenzen generieren (3,4). Genau das dürfte auch beim vorliegenden Video zur österreichischen Innenpolitik passiert sein. Mit welchem KI-Modell hier gearbeitet wurde, konnte aber nicht festgestellt werden.
Als Grundlage diente ein echtes Foto
Als Grundlage diente auf jeden Fall ein echtes Foto (5), das bei einem gemeinsamen TV-Auftritt bei oe24.at (6) entstanden ist. Dort sind Nehammer, Babler und Meinl-Reisinger gemeinsam mit Herbert Kickl (FPÖ) und Werner Kogler (Grüne) zu sehen. Neben Kleidung stimmen auch Körperhaltung und Mimik der Personen überein. Das Gruppenbild wurde also auf sie zugeschnitten und dies dann als Vorlage für eine KI-Anwendung herangezogen.
Um mehr über den Ursprung des Videos zu erfahren, kontaktierte APA-Faktencheck Josef Temmel vom Team Strache, dessen Posting im Zuge der Recherche als ältestes verfügbares auszumachen war. Mehr als 6.000 Leute sahen dort das zum Recherchezeitpunkt nicht gekennzeichnete KI-Video (1). Temmel verwies allerdings per Mail darauf, dass es sich um einen von ihm geteilten “Netzfund” handele, den er zwischenzeitlich auch mit einem KI-Vermerk gekennzeichnet hätte. Ob eine zwischenzeitliche Kennzeichnung tatsächlich erfolgt war, konnte APA-Faktencheck nicht mehr prüfen, da das Posting nach unserer Anfrage gelöscht wurde.
