Manipulierte Videos erkennen
Videos, die mit KI gefälscht wurden, lassen sich kaum von echten Videos unterscheiden. Aber wie kann man einen Deepfake als solchen erkennen und beweisen?
Das CyberSec-Forschungs- und Transferzentrum (FTZ) an der HAW Hamburg arbeitet gemeinsam mit Chainstep GmbH an einer entsprechenden Technologie. Das Projekt „Robuste Signatur audiovisueller Medien gegen (Deep) Fakes (SaM-fake)" wurde erfolgreich im BMBF-Förderprogramm „DATI Innovation Sprints" präsentiert.
So funktioniert die Technologie
Die „Trusted Cam"-Software hinterlegt während der Aufnahme unsichtbare Wasserzeichen im gesamten Video. Diese würden durch eine manipulierende KI zumindest teilweise zerstört.
„Es ist nahezu unmöglich, das Wasserzeichen vollständig zu entfernen", erklärt Prof. Dr. Volker Skwarek, Wissenschaftlicher Leiter des FTZ CyberSec. „Teile davon werden immer erkennbar sein. Daraus lässt sich dann die Manipulation eines bereits gesicherten Videos ableiten."
Einfache Bildbearbeitung wie Drehen, Zuschneiden, Skalieren oder sogar das Komprimieren von Dateien beeinträchtigt die gespeicherten Wasserzeichen nicht.
Vielfältige Einsatzmöglichkeiten
Die Technologie lässt sich vielfältig einsetzen – beispielsweise in Messenger-Anwendungen oder beim Versand über soziale Medien. In Messenger-Apps können die aufgezeichneten Videos und Audiodateien direkt mit der Software signiert werden. Beim Empfang werden die signierten Dateien automatisch verifiziert.
Dank der C4T-Transferförderung der Freien und Hansestadt Hamburg konnte das FTZ CyberSec die ursprüngliche Forschungssoftware bereits um den Schutz von Audioaufnahmen erweitern und eine Handy-App erstellen.
Das Ziel: eine Open-Source-Software, die in Messenger-Apps integriert werden kann – zum Beispiel für den Authentizitätsnachweis bei der Berichterstattung aus Krisengebieten.