Die Evolution von Deepfakes: Nicht einmal Herzschläge können sie entlarven | Release #490
Cover photo by ksk_1990
Einst als vielversprechende Methode zur Erkennung von Deepfakes angesehen, wurde die „Herzschlagerkennung“ durch neueste Forschungen in Frage gestellt. Moderne, hochpräzise Deepfakes können sogar feine physiologische Signale wie menschliche Herzschläge nachahmen.
In diesem Artikel erläutern wir die technischen Hintergründe und die zukünftigen Ansätze zur Erkennung.
Die visuelle Realität bringt den „Herzschlag“
Die jüngsten Fortschritte in der Deepfake-Technologie ermöglichen nicht nur eine realistische Optik, sondern auch die Nachbildung physiologischer Merkmale. Besonders hervorzuheben ist die „Visualisierung des Herzschlags“. Die rPPG-Technik (Remote Photoplethysmography), die subtile Farbveränderungen der Haut analysiert, galt einst als zuverlässige Methode: Wenn ein Herzschlag erkannt wurde, galt das Video als echt.
Neueste Forschungen zeigen jedoch, dass durch Deep Learning generierte Videos die subtilen Blutflussmuster des Originalmaterials „zufällig“ übernehmen und sogar falsche Herzschläge nachbilden können.
Risiken von Fehlinterpretationen und die Herausforderungen der Techniker
In einer Studie der Humboldt-Universität wurde festgestellt, dass ein Modell zur Herzschlagerkennung aus 10-sekündigen Gesichtsvideos auch in gefälschten Videos „Herzschläge“ erkennt, was zu zahlreichen Fehlinterpretationen führte. Die Annahme „Herzschlag vorhanden = echt“ ist somit nicht mehr gültig.
Die Ursache liegt in den subtilen Ton- und Bewegungsresten im Gesicht während der Videoerstellung, die wie ein „Herzschlag“ wirken. Forscher verlagern ihren Fokus nun auf die Analyse lokaler Blutflussmuster und zeitlicher Veränderungen im Gesicht. Sie betonen die Notwendigkeit, mehrere Erkennungstechnologien zu kombinieren, anstatt sich auf einen einzigen Indikator zu verlassen.
Warnung durch den Fortschritt der KI-Technologie
Diese Forschung könnte auch für uns Kreative von Bedeutung sein, da sie uns dazu anregt, die Frage zu stellen, was „real“ wirklich bedeutet.
Während wir KI in die Erstellung von Werken integrieren, stellt sich die Frage, wie wir Zuverlässigkeit und Originalität bewahren können. Auch die Erstellung von Werken zum Thema Deepfake kann ein Mittel sein, um gesellschaftliche Diskussionen anzuregen.
