Deepfakes: Rechtsrahmen und digitale Wasserzeichen

Künstliche Intelligenz ermöglicht die Erstellung täuschend echter Bilder, Videos und Audioaufnahmen. Auch wenn Deepfakes legitime Anwendungen in der Filmproduktion und der digitalen Kreativität haben, können sie Identitätsbetrug, Desinformation, Betrugsmaschen und Verletzungen der Privatsphäre begünstigen.

Die Europäische Union begegnet diesen Risiken mit der KI-Verordnung (Verordnung (EU) 2024/1689). Artikel 50 legt Transparenzpflichten für bestimmte KI-generierte oder manipulierte Inhalte fest.

Anbieter generativer KI-Systeme müssen technische Maßnahmen ergreifen, um synthetische Inhalte in einem maschinenlesbaren Format erkennbar zu machen. Auch Nutzer, die KI zur Erstellung von Deepfakes einsetzen, unterliegen unter den in der Verordnung festgelegten Umständen Offenlegungspflichten; für bestimmte künstlerische, satirische und fiktionale Werke gelten Ausnahmen.

Ziel dieser Anforderungen ist es, die Transparenz zu verbessern, ohne die legitime Nutzung synthetischer Medien zu verbieten.

Beim digitalen Wasserzeichen werden Informationen in eine Datei eingebettet, um ihren Ursprung zu identifizieren oder darauf hinzuweisen, dass sie künstlich erzeugt oder verändert wurde.

Gängig sind drei Ansätze:

Sichtbare Wasserzeichen: Kennzeichnungen wie „KI-generiert“, die direkt auf einem Bild oder Video angezeigt werden.

Unsichtbare Wasserzeichen: In digitale Signale eingebettete Informationen, die mit kompatiblen Werkzeugen erkannt werden können.

Herkunftsmetadaten: Informationen, die den Ursprung und die Bearbeitungshistorie einer Datei dokumentieren.

Diese Verfahren können Transparenz und Nachverfolgbarkeit von Inhalten unterstützen. Sie haben jedoch Grenzen: Wasserzeichen können entfernt oder verändert werden, und Metadaten können bei der Verarbeitung oder Verbreitung von Dateien verloren gehen. Das Fehlen eines Wasserzeichens beweist nicht, dass ein Inhalt echt ist.

Die Kombination von Wasserzeichen mit Herkunftsstandards, kryptografischen Signaturen und unabhängiger Überprüfung kann einen besseren Schutz bieten.

Die Bekämpfung böswilliger Deepfakes erfordert eine Kombination aus rechtlichen Schutzmaßnahmen, technischen Lösungen und öffentlicher Aufklärung. Quellen zu prüfen, Informationen abzugleichen und ungewöhnliche Zahlungsaufforderungen unabhängig zu bestätigen, bleiben unverzichtbare Vorsichtsmaßnahmen.

Ziel ist nicht, KI-generierte Inhalte zu verbieten, sondern ihre Herkunft transparenter zu machen, täuschende Nutzungen einzuschränken und das Vertrauen in digitale Informationen zu erhalten.