Deepfakes im Visier: Warum Plattformen bald haften und was das für uns alle bedeutet

28.06.2025 14:30 Uhr Melanie Vogel

Die Technik ist längst da, das Recht zieht nun nach: In mehreren Ländern werden derzeit Gesetze gegen Deepfakes vorbereitet oder verschärft. Ziel ist es, Plattformen stärker in die Pflicht zu nehmen und Nutzer besser vor gefälschten Inhalten zu schützen.Doch was bedeutet das konkret? Wie wirksam sind solche Maßnahmen und wo liegen ihre Grenzen? Ein Überblick über die juristische Aufholjagd gegen eines der gefährlichsten Werkzeuge künstlicher Intelligenz.

Was sind Deepfakes – und warum sind sie gefährlich?

Deepfakes sind mithilfe künstlicher Intelligenz manipulierte Video-, Audio- oder Bilddateien, in denen Personen scheinbar Dinge sagen oder tun, die sie in Wirklichkeit nie gesagt oder getan haben. Anfangs galten sie als technische Spielerei. Heute jedoch stellen sie eine ernsthafte Bedrohung für Demokratie, Persönlichkeitsrechte und Sicherheit dar. Gerade in sozialen Medien verbreiten sich Deepfakes schnell – oftmals mit fatalen Folgen. Ob Prominente, Politiker oder Privatpersonen: Immer häufiger tauchen täuschend echte Fälschungen auf, die Ruf, Integrität und sogar Menschenleben gefährden können. Besonders problematisch: Für Laien ist es fast unmöglich, Deepfakes zweifelsfrei als solche zu erkennen.

Europa zieht nach: Dänemark und Deutschland als Vorreiter

Dänemark – Urheberrecht wird auf Körper und Stimme ausgeweitet

Ein bahnbrechender Schritt kommt aus Skandinavien: Dänemark will das Urheberrecht erweitern – auf Stimme, Gesicht und Körpersprache. Damit würde jeder Mensch das exklusive Recht an seiner digitalen Erscheinung erhalten. Plattformen wären dann verpflichtet, Deepfakes auf Antrag zu entfernen. Eine Premiere in Europa.

Deutschland – Strafrecht gegen Deepfake-Verbreitung

Auch in Deutschland wird gehandelt. Mit dem neuen §201b StGB sollen Deepfake-Delikte künftig strafbar sein. Wer ohne Einwilligung manipulierte Inhalte erstellt oder verbreitet, muss mit bis zu zwei Jahren Haft rechnen – bei pornografischen Inhalten oder Angriffen auf den „höchstpersönlichen Lebensbereich“ sogar mit bis zu fünf Jahren. Dieser neue Straftatbestand ergänzt bestehende Gesetze wie das Urheber- und Persönlichkeitsrecht. Kritiker warnen jedoch: „Da würde eine neue Technik pauschal unter Strafe gestellt“, so ein Jurist im öffentlichen Diskurs. Die juristische Fachwelt bleibt gespalten, ob die Neuerungen zu pauschal oder endlich wirksam genug sind.

EU und internationale Entwicklungen

EU AI Act – Pflicht zur Kennzeichnung

Auf europäischer Ebene verpflichtet der seit Februar 2025 gültige EU AI Act Plattformen und Entwickler zur Kennzeichnung von KI-generierten Inhalten. Deepfakes gelten als „begrenztes Risiko“, für das eine transparente Offenlegung notwendig ist. Die Maßnahme zielt auf mehr Aufklärung und ermöglicht es Nutzern, Inhalte als maschinell erzeugt zu erkennen.

USA, Südkorea und globale Tendenzen

Auch außerhalb Europas formieren sich gesetzgeberische Maßnahmen. Die USA haben mit dem TAKE IT DOWN Act neue Regeln eingeführt, wonach „nicht-einvernehmliche intime Inhalte“ gelöscht werden müssen. Plattformen, die dem nicht nachkommen, drohen Bußgelder oder sogar Haftstrafen. In Südkorea stieg die Zahl der Deepfake-Pornofälle in nur zwei Jahren um mehr als 400 Prozent.

Auswirkungen auf Plattformen – Ein Paradigmenwechsel

Bisher konnten Plattformen sich häufig mit Hinweis auf die Meinungsfreiheit oder die technische Neutralität aus der Verantwortung ziehen. Doch damit könnte bald Schluss sein. Neue gesetzliche Regelungen fordern von Betreibern automatisierte Prüfmechanismen, schnellere Löschprozesse und in manchen Fällen auch Schadensersatzleistungen.

Verpflichtungen im Überblick

Region	Maßnahme	Plattformpflichten	Sanktionen
Dänemark	Urheberrecht auf Gesicht, Stimme, Körpersprache	Löschung bei Antrag	Geldstrafen
Deutschland	§201b StGB	Prüfung & Entfernung	Haft bis 5 Jahre
EU (AI Act)	Kennzeichnungspflicht	Labeling & Transparenz	Bußgelder
USA	TAKE IT DOWN Act	Notice-and-Takedown	Geld- & Haftstrafen

Schwachstellen: Wenn Gesetze nicht ausreichen

Trotz all dieser Maßnahmen bleibt ein Problem bestehen: Die technische Entwicklung ist schneller als der Gesetzgeber. Deepfakes sind oft innerhalb von Sekunden erstellt, während Plattformen Stunden oder Tage brauchen, um Inhalte zu prüfen. In einer Studie wurde festgestellt, dass X (ehemals Twitter) bei Deepfake-Nacktbildern mitunter bis zu drei Wochen für eine Reaktion benötigt – trotz bestehender Meldeoptionen.

„Ein Wettlauf zwischen KI und KI“

„There is an arms race between AI generated content and AI designed to spot fake“, heißt es auf Reddit. Tatsächlich arbeiten viele Firmen mittlerweile mit Algorithmen, die Deepfakes automatisch erkennen sollen. Doch auch diese Detektionssysteme stoßen an ihre Grenzen – vor allem, wenn Deepfakes mit realen Sprachmustern und Mimik angereichert werden.

Deepfakes im Alltag: Von der Schule bis zur Weltpolitik

Deepfakes sind kein Phänomen der Zukunft mehr. Bereits heute berichten laut Umfragen 15 % aller Schüler*innen von Deepfakes mit Bezug zu Mitschülern – besonders Mädchen sind betroffen. Auch Prominente geraten ins Visier: Als gefälschte Nacktbilder von Taylor Swift viral gingen, musste Plattform X kurzfristig Filter aktivieren, um den Schaden zu begrenzen. Im politischen Bereich sind die Gefahren ebenfalls real. In mehreren Fällen wurden Deepfake-Videos von Joe Biden, Kamala Harris oder Wolodymyr Selenskyj eingesetzt, um gezielt Falschinformationen zu verbreiten und das öffentliche Vertrauen zu erschüttern. Das World Economic Forum listet Deepfakes deshalb 2024 als eines der „Top-Risiken für den gesellschaftlichen Zusammenhalt“.

Was Betroffene jetzt tun können

1. Inhalte melden

Alle großen Plattformen bieten Meldewege für KI-generierte Inhalte, etwa durch die Auswahl „Deepfake“, „Missbrauch von Identität“ oder „nicht-einvernehmliche Intimität“. Doch die Reaktionszeiten variieren stark. Wer betroffen ist, sollte idealerweise Screenshots sichern und den Vorgang dokumentieren.

2. Rechtlich vorgehen

Betroffene können sich in Deutschland auf das Kunsturhebergesetz, das allgemeine Persönlichkeitsrecht und – künftig – §201b StGB berufen. Zivilrechtlich besteht Anspruch auf Unterlassung, ggf. Schadensersatz. In Dänemark würde künftig sogar eine einfache Urheberrechtsverletzung ausreichen, um Deepfakes löschen zu lassen.

3. Technisch vorbeugen

Gesichtserkennung in sensiblen Fotos deaktivieren
Online-Profile restriktiv einstellen
Keine frei zugänglichen Videos oder Sprachaufnahmen veröffentlichen

Fazit: Ein Kampf, der nicht allein gewonnen werden kann

Deepfakes stellen die Gesellschaft vor eine ihrer größten Herausforderungen im digitalen Raum. Der technische Vorsprung der Entwickler ist enorm – und rechtliche Reaktionen bleiben oft symbolisch oder zu langsam. Dennoch: Die neuen Gesetze in Europa und weltweit markieren einen wichtigen Wandel. Sie geben Betroffenen neue Werkzeuge an die Hand und machen deutlich, dass der Schutz der digitalen Identität zur Aufgabe aller wird – Plattformen, Politik, Technik und Nutzer eingeschlossen. Nur durch gemeinsame Standards, internationale Kooperation und technische Lösungen lässt sich der Missbrauch von KI-basierten Inhalten eindämmen. Die ersten Schritte sind gemacht – jetzt muss aus Aktion auch Konsequenz folgen.

Redaktioneller Hinweis

Verantwortlich

Melanie Vogel

Veröffentlicht

28.06.2025 · 14:30 Uhr

Hinweise zu Fehlern, Ergänzungen oder wichtigen Aktualisierungen können über die im Impressum genannten Kontaktwege eingereicht werden. Bitte nennen Sie dabei nach Möglichkeit die betroffene Beitrags-URL.