Deepfake

Ein Deepfake ist ein mit künstlicher Intelligenz erzeugtes oder manipuliertes Bild, Video oder Tondokument, das eine reale Person in einer Situation zeigt oder Dinge sagen lässt, die nie stattgefunden haben. Am häufigsten wird dabei ein Gesicht auf einen fremden Körper übertragen. Der Begriff verbindet „deep learning“, eine Methode des maschinellen Lernens, mit „fake“ für Fälschung.

Zwei Richtungen, in denen es Darsteller trifft

Die erste Richtung ist bekannt: Das Gesicht einer Person wird ohne ihr Wissen in sexualisiertes Material montiert. Für Darstellerinnen und Darsteller bedeutet das, dass Fälschungen unter ihrem Namen kursieren können, die Inhalte zeigen, die sie nie gedreht und nie freigegeben haben, etwa Handlungen, die auf ihrer No-List stehen.

Die zweite Richtung wird oft übersehen: Echte Aufnahmen von Darstellern dienen als Körper, auf den das Gesicht einer anderen, unbeteiligten Person gesetzt wird. Auch dann wird dein Material für etwas verwendet, dem du nicht zugestimmt hast.

Hinzu kommt eine dritte, vertragliche Ebene. Mit genügend Aufnahmen lässt sich ein digitales Abbild trainieren, das neue Szenen erzeugt, ohne dass du je wieder vor der Kamera stehst.

Worauf du im Vertrag achtest

Lies die Klausel zu den Nutzungsrechten genau. Heikel sind Formulierungen, die eine Bearbeitung „in jeder technischen Form“, die Nutzung „für alle bekannten und künftigen Verfahren“ oder ausdrücklich das Training von KI-Systemen und die Erzeugung synthetischer Inhalte erlauben. Seriöse Verträge regeln das ausdrücklich und klammern es aus oder vergüten es gesondert. Wenn du unsicher bist, frag schriftlich nach und lass dir die Antwort in den Vertrag aufnehmen. Den Aufbau eines Vertrags erklärt der Beitrag Der Modelvertrag Absatz für Absatz.

Rechtslage in groben Zügen

Ein Deepfake greift in das Recht am eigenen Bild und das allgemeine Persönlichkeitsrecht ein. Daraus ergeben sich zivilrechtliche Ansprüche auf Unterlassung, Löschung und unter Umständen Schadensersatz. Die Verbreitung sexualisierter Fälschungen ohne Einwilligung kann außerdem strafbar sein. Auf europäischer Ebene gelten zudem Kennzeichnungspflichten für bestimmte KI-generierte Inhalte. Das Rechtsgebiet entwickelt sich schnell, im Einzelfall lohnt anwaltliche Beratung.

Wenn eine Fälschung auftaucht

• Sichere Fundstellen mit Adresse, Datum und Screenshot, bevor du etwas meldest.
• Melde den Inhalt der Plattform. Große Plattformen verbieten nicht einvernehmliche synthetische Intimbilder in ihren Richtlinien.
• Beantrage die Entfernung über einen Takedown und bei Suchmaschinen die Auslistung.
• Erstatte Anzeige, besonders wenn die Fälschung mit Erpressung verbunden ist.
• Informiere die Produktion, wenn echtes Material aus einem Dreh verwendet wurde. Als Rechteinhaber kann sie zusätzlich vorgehen.

Erkennen lassen sich Fälschungen nicht immer. Hinweise sind unnatürliche Übergänge an Haaransatz und Kinn, flackernde Ränder, unstimmiges Licht oder Tattoos und Muttermale, die fehlen oder an der falschen Stelle sitzen. Für eine Meldung musst du aber nicht beweisen, dass es eine Fälschung ist. Es genügt, dass du der Veröffentlichung nicht zugestimmt hast.

Beratungsstellen gegen digitale Gewalt unterstützen auch bei Deepfakes. Wichtig ist: Eine Fälschung ist keine Folge deiner Arbeit, sondern ein Übergriff Dritter.