Deepfake

Deepfake je obraz, video nebo zvukový dokument vytvořený či zmanipulovaný pomocí umělé inteligence, který zobrazuje skutečnou osobu v situaci, k níž nikdy nedošlo, nebo ji nechává říkat věci, které nikdy neřekla. Nejčastěji se obličej přenáší na cizí tělo. Pojem spojuje „deep learning“, metodu strojového učení, se slovem „fake“, tedy padělek.

Dva způsoby, jak se to dotýká účinkujících

První způsob je známý: Obličej osoby je bez jejího vědomí vložen do sexualizovaného materiálu. Pro účinkující to znamená, že pod jejich jménem mohou kolovat padělky zobrazující obsah, který nikdy nenatočili a nikdy neschválili, například jednání uvedená na jejich No-List.

Druhý způsob je často přehlížen: Skutečné záběry účinkujících slouží jako tělo, na které je vložen obličej jiné, nezúčastněné osoby. I v takovém případě je tvůj materiál použit k něčemu, s čím jsi nesouhlasil(a).

K tomu se přidává třetí, smluvní rovina. S dostatečným množstvím záběrů lze natrénovat digitální podobu, která vytváří nové scény, aniž bys už někdy znovu stál(a) před kamerou.

Na co si dát ve smlouvě pozor

Pečlivě si přečti ustanovení o užívacích právech. Problematické jsou formulace, které povolují úpravy „v jakékoli technické podobě“, užití „pro všechny známé i budoucí postupy“ nebo výslovně trénování systémů umělé inteligence a vytváření syntetického obsahu. Seriózní smlouvy to upravují výslovně a tyto možnosti vylučují, nebo je odměňují zvlášť. Pokud si nejsi jistý(á), zeptej se písemně a nech si odpověď zanést do smlouvy. Strukturu smlouvy vysvětluje článek Smlouva s modelem odstavec po odstavci.

Právní situace v hrubých obrysech

Deepfake zasahuje do práva na vlastní podobu a do všeobecného osobnostního práva. Z toho vyplývají občanskoprávní nároky na zdržení se jednání, odstranění a za určitých okolností na náhradu škody. Šíření sexualizovaných padělků bez souhlasu může být navíc trestné. Na evropské úrovni platí pro určitý obsah vytvořený umělou inteligencí také povinnosti označování. Tato právní oblast se rychle vyvíjí; v konkrétním případě se vyplatí právní poradenství.

Když se objeví padělek

• Ulož si zdroje s adresou, datem a snímkem obrazovky, než něco nahlásíš.
• Nahlaš obsah platformě. Velké platformy ve svých pravidlech zakazují nesouhlasné syntetické intimní snímky.
• Požádej o odstranění prostřednictvím Takedownu a vyhledávače požádej o vyřazení z výsledků vyhledávání.
• Podej trestní oznámení, zejména pokud je padělek spojen s vydíráním.
• Informuj produkci, pokud byl použit skutečný materiál z natáčení. Jako držitel práv může podniknout další kroky.

Padělky nelze vždy rozpoznat. Vodítkem jsou nepřirozené přechody u linie vlasů a brady, blikající okraje, nesourodé osvětlení nebo tetování a mateřská znaménka, která chybějí či jsou na nesprávném místě. K nahlášení však nemusíš dokazovat, že jde o padělek. Stačí, že jsi se zveřejněním nesouhlasil(a).

Poradenská centra proti digitálnímu násilí pomáhají také s deepfakes. Důležité je: Padělek není důsledkem tvé práce, ale zásahem třetích osob.