Deepfake

Deepfake je obraz, video alebo zvukový záznam vytvorený či zmanipulovaný pomocou umelej inteligencie, ktorý zobrazuje skutočnú osobu v situácii alebo ju necháva hovoriť veci, ktoré sa nikdy nestali. Najčastejšie sa tvár prenesie na cudzie telo. Pojem spája „deep learning“, metódu strojového učenia, so slovom „fake“, teda falšovanie.

Dva spôsoby, ktorými sa to dotýka účinkujúcich

Prvý spôsob je známy: Tvár osoby sa bez jej vedomia vloží do sexualizovaného materiálu. Pre účinkujúce a účinkujúcich to znamená, že pod ich menom môžu kolovať falzifikáty zobrazujúce obsah, ktorý nikdy nenakrúcali a nikdy neschválili, napríklad praktiky uvedené na ich No-List.

Druhý spôsob sa často prehliada: Skutočné zábery účinkujúcich slúžia ako telo, na ktoré sa umiestni tvár inej, nezúčastnenej osoby. Aj vtedy sa tvoj materiál použije na niečo, s čím si nesúhlasil alebo nesúhlasila.

K tomu sa pridáva tretia, zmluvná rovina. Pri dostatočnom množstve záberov možno vytvoriť digitálnu podobu, pomocou ktorej vzniknú nové scény bez toho, aby si už niekedy stál alebo stála pred kamerou.

Na čo si dať pozor v zmluve

Ustanovenie o právach na použitie si prečítaj pozorne. Problematické sú formulácie, ktoré povoľujú úpravu „v akejkoľvek technickej forme“, použitie „na všetky známe a budúce postupy“ alebo výslovne tréning systémov AI a tvorbu syntetického obsahu. Seriózne zmluvy to upravujú výslovne a vylučujú to alebo za to stanovujú samostatnú odmenu. Ak si nie si istý alebo istá, opýtaj sa písomne a nechaj si odpoveď zapracovať do zmluvy. Štruktúru zmluvy vysvetľuje článok Modelová zmluva odseku po odseku.

Právna situácia v hrubých rysoch

Deepfake zasahuje do práva na vlastnú podobizeň a všeobecného osobnostného práva. Z toho vyplývajú občianskoprávne nároky na zdržanie sa konania, vymazanie a za určitých okolností náhradu škody. Šírenie sexualizovaných falzifikátov bez súhlasu môže byť navyše trestné. Na európskej úrovni sa pre určitý obsah vytvorený pomocou AI uplatňujú aj povinnosti označovania. Táto právna oblasť sa rýchlo vyvíja, preto sa v konkrétnom prípade oplatí právne poradenstvo.

Keď sa objaví falzifikát

• Ulož si zdroje s adresou, dátumom a snímkou obrazovky ešte predtým, než niečo nahlásiš.
• Nahlás obsah platforme. Veľké platformy vo svojich pravidlách zakazujú syntetické intímne snímky zhotovené bez súhlasu.
• Požiadaj o odstránenie prostredníctvom Takedown a vo vyhľadávačoch o vyradenie z výsledkov vyhľadávania.
• Podaj trestné oznámenie, najmä ak je falzifikát spojený s vydieraním.
• Informuj produkciu, ak bol použitý skutočný materiál z nakrúcania. Ako držiteľ práv môže podniknúť ďalšie kroky.

Falzifikáty nie je vždy možné rozpoznať. Náznakmi sú neprirodzené prechody pri vlasovej línii a brade, blikajúce okraje, nesúrodé osvetlenie alebo tetovania a materské znamienka, ktoré chýbajú alebo sa nachádzajú na nesprávnom mieste. Pri nahlasovaní však nemusíš dokazovať, že ide o falzifikát. Stačí, že si so zverejnením nesúhlasil alebo nesúhlasila.

Poradenské centrá proti digitálnemu násiliu poskytujú pomoc aj v prípade deepfakov. Dôležité je: Falzifikát nie je dôsledkom tvojej práce, ale zásahom tretej strany.