Deepfake

Deepfake je z umetno inteligenco ustvarjena ali manipulirana slika, videoposnetek ali zvočni posnetek, ki resnično osebo prikazuje v situaciji ali ji pripisuje izjave, ki se nikoli niso zgodile oziroma jih nikoli ni izrekla. Najpogosteje se obraz prenese na tuje telo. Izraz povezuje „deep learning“, metodo strojnega učenja, z besedo „fake“, ki pomeni ponaredek.

Dve smeri, v katerih deepfaki prizadenejo nastopajoče

Prva smer je znana: obraz osebe se brez njenega vedenja vstavi v seksualizirano gradivo. Za nastopajoče to pomeni, da lahko pod njihovim imenom krožijo ponaredki, ki prikazujejo vsebine, ki jih nikoli niso posneli in nikoli odobrili, na primer dejanja, ki so na njihovem seznamu No-List.

Druga smer je pogosto spregledana: resnični posnetki nastopajočih služijo kot telo, na katerega se vstavi obraz druge, pri tem neudeležene osebe. Tudi takrat se tvoje gradivo uporabi za nekaj, za kar nisi privolil oziroma privolila.

Temu se pridruži še tretja, pogodbena raven. Z dovolj posnetki je mogoče izuriti digitalni prikaz, ki ustvarja nove prizore, ne da bi se ti moral oziroma morala kadar koli znova postaviti pred kamero.

Na kaj moraš biti pozoren oziroma pozorna v pogodbi

Natančno preberi klavzulo o pravicah uporabe. Problematične so formulacije, ki dovoljujejo obdelavo „v kateri koli tehnični obliki“, uporabo „za vse znane in prihodnje postopke“ ali izrecno usposabljanje sistemov umetne inteligence in ustvarjanje sintetičnih vsebin. Resne pogodbe to izrecno uredijo ter takšno uporabo izključijo ali zanjo določijo ločeno plačilo. Če nisi prepričan oziroma prepričana, se pisno pozanimaj in zahtevaj, da se odgovor vključi v pogodbo. Zgradbo pogodbe pojasnjuje prispevek Vzorčna pogodba za modela, odstavek za odstavkom.

Pravni položaj v grobih obrisih

Deepfake posega v pravico do lastne podobe in splošno osebnostno pravico. Iz tega izhajajo civilnopravni zahtevki za opustitev, izbris in v določenih okoliščinah odškodnino. Razširjanje seksualiziranih ponaredkov brez privolitve je lahko tudi kaznivo. Na evropski ravni poleg tega veljajo obveznosti označevanja za določene vsebine, ustvarjene z umetno inteligenco. To pravno področje se hitro razvija; v posameznem primeru se je smiselno posvetovati z odvetnikom oziroma odvetnico.

Ko se pojavi ponaredek

• Preden karkoli prijaviš, shrani vire z naslovom, datumom in posnetkom zaslona.
• Vsebino prijavi platformi. Velike platforme v svojih pravilih prepovedujejo intimne sintetične podobe, ustvarjene brez privolitve.
• Zahtevaj odstranitev prek postopka Takedown, pri iskalnikih pa zahtevaj odstranitev iz rezultatov iskanja.
• Podaj prijavo, zlasti če je ponaredek povezan z izsiljevanjem.
• Obvesti produkcijo, če je bilo uporabljeno resnično gradivo s snemanja. Kot imetnica oziroma imetnik pravic lahko dodatno ukrepa.

Ponaredkov ni vedno mogoče prepoznati. Znaki so nenaravni prehodi pri lasišču in bradi, utripajoči robovi, neusklajena osvetlitev ali tetovaže in materina znamenja, ki manjkajo oziroma so na napačnem mestu. Za prijavo pa ti ni treba dokazati, da gre za ponaredek. Dovolj je, da nisi privolil oziroma privolila v objavo.

Svetovalne službe za pomoč pri digitalnem nasilju pomagajo tudi pri deepfakih. Pomembno je: ponaredek ni posledica tvojega dela, temveč poseg tretjih oseb.