Deepfake

En deepfake är en bild, video eller ljudupptagning som har skapats eller manipulerats med artificiell intelligens och som visar en verklig person i en situation som aldrig har inträffat, eller får personen att säga saker som aldrig har sagts. Vanligast är att ett ansikte överförs till en främmande kropp. Begreppet kombinerar ”deep learning”, en metod inom maskininlärning, med ”fake”, alltså förfalskning.

Två sätt som det drabbar skådespelare på

Det första sättet är välkänt: En persons ansikte monteras utan personens vetskap in i sexualiserat material. För skådespelare innebär det att förfalskningar kan spridas under deras namn och visa innehåll som de aldrig har spelat in eller godkänt, till exempel handlingar som står på deras No-List.

Det andra sättet förbises ofta: Äkta inspelningar av skådespelare används som kropp, och ansiktet på en annan, oinblandad person placeras på den. Även då används ditt material för något som du inte har samtyckt till.

Därtill kommer en tredje, avtalsmässig nivå. Med tillräckligt många inspelningar går det att träna fram en digital avbild som skapar nya scener utan att du någonsin behöver stå framför kameran igen.

Vad du ska vara uppmärksam på i avtalet

Läs klausulen om nyttjanderätt noggrant. Problematiska är formuleringar som tillåter bearbetning ”i alla tekniska former”, användning ”för alla nu kända och framtida metoder” eller uttryckligen träning av AI-system och skapande av syntetiskt innehåll. Seriösa avtal reglerar detta uttryckligen och undantar det eller ersätter det separat. Om du är osäker, fråga skriftligen och se till att svaret tas med i avtalet. Artikeln Modelavtalet förklarat stycke för stycke förklarar hur ett avtal är uppbyggt.

Rättsläget i stora drag

En deepfake innebär ett intrång i rätten till den egna bilden och i den allmänna personliga integriteten. Det kan leda till civilrättsliga krav på förbud, radering och under vissa omständigheter skadestånd. Spridning av sexualiserade förfalskningar utan samtycke kan dessutom vara straffbar. På europeisk nivå gäller dessutom märkningskrav för vissa AI-genererade innehåll. Rättsområdet utvecklas snabbt, och i det enskilda fallet kan det löna sig att söka juridisk rådgivning.

Om en förfalskning dyker upp

• Spara källor med adress, datum och skärmdump innan du anmäler något.
• Anmäl innehållet till plattformen. Stora plattformar förbjuder icke samtyckta syntetiska intimbilder i sina riktlinjer.
• Begär borttagning genom en Takedown-begäran och begär avindexering hos sökmotorer.
• Gör en polisanmälan, särskilt om förfalskningen är kopplad till utpressning.
• Informera produktionen om äkta material från en inspelning har använts. Som rättighetsinnehavare kan den dessutom vidta åtgärder.

Det går inte alltid att känna igen förfalskningar. Tecken kan vara onaturliga övergångar vid hårfäste och haka, flimrande kanter, ljus som inte stämmer eller tatueringar och födelsemärken som saknas eller sitter på fel plats. För att göra en anmälan behöver du dock inte bevisa att det är en förfalskning. Det räcker att du inte har samtyckt till publiceringen.

Rådgivningscenter mot digitalt våld hjälper också till vid deepfakes. Det viktiga är: En förfalskning är inte en följd av ditt arbete, utan ett övergrepp från tredje part.