Deepfake

Un deepfake es una imagen, un vídeo o un documento de audio creado o manipulado mediante inteligencia artificial que muestra a una persona real en una situación o haciéndole decir cosas que nunca han ocurrido. Lo más habitual es transferir un rostro al cuerpo de otra persona. El término combina «deep learning», un método del aprendizaje automático, con «fake», falsificación.

Dos formas en las que afecta a los intérpretes

La primera forma es conocida: el rostro de una persona se inserta sin su conocimiento en material sexualizado. Para las intérpretes y los intérpretes, esto significa que pueden circular falsificaciones bajo su nombre que muestran contenidos que nunca han grabado ni autorizado, por ejemplo, actos que figuran en su No-List.

La segunda forma suele pasarse por alto: las grabaciones reales de intérpretes sirven como cuerpo sobre el que se coloca el rostro de otra persona ajena. También en ese caso tu material se utiliza para algo a lo que no has dado tu consentimiento.

A esto se añade un tercer nivel, el contractual. Con suficientes grabaciones se puede entrenar una representación digital que genere nuevas escenas sin que vuelvas a ponerte delante de la cámara.

En qué debes fijarte en el contrato

Lee atentamente la cláusula relativa a los derechos de uso. Son delicadas las formulaciones que permiten una modificación «en cualquier forma técnica», el uso «para todos los procedimientos conocidos y futuros» o expresamente el entrenamiento de sistemas de IA y la creación de contenidos sintéticos. Los contratos serios lo regulan de forma expresa y lo excluyen o lo remuneran por separado. Si no estás seguro, pregunta por escrito y haz que la respuesta se incluya en el contrato. El artículo El contrato de modelo, párrafo por párrafo explica la estructura de un contrato.

Situación jurídica a grandes rasgos

Un deepfake vulnera el derecho a la propia imagen y el derecho general de la personalidad. De ello se derivan pretensiones civiles de cesación, eliminación y, en determinadas circunstancias, indemnización por daños y perjuicios. La difusión de falsificaciones sexualizadas sin consentimiento también puede constituir un delito. A escala europea se aplican además obligaciones de etiquetado para determinados contenidos generados mediante IA. Este ámbito jurídico evoluciona rápidamente; en cada caso concreto merece la pena solicitar asesoramiento jurídico.

Si aparece una falsificación

• Guarda las fuentes con la dirección, la fecha y una captura de pantalla antes de denunciar nada.
• Denuncia el contenido a la plataforma. Las grandes plataformas prohíben en sus políticas las imágenes íntimas sintéticas no consentidas.
• Solicita la retirada mediante un Takedown y pide a los motores de búsqueda que lo desindexen.
• Presenta una denuncia, especialmente si la falsificación está relacionada con una extorsión.
• Informa a la producción si se ha utilizado material real de un rodaje. Como titular de los derechos, también puede emprender acciones.

No siempre es posible reconocer las falsificaciones. Algunos indicios son transiciones antinaturales en la línea del cabello y la barbilla, bordes parpadeantes, una iluminación incoherente o tatuajes y lunares que faltan o están situados en el lugar equivocado. Sin embargo, para presentar una denuncia no tienes que demostrar que es una falsificación. Basta con que no hayas dado tu consentimiento para la publicación.

Los centros de asesoramiento contra la violencia digital también ayudan en casos de deepfakes. Lo importante es lo siguiente: una falsificación no es una consecuencia de tu trabajo, sino una agresión de terceros.