ARTÍCULOS Historia y comunicación social ISSN-e 1988-3056 https://dx.doi.org/10.5209/hics.66293 Historia del fake audiovisual: deepfake y la mujer en un imaginario falsificado y perverso Víctor Cerdán Martínez1; Graciela Padilla Castillo2 Recibido el: 30 de abril de 2019. / Aceptado: 21 de septiembre de 2019. Resumen. Un deepfake es un vídeo que superpone la cara de una persona en el cuerpo de otra. Es posi- ble gracias a algoritmos gratuitos y fáciles de usar. Se ha empleado, eminentemente, para crear vídeos pornográficos, con el rostro de actrices famosas. Pero atenta contra la imagen cualquiera, construyendo un imaginario falsificado y perverso. Para validarlo, se emplea una metodología doble: exploración bi- bliográfica longitudinal sobre el origen de este tipo defake ; e indagación cuantitativa y correlacional, de las búsquedas en Google España. Los resultados confirman eldeepfake como vía de descrédito, injuria y vilipendio contra las mujeres. Ellas protagonizan escenas eróticas y son cosificadas. Ellos pronuncian discursos de humor o política, mueven la acción, ostentan el poder y van vestidos. Palabras clave: Deepfake; Fake audiovisual; Mujeres; Imaginario falsificado; Inteligencia artificial. [en] Audio-visual fake history: deepfake and the woman in a fake and perverse imaginary Abstract. A deepfake is a video that superimposes the face of one person on the body of another. It is possible thanks to free and easy-to-use algorithms. It has been used, eminently, to create pornographic videos, with the face of famous actresses. But it attacks the image of anyone, constructing a falsified and perverse imaginary. To validate it, a double methodology is used: longitudinal bibliographic ex- ploration on the origin of this type of fake; and quantitative and correlational investigation, of Goog- le Spain searches. The results confirm the deepfake as a way of discrediting, insulting and vilifying women. Women star in erotic scenes and are reified. Men give speeches of humor or politics, move the action, hold the power and are dressed. Keywords: Deepfake; Audio-visual Fake; Women; Counterfeit imaginary; Artificial intelligence. Sumario: 1. Introducción al deepfake o mentiras profundas; 2. Orígenes y estado de la cuestión; 2.1. El fake audiovisual: documentira, falso documental o mockumentary; 2.2. Teorías e investigaciones del fake: del texto a lo audiovisual en la información desacreditadora; 2.3. De la manipulación fotográfica al deep- fake; 2.4. Tratamiento legal, ético y deontológico del fake audiovisual; 3. Metodología; 4. Investigación exploratoria: búsquedas y víctimas del deepfake en España; 5. Conclusiones; 6. Referencias bibliográficas. Cómo citar: Cerdán Martínez, V.; Padilla Castillo, G. (2019). Historia del fake audiovisual: deepfake y la mujer en un imaginario falsificado y perverso, enHistoria y comunicación social 24 (2), 505-520. 1 Universidad Complutense de Madrid. [email protected] 2 Universidad Complutense de Madrid. [email protected] Hist. comun. soc. 24 (2) 2019: 505-520 505 TERCERAS_Historia y comunicación social 24-2.indd 505 12/12/19 11:44 506 Cerdán Martínez, V.; Padilla Castillo, G. Hist. comun. soc. 24 (2) 2019: 505-520 1. Introducción al deepfake o mentiras profundas El adjetivo “profundo” viene del latín profundus, que significa hondo, bajo, abis- mal, lo que llega o se dirige hacia el fondo. También es lo que avanza al interior de algo hasta llegar a su límite y por eso, no siempre indica una dirección hacia abajo (De Vaan, 2008). En algunos casos, lo profundo son las alturas más elevadas del cielo, como sucede con “alta mar”, que designa la profundidad del mar y no su altura. Así, en lo audiovisual, una deepfake o mentira profunda sería aquella que llega hasta los extremos de la recreación de lo real, cuando la percepción conven- cional no puede determinar si es verdad o falaz. El mejor ejemplo es usar la cara de una persona famosa para colocarla en el cuerpo de otra. Hoy en día, es posible gracias a la tecnología moderna de la Inteligencia Artificial (IA). Con ordenadores convencionales, cualquier persona puede realizar vídeos fake que parezcan prác- ticamente reales. El primero en hacerlo fue el usuario de la plataforma Reddit autodenominado como Deepfakes (Cole, 2017). Seleccionó los rostros de las celebridades Gal Gadot, Maisie Williams o Taylor Swift, para incluirlas en el cuerpo de varias actrices de cine pornográfico (Cole, 2017). El resultado fueron varios vídeos impúdicos, que parecen interpretados por las famosas. Para su realización, el usuario Deepfakes empleó su ordenador de casa y un algoritmo de machine learning, que cualquiera puede des- cargarse de Internet. Los vídeos se subieron a la plataforma Reddit, creada en 2005 por Steven Huff- man y Alexis Ohanian en Medford, Massachusetts. Es un sitio web de marcadores sociales, donde los usuarios pueden añadir texto, imágenes, vídeos o enlaces. Otros usuarios pueden votar a favor o en contra del contenido, haciendo que aparezcan más o menos destacados. Su público es mayoritariamente anglosajón y la mayoría de la actividad se realiza en inglés (Maeve, 2013). Fue en dicha plataforma donde los primeros vídeos deepfake se popularizaron y propagaron. Según Beamonte (2018), la nueva moda ganó tantos adeptos que Deepfakes creó un subreddit, con su nombre de usuario, sólo para este tipo de vídeos y en sólo dos meses, contaba con 15.000 suscriptores. Esta comunidad extendió el uso de la palabra deepfake para referirse a todos los vídeos creados con IA. Según Beamonte (2018), el asunto no se detuvo ahí. Para simplificar las cosas, otro usuario de Reddit, Deepfakeapp, creó una aplicación llamada FakeApp para que cualquier persona, sin experiencia en informática, pueda hacer sus propios vídeos mediante IA. Esta app de escritorio está basada en el algoritmo del usuario Deep- fakes, pero fue creada por el nuevo usuario, sin la ayuda de las deepfakes originales (Cole, 2017). Aunque sirve para hacer cualquier tipo de vídeo, la gente parece más interesada en seguir creando pornografía falsa. Todas las herramientas que se nece- sitan para hacer uno de estos vídeos son gratuitas y están disponibles junto con un tutorial para principiantes (Beamonte, 2018). Las técnicas de entrenamiento de IA, como el aprendizaje automático, permiten incorporar decenas de fotografías a un algoritmo que crea máscaras humanas con- vincentes (Beamonte, 2018). Éstas reemplazan las caras de cualquier persona en un vídeo, mediante el uso de datos parecidos y permite que el software se capacite para mejorar con el tiempo. En estos vídeos falsos, cambian el rostro de una celebridad por la de una actriz de pornografía, cuyo cuerpo sí aparece. Según aseguraba Deep- fakeapp en Reddit: TERCERAS_Historia y comunicación social 24-2.indd 506 12/12/19 11:44 Cerdán Martínez, V.; Padilla Castillo, G. Hist. comun. soc. 24 (2) 2019: 505-520 507 Eventualmente, quiero mejorarla hasta el punto en que los posibles usuarios pue- dan simplemente seleccionar un vídeo en su ordenador, descargar una red neuro- nal correlacionada con una determinada cara de una biblioteca pública, y cambiar el vídeo con una cara diferente con tan solo presionar un botón. El contenido de estos vídeos, donde se habían suplantado las caras de actrices pornográficas por celebridades, pronto se popularizó en los principales portales de contenido pornográfico como Pornhub. “Con respecto a los deepfakes, los usuarios han comenzado a marcar contenido como éste y lo estamos eliminando tan pron- to como encontramos las banderas”, reconoció Pornhub al portal UniLad (Cañal, 2018). Pornhub realizó un comunicado para avisar de su intención de acabar con este tipo de vídeos: Para garantizar aún más la seguridad de nuestros fans, hemos adoptado una dura postura contra el porno de venganza, que consideramos como una forma de agre- sión sexual, y presentamos un formulario de envío para la eliminación fácil de contenido no consensuado (Askham, 2018). Sin embargo, estos vídeos siguen multiplicándose en la plataforma (Castillo, 2018). La famosa web de vídeos pornográficos sólo ha bloqueado la búsqueda del término “deepfakes” en su buscador. Celebridades internacionales como Christina Aguilera, Zooey Deschanel, Natalie Dormer, Selena Gómez, Ariana Grande, Scar- lett Johansson, Keira Knightley, Willa Holland, Mila Kunis, Avril Lavigne, Jen- nifer Lawrence, Jennifer Love Hewitt, Natalie Portman, Margot Robbie, o Emma Stone, entre otras, siguen apareciendo en este tipo de audiovisuales deepfake. “Lu- char contra los vídeos deepfake es una causa perdida”, asegura Scarlett Johansson ante la creciente tendencia de usar su cara para vídeos de contenido adulto (Burch, 2018). Este tipo de vídeos deepfake no sólo afecta a las celebridades (Pardo, 2018a). También se han recogido denuncias de mujeres anónimas, cuyos ex novios o amantes han usado la tecnología para vengarse de ellas y humillarlas en la red. La abogada Ann Olivarius (Askham, 2018), quien ha trabajado con víctimas del “por- no de la venganza” dice que recibe numerosas llamadas de clientes que fueron víc- timas del deepfaking. “Es una gran preocupación para nosotros”, dice Olivarius. “Es realmente devastador para esas mujeres porque con nueva tecnología, puede parecer algo real. Lo que hay detrás es siempre un intento de herir y degradar”. La abogada cree que el deepfaking forma parte del problema del porno de la venganza (Askham, 2018). De acuerdo a todo lo anterior, este trabajo se presenta como una investigación completamente novedosa, inédita y necesaria, porque el deepfake ya es el presente y el futuro de lo fake y de la desinformación; y porque lamentablemente, se ha convertido en una herramienta peligrosa y terrible para atentar contra la imagen de las mujeres, famosas o anónimas, construyendo un imaginario falsificado y perverso. TERCERAS_Historia y comunicación social 24-2.indd 507 12/12/19 11:44 508 Cerdán Martínez, V.; Padilla Castillo, G. Hist. comun. soc. 24 (2) 2019: 505-520 2. Orígenes y estado de la cuestión 2.1 El fake audiovisual: documentira, falso documental o mockumentary Los documentos audiovisuales son una de las herramientas más importantes que tiene un historiador para reflejar los sucesos del mundo contemporáneo.