- La tecnología Deepfake permite crear videos engañosos donde la cara de un individuo en particular puede superponerse en la de otro, simulando estar diciendo o haciendo algo que en realidad no haría.
- Este tipo de tecnología ha proliferado hasta el punto de estar al alcance de casi cualquier persona que tenga un smartphone, lo que puede implicar diversos riesgos.
- La pornografía ultrafalsa no consentida, por ejemplo, representó 96% de los más de 14,000 vídeos “deepfake” publicados en línea.
La tecnología Deepfake se está masificando, permitiendo que cualquier persona con un smartphone pueda crear videos engañosos donde la cara de un individuo puede superponerse en la de otro, simulando estar diciendo o haciendo algo que en realidad no haría.
“¿Quieres verte actuando en una película o en la televisión?”, se lee en la descripción de una aplicación en tiendas online, que ofrecía a los usuarios la posibilidad de crear deepfakes —medios sintéticos generados por inteligencia artificial.
“¿Quieres ver a tu mejor amigo, colega o jefe bailando?”, añade. “¿Te has preguntado alguna vez cómo te verías si tu cara se intercambiara con la de tu amigo o la de un famoso?” .
Todo esto parece inocente de primera instancia; sin embargo, la misma aplicación se anunciaba de forma diferente en decenas de sitios para adultos: “Haz ‘deepfake’ porno en un segundo”, decían los anuncios. “’Deepfake’ con cualquiera”.
La manera de aplicar la tecnología, cada vez más sofisticada, es una de las complejidades que suscita el software de medios sintéticos. Y con ello, existen varios riesgos a considerar.
La masificación de la tecnología Deepfake puede derivar en grandes problemas
Esta tecnología, que surgió en 2017, puede estar en un momento crucial y peligroso.
Varios expertos creen que la tecnología Deepfake ya está lo suficientemente avanzada como para que los espectadores tengan dificultades para distinguir muchos videos falsos de la realidad. A su vez, este tipo de tecnología ha proliferado hasta el punto de estar al alcance de casi cualquier persona que tenga un smartphone.
“Una vez que el punto de entrada es tan bajo que no requiere ningún esfuerzo, y una persona poco sofisticada puede crear un video pornográfico ultrafalso, sofisticado y no consentido, ese es el punto de inflexión”. Esto dijo Adam Dodge, abogado y fundador de la empresa de seguridad en línea EndTab.
“Ahí es donde empezamos a tener problemas”, añadió.
La pornografía ultrafalsa no consentida representó 96% de los más de 14,000 videos ‘deepfake’ publicados en línea, de acuerdo con un informe de 2019 de Sensity. La empresa que detecta y supervisa los medios sintéticos añadió que el número de videos deepfake en línea se duplicaba aproximadamente cada seis meses.
“La gran, gran mayoría de los daños causados por los ‘deepfakes’ en este momento es una forma de violencia digital de género”, dijo Ajder. Él es uno de los autores del estudio y el jefe de políticas y asociaciones de la compañía de IA Metaphysic. Ajder dijo que su investigación mostró que millones de mujeres han sido atacadas en todo el mundo.
En consecuencia, hay una “gran diferencia” entre que una aplicación se comercialice explícitamente como una herramienta pornográfica o no, dijo.
Muchos activistas de la seguridad en línea, investigadores y desarrolladores de software afirman que la clave está en garantizar el consentimiento de quienes son simulados; sin embargo, esto es más fácil de decir que de hacer. Algunos abogan por adoptar un enfoque más estricto en lo que respecta a la pornografía sintética, dado el riesgo de abuso.
Las aplicaciones Deepfake han tomado por sopresa a varias empresas
ExoClick, la red de publicidad en línea que fue utilizada por la aplicación “Make deepfake porn in a sec” (Fabrica porno ultrafalso en un segundo), dijo a Reuters no estar familiarizada con este tipo de software.
La empresa señaló que había suspendido la publicidad de la aplicación y que no promovería la tecnología de intercambio de rostros de manera irresponsable.
“Se trata de un tipo de producto nuevo para nosotros”, dijo Bryan McDonald, jefe de cumplimiento de normas publicitarias de ExoClick.
“Tras una revisión del material de marketing, dictaminamos que la redacción utilizada en el material de marketing no es aceptable. Estamos seguros de que la gran mayoría de los usuarios de este tipo de aplicaciones las utiliza para entretenerse sin malas intenciones; sin embargo, también reconocemos que podrían emplearse con fines maliciosos”.
Otras seis grandes redes de publicidad en línea a las que se dirigió Reuters no respondieron a las solicitudes de comentarios sobre si habían encontrado software ‘deepfake’ o tenían una política al respecto.
No se menciona el posible uso pornográfico de la aplicación en su descripción en la App Store de Apple o en la Play Store de Google, donde está disponible para cualquier persona mayor de 12 años.
Apple dijo que no tenía ninguna norma específica sobre las aplicaciones de tecnología Deepfake. Sin embargo, la compañía dijo que sus directrices más amplias prohibían las aplicaciones que incluyeran contenidos difamatorios, discriminatorios o que pudieran humillar, intimidar o dañar a alguien.
Google no respondió a las solicitudes de comentarios.
Tras ser contactado por Reuters sobre los anuncios de “Deepfake porn” en sitios para adultos, Google retiró temporalmente la página de Play Store de la aplicación; ésta había sido calificada como E, o para todos. La página se repuso tras unas dos semanas, clasificada como T —para adolescentes debido al “contenido sexual”.
La tecnología Deepfake va evolucionando en su complejidad
El creciente acceso de los consumidores a una potente informática a través de los smartphones va acompañado de avances en la tecnología de Deepfake y en la calidad de los medios sintéticos.
Por ejemplo, el fundador de EndTab, Dodge —y otros expertos entrevistados por Reuters— dijo que cuando surgió la tecnología en 2017 ésta requería una gran cantidad de datos, que a menudo sumaban miles de imágenes, para lograr el mismo tipo de calidad que podría obtenerse hoy a partir de una sola imagen.
“Con la calidad de estas imágenes llegando a ser tan alta, las protestas de ‘¡No soy yo!’ no son suficientes. Si se parece a ti, entonces el impacto es el mismo que si eres tú”, dijo Sophie Mortimer, gerente de Revenge Porn Helpline.
La regulación de la tecnología Deepfake es un reto para los países
Los políticos que pretenden regular la tecnología de Deepfake avanzan de forma irregular, enfrentándose también a nuevos obstáculos técnicos y éticos.
En lugares como China, Corea del Sur y California, se han promulgado leyes para combatir los abusos en línea derivados de la tecnología Deepfake. La representación maliciosa de alguien en la pornografía sin su consentimiento, o la distribución de dicho material, puede conllevar una multa de 150,000 dólares.
“Todavía falta una intervención legislativa específica o la criminalización de la pornografía ‘Deepfake’”, dijeron investigadores del Parlamento Europeo en un estudio presentado en octubre. En éste se sugirió que la legislación debería arrojar una red más amplia de responsabilidad para incluir a agentes como desarrolladores o distribuidores, así como a los abusadores.
“Tal y como están las cosas hoy en día, solo el agresor es responsable. Sin embargo, muchos perpetradores hacen todo lo posible para iniciar estos ataques a un nivel tan anónimo que ni las fuerzas del orden ni las plataformas pueden identificarlos”, dijo Marietje Schaake, directora de política internacional del Centro de Política Cibernética de la Universidad de Stanford.
Schaake dijo que las nuevas y amplias leyes digitales, incluida la propuesta de Ley de Inteligencia Artificial en Estados Unidos y el GDPR (Protección de datos) en Europa, podrían regular elementos de la tecnología de ultrafalsos. Pese a esto, también dijo que había lagunas.
“Aunque pueda parecer que hay muchas opciones legales para perseguirlo, en la práctica es un reto para una víctima conseguir las herramientas para hacerlo”, dijo Schaake. “El proyecto de ley de Inteligencia Artificial que se estudiando prevé que los contenidos manipulados sean revelados”, añadió.
Pese a las amenazas de la tecnología Deepfake, existen ciertas medidas para evitar abusos
Aunque hay agentes con malas prácticas en la creciente industria del software de intercambio de rostros, hay una gran variedad de aplicaciones a disposición de los consumidores y muchas toman medidas para tratar de evitar los abusos, dijo Ajder, que defiende el uso ético de los medios sintéticos como parte del grupo industrial Synthetic Futures.
Algunas aplicaciones, por ejemplo, solo permiten a los usuarios intercambiar imágenes en escenas preseleccionadas o exigen la verificación de la identidad de la persona que se intercambia. Otras usan inteligencia artificial para detectar las cargas pornográficas; sin embargo, estas medidas no siempre son eficaces, añadió.
Reface es una de las aplicaciones de intercambio de rostros más populares del mundo, que ya ha atraído más de 100 millones de descargas en todo el mundo desde 2019, en las que se anima a los usuarios a intercambiar rostros con celebridades, superhéroes y personajes de memes para crear divertidos videoclips.
La compañía, con sede en Estados Unidos, dijo a Reuters que estaba usando la moderación automática y humana del contenido, incluyendo un filtro de pornografía. También dijo tener otros controles para evitar el mal uso, incluyendo el etiquetado y las marcas de agua visuales para marcar los videos como sintéticos.
“Desde el principio de la tecnología y el establecimiento de Reface como empresa, se ha reconocido que la tecnología de medios sintéticos podría ser objeto de abuso o mal uso”, dijo.
Con información de Reuters.
