- Google prohibió a los usuarios crear deepfakes en su producto de aprendizaje automático Colab.
- El cambio de regla ocurrió entre el 14 y el 24 de mayo, según las capturas de pantalla de la página archivada.
- En los últimos años, se han implementado deepfakes para propagar desinformación y acosar a las mujeres.
- ¿Ya conoces nuestra cuenta en Instagram? Síguenos.
Google prohibió a los usuarios crear deepfakes en su herramienta de investigación de aprendizaje automático Colaboratory, a menudo conocida como Colab. La nueva regla surge cuando los deepfakes han ganado popularidad en los últimos años, se han incorporado a la cultura pop y se han implementado para propagar la desinformación.
Google Colab, un producto de Google Research que comenzó como un proyecto interno de la empresa en 2017; es un programa de navegador gratuito que permite a los usuarios crear y ejecutar código Python. Todos lo que se produce en Colab se almacena en la nube y es alojado por la empresa. Es el software más común utilizado por desarrolladores e investigadores en la comunidad de inteligencia artificial, y Google previamente adoptó un enfoque muy flexible para moderarlo, según TechCrunch.
El ajuste de la regla para deepfakes de Colab, reportado por el blog de robótica e inteligencia artificial Unite.AI, ocurrió en algún momento del mes pasado entre el 14 y el 24 de mayo, según capturas de pantalla de la página archive.org. Ninguna de las otras reglas y prohibiciones enumeradas en las preguntas frecuentes de Google Colab (ejecución de código para extraer criptomonedas, descifrado de contraseñas y alojamiento de archivos, entre otras) se ha modificado. Google no lanzó ningún anuncio oficial sobre el cambio.
Los usuarios que intentan programar deepfakes en Colab ahora reciben un mensaje de error que dice que «pueden estar ejecutando un código que no está permitido, y esto puede restringir su capacidad de usar Colab en el futuro», según el medio de noticias de tecnología Bleeping Computer.
Google prohibió los deepfakes en Colab tras descubrir que varios podrían usarse para abuso
Un portavoz de Google, que no respondió a la solicitud de comentarios de Insider, le dijo a TechCrunch que la compañía prohibió los deepfakes después de revisar los patrones y las vías de posible abuso en Colab.
«Disuadir el abuso es un juego en constante evolución y no podemos revelar métodos específicos, ya que las contrapartes pueden aprovechar el conocimiento para evadir los sistemas de detección», dijo el portavoz en un comunicado a TechCrunch. «En general, tenemos sistemas automatizados que detectan y prohíben muchos tipos de abuso».
El uso de deepfakes —videos impulsados por IA que a menudo se usan para reemplazar la imagen de alguien con otra —se ha acelerado rápidamente en la última media década. La tecnología se usa para diversos propósitos; muchos de ellos nocivos. Los usuarios de internet han convertido deepfakes en memes virales. El músico Kendrick Lamar utilizó recientemente deepfakes en un video musical para su canción «The Heart Part 5» para transformarse en Will Smith, Kanye West y otros.
El peligro de los deepfakes
Pero la tecnología también se ha utilizado para fomentar el desorden y la agitación política, como han advertido durante años los investigadores de desinformación y las agencias gubernamentales.
En marzo, después de que comenzara la invasión rusa de Ucrania, hackers publicaron un video falso donde un deepfake del presidente ucraniano Volodymyr Zelenskyy parecía rendirse. El clip circuló por las redes sociales; sin embargo, los espectadores notaron que la versión manipulada digitalmente del acento de Zelenskyy estaba mal, junto con otras cualidades no auténticas. Zelenskyy rápidamente calificó la falsedad del video como una «provocación infantil».
Los Deepfakes también se han utilizado para difamar a mujeres e insertarlas digitalmente en pornografía sin su consentimiento. Esta tecnología ha creado numerosos problemas legales y éticos. Los derechos digitales advierten que tienen el potencial de ser fácilmente utilizados para fines nefastos. Varios estados han promulgado o están considerando legislar sobre el uso de deepfakes.
AHORA LEE: FakeCatcher, la primera plataforma del mundo que detecta deepfakes en tiempo real
TAMBIÉN LEE: No te dejes llevar por lo que ves en internet— te explicamos cómo puedes detectar las fake news
