- OpenAI lanzará una herramienta que detecta imágenes de DALL-E 3 con un 98% de precisión y puede manejar modificaciones comunes.
- La compañía también agregará marcas de agua resistentes a manipulaciones para identificar contenido digital.
- OpenAI se unirá a Microsoft para lanzar un fondo de 2 millones de dólares para apoyar la educación en IA.
- ¿Ya conoces nuestra cuenta en Threads? Síguenos.
OpenAI anunció este martes que lanzará una herramienta que puede detectar imágenes creadas por DALL-E 3, su generador de texto a imagen potenciado con IA.
La compañía dijo que la herramienta identificó correctamente las imágenes creadas por DALL-E 3 aproximadamente 98% de las veces en pruebas internas. También dijo que puede manejar modificaciones comunes como compresión, recorte y cambios de saturación con un impacto mínimo.
OpenAI también planea agregar marcas de agua resistentes a manipulaciones para marcar contenido digital como fotos o audio con una señal que debería ser difícil de eliminar.
Como parte de los esfuerzos, OpenAI también se ha unido a un grupo industrial que incluye a Google, Microsoft y Adobe y planea proporcionar un estándar que ayudaría a rastrear el origen de diferentes medios.
A su vez, la compañía dijo que se unirá a Microsoft para lanzar un fondo de «resiliencia social» de 2 millones de dólares para apoyar la educación en torno a la IA.
El temor a los deepfakes en tiempos electorales
La medida de OpenAI surge en medio de crecientes preocupaciones sobre la influencia del contenido generado por IA para los procesos electorales que suceden alrededor del mundo este año.
La difusión de contenido generado por IA y de deepfakes se utiliza cada vez en procesos electorales en diferentes partes del mundo.
Durante las recientes elecciones indonesias, por ejemplo, surgió un deepfake que “resucitaba” al difunto presidente Suharto con la idea de alentar a la población a votar.
El mes pasado, durante las elecciones generales en la India, se volvieron virales en línea deepfakes de dos actores de Bollywood que criticaban al primer ministro Narendra Modi.
En México también se tuvo a principios de este año un caso de deepfake con Claudia Sheinbaum, la candidata presidencial por parte de Morena. En el video, la candidata invitaba a los mexicanos a invertir en una supuesta plataforma financiera.
Compañías tecnológicas como Meta y Google se han comprometido recientemente a combatir la desinformación durante las próximas elecciones de distintas maneras; sin embargo, los deepfakes se mantienen como una de las principales amenazas.
AHORA LEE: Creadores de contenido en YouTube deberán revelar cuando usen inteligencia artificial en sus videos
TAMBIÉN LEE: 73% de internautas a nivel mundial confía en contenido creado por inteligencia artificial generativa, señala estudio
