- OpenAI está agregando nuevas marcas de agua digitales a las imágenes creadas con DALL-E 3.
- La empresa reconoció que la solución no era perfecta ya que podía eliminarse fácilmente.
- Ha habido una creciente preocupación por la difusión de información errónea generada por la IA cerca de las próximas elecciones presidenciales.
- ¿Ya conoces nuestra cuenta en Threads? Síguenos.
OpenAI dice que agregará nuevas marcas de agua digitales a las imágenes creadas con DALL-E 3, uno de sus modelos de inteligencia artificial.
En una publicación de blog, la compañía dijo que se agregarían marcas de agua de la Coalición para la Procedencia y Autenticidad del Contenido, o C2PA, a las imágenes generadas por inteligencia artificial. La empresa creía que implementar estas marcas de agua ayudaría a aumentar la confianza del público en la información digital.
Los usuarios pueden comprobar si una inteligencia artificial ha generado imágenes utilizando sitios como Content Credentials Verify. La compañía señaló que algunas organizaciones de medios también están utilizando el estándar para verificar la fuente del contenido.
Sin embargo, OpenAI reconoció que el método no era una solución perfecta y dijo que la marca de agua podría eliminarse fácilmente.
Ha habido una creciente preocupación por la difusión de información errónea (en particular audio, imágenes y videos generados por IA) en medio de las próximas elecciones.
Mientras miles de millones acuden a las urnas este año, los votantes ya se han topado con problemas con el contenido generado por IA; incluidas llamadas automáticas que se hacen pasar por Joe Biden y anuncios de video falsos de Rishi Sunak. Los deepfakes explícitos de Taylor Swift también ocuparon los titulares el mes pasado, lo que provocó una crítica internacional y la adopción de medidas legislativas.
Meta anunció que se está preparando para tomar medidas enérgicas contra la difusión de contenido generado por IA. La compañía dijo el martes que planeaba adjuntar etiquetas a imágenes generadas por inteligencia artificial en Facebook, Instagram y Threads.
No es una ‘bala de plata’
OpenAI sabe que sus planes no son perfectos.
La compañía dijo que C2PA ya está incluido en los metadatos de las imágenes producidas con la versión web de DALL·E 3 y planea extenderlo a los usuarios móviles antes del 12 de febrero.
Sin embargo, OpenAI dijo que los metadatos no eran «una solución milagrosa para abordar cuestiones de procedencia», y señaló que podrían eliminarse fácilmente, ya sea de forma accidental o intencionada.
Marcar el contenido generado por IA ha resultado difícil en todos los ámbitos. Los estudios han descubierto que la mayoría de las formas de marcas de agua digitales están plagadas de debilidades que actores malintencionados pueden aprovechar fácilmente.
Los primeros intentos de proporcionar sistemas para identificar contenido escrito por IA también han resultado relativamente infructuosos. OpenAI silenciosamente eliminó su servicio de detección por problemas de precisión.
Los representantes de OpenAI no respondieron de inmediato a una solicitud de comentarios de Business Insider, realizada fuera del horario laboral habitual.
AHORA LEE: Cómo identificar imágenes creadas por inteligencia artificial, según una IA
TAMBIÉN LEE: El spam generado por Inteligencia Artificial ya arruina a Internet
