- TikTok colabora con C2PA para etiquetar contenido generado por IA, implementando una marca de agua digital conocida como Content Credentials.
- La medida se aplicará tanto a contenido generado dentro de TikTok como a imágenes y videos generados fuera de la plataforma, con etiquetas que permanecerán incluso después de la descarga.
- La plataforma también lanzará recursos de alfabetización mediática para ayudar a los usuarios a identificar contenido generado por IA y combatir la desinformación en línea.
- ¿Ya conoces nuestra cuenta en Threads? Síguenos.
TikTok anunció este jueves que comenzará a etiquetar imágenes y videos en su plataforma que hayan sido generados con inteligencia artificial con herramientas de IA externas, usando una marca de agua digital conocida como Content Credentials o Credenciales de Contenido.
Para ello, la compañía propiedad de Bytedance se asoció con la Coalition for Content Provenance and Authenticity (C2PA); a su vez, estará lanzando nuevos recursos de alfabetización mediática —desarrollados con la ayuda de expertos como Mediawise— para ayudar a su comunidad a identificar contenido generado por IA y combatir la desinformación en línea.
«La IA ofrece increíbles oportunidades creativas; sin embargo, puede confundir o engañar a los espectadores si no saben que el contenido ha sido generado por esta tecnología. El etiquetado ayuda a dejar claro ese contexto», dijo la compañía en un comunicado.
Cómo etiqueta TikTok contenidos creados con inteligencia artificial
La compañía ya lleva más de un año requiriendo a los creadores de contenido etiquetar contenido de IA creado con herramientas dentro de la aplicación; sin embargo, la última medida aplicaría una etiqueta a los videos e imágenes generados fuera del servicio.
La tecnología Content Credentials fue encabezada por la C2PA, un grupo cofundado por Adobe, Microsoft y otros; sin embargo, otras empresas pueden utilizarla, como es el caso de OpenAI, el creador de ChatGPT.
En los próximos meses, la compañía también adjuntará Content Credentials al contenido de TikTok, que permanecerán en el mismo cuando se descargue. Eso significa que cualquiera podrá utilizar la herramienta Verify de C2PA para identificar contenido generado por IA que se hizo en TikTok e incluso saber cuándo, dónde y cómo se hizo o editó.
Para que el sistema funcione, tanto el creador de la herramienta de IA generativa utilizada para crear contenido como la plataforma utilizada para distribuirlo deben aceptar utilizar el estándar de la C2PA.
Por ejemplo, cuando una persona usa Dall-E para generar una imagen, OpenAI adjunta una marca de agua a esta y agrega datos al archivo que pueden indicar si ha sido manipulado. Si esa imagen marcada se carga en TikTok, se etiquetará automáticamente como generada por IA.
«También tenemos políticas que prohíben la IA realista que no esté etiquetada, por lo que si aparece IA realista en la plataforma, la eliminaremos por violar nuestras pautas comunitarias», dijo Adam Presser, jefe de operaciones y confianza y seguridad de TikTok.
YouTube, propiedad de Google, y Meta Platforms, también han dicho que planean utilizar Content Credentials en sus contenidos.
La inteligencia artificial y el peligro de la desinformación en TikTok
Diversos expertos han expresado su preocupación de que el contenido generado por IA pueda usarse para interferir con las distintas elecciones a nivel mundial; especialmente la de Estados Unidos.
Sin embargo, TikTok es parte de un grupo de 20 empresas tecnológicas que firmaron un acuerdo a principios de año comprometiéndose a combatir la desinformación derivada de contenido de generado con IA. Otras empresas como Meta y Google también se han comprometido a combatir la desinformación durante las próximas elecciones de distintas maneras.
TikTok es actualmente una de las aplicaciones más populares en el mundo, con cerca de 1,700 millones de usuarios, según Demandsage.
Actualmente, la aplicación cuenta con unos 150 millones de usuarios en Estados Unidos, país que recientemente aprobó una ley que exige que ByteDance venda TikTok o se enfrente a una prohibición. Frente a ello, la compañía presentó una demanda contra el gobierno estadounidense para bloquear la ley, argumentando que viola la Primera Enmienda.
AHORA LEE: TikTok y su compromiso con la integridad electoral en 2024
TAMBIÉN LEE: Por qué algunos creadores de contenido están limitando o deteniendo su uso de herramientas de IA
