- Lensa enfrenta varias críticas desde que la aplicación de IA explotó en popularidad a fines de 2022.
- La aplicación enfrenta reclamos de sexualización y racialización de avatares y recopilación de datos personales.
- Estas son algunas de las mayores preocupaciones que enfrentan Lensa y su IA, incluido el robo a los artistas.
- ¿Ya conoces nuestra cuenta de Instagram? Síguenos.
Abre cualquier plataforma de redes sociales y serás bombardeado con imágenes de amigos y conocidos de internet transformados en avatares digitales artísticos. La app Lensa está detrás de esos avatares.
Prisma Labs desarrolló la app en 2018 como una herramienta de edición de fotos. La función «Magic Avatar» debutó a finales de noviembre de 2022. Luego explotó, contando con casi 6 millones de descargas en diciembre, según Statista.
La moda incluso estimuló nuevos filtros de IA en TikTok y dio lugar a aplicaciones de imitación. Probé Lensa en diciembre y escribí sobre eso cuando la app explotó.
En ese momento, parecía una aplicación divertida. Pero desde entonces, los consumidores han expresado preocupaciones que van desde la propiedad intelectual hasta la hipersexualización.
Críticas de sexualización y racialización
Aunque las reglas de Lensa señalan «no desnudos» y «no niños, solo adultos», en las últimas semanas, los usuarios han recurrido a las redes sociales para señalar que varios de sus avatares aparentemente tenían «pechos enormes» y que la aplicación «te daría una operación de senos».
Melissa Heikkilä, reportera de MIT Technology Review, escribió en un artículo en diciembre que 16 de los 100 avatares que generó estaban topless, mientras que otros 14 la pusieron en «ropa extremadamente diminuta y poses abiertamente sexualizadas».
Ella no está sola. En una encuesta de Within Health —un servicio digital que ayuda con la salud mental y los trastornos alimentarios, realizada en diciembre— 80% de los encuestados dijeron que sentían que Lensa sexualizaba sus imágenes.
Según Heikkilä, parte del problema es el uso que hace Lensa de Stable Diffusion, un modelo de IA de código abierto creado a partir de datos que el programa extrae de imágenes en internet. Esta es una fuente de fotos crónicamente toscas y problemáticas, que parece informar los resultados de la aplicación.
Pieles «blanqueadas»
Otros en redes sociales dijeron que sus imágenes estaban «blanqueadas»: su piel parecía más clara que en las fotos enviadas.
En un informe para Wired, Olivia Snow dijo que, como experimento, subió fotos de ella cuando era niña; los resultados transformaron su rostro en «miradas y poses seductoras» y en un conjunto: «una espalda descubierta, cabello despeinado, un avatar con mi cara de niño sosteniendo una hoja entre sus pechos desnudos de adulto».
Prisma Labs y Lensa no respondieron a la solicitud de Insider de comentar antes de la publicación. Sin embargo, Lensa afirma en su política de privacidad, actualizada el 15 de diciembre de 2022, que la empresa reconoce la posibilidad de recibir contenido «inapropiado».
«Hacemos todo lo posible para moderar los parámetros del modelo de difusión estable; sin embargo, aún es posible que encuentres contenido que consideres inapropiado para ti», establece la política.
La app Lensa también enfrenta denuncias de robo a artistas
Tan pronto como los avatares de Lensa se volvieron omnipresentes en línea, también surgieron acusaciones de robo y advertencias de artistas.
«Si recientemente has estado jugando con la aplicación Lensa para hacer ‘avatares mágicos’ con arte de inteligencia artificial, tienes que saber que estas imágenes se crean con arte robado a través del modelo Stable Diffusion», escribió Megan Rae Schroeder, una artista, en un hilo de Twitter.
Schroeder afirmó además que Lensa está utilizando un «vacío legal para sacar a los artistas del proceso» al operar su tecnología a través de «medios sin fines de lucro» que eluden las tarifas de licencia.
Eliana Torres, abogada de propiedad intelectual de Nixon Peabody, confirmó que la legalidad en torno a Lensa es turbia porque la ley de derechos de autor de Estados Unidos «trata a la IA como una herramienta o una máquina, en lugar de un autor o un creador».
Inspiración robada
“Sin embargo, la cuestión de la autoría y la propiedad de las obras creadas por AI sigue siendo una pregunta abierta y es objeto de debates legales y políticos en curso”, dijo Torres.
La comunidad jurídica «agradecería orientación adicional de los legisladores y los tribunales cuando se trata de proteger a los consumidores en relación con la IA», dijo Torres.
Mientras tanto, otros artistas, como la pintora Agnieszka Pilat, están menos preocupados por su impacto a largo plazo. Pilat anticipa que Lensa caerá tan rápido como subió.
«La avalancha de avatares de Lensa se siente barata y abrumadora», dijo Pilat en un comunicado compartido con Insider. «El ensimismamiento juvenil del público, el último momento de Narciso, la sociedad del yo, eso es lo que está en juego aquí».
Preocupación por la recopilación de datos y la privacidad
De manera similar a los problemas relacionados con el lanzamiento en 2020 de FaceApp —un programa ruso que también usa tecnología de inteligencia artificial— algunos usuarios desconfían de cómo se pueden usar sus datos biométricos y semejanzas.
Lensa afirmó en su política actualizada que «no usa sus datos personales para entrenar y/o crear nuestros productos/inteligencia artificial por separado».
«Ten en cuenta que siempre eliminamos todos los metadatos que pueden estar asociados con tus fotos y (o) videos de forma predeterminada (incluidas, por ejemplo, las etiquetas geográficas) antes de almacenarlos temporalmente en nuestros sistemas», dice la política.
Aún así, los expertos dijeron que hay que tener cuidado al usar aplicaciones como Lensa.
«Siempre tenemos que ser conscientes de que nuestros datos biométricos se utilizan para cualquier propósito», David Leslie, director de ética en el Instituto Alan Turing y profesor de la Universidad Queen Mary a Wired. «Estos son datos confidenciales. Debemos ser muy cautelosos con la forma en que se utilizan esos datos».
AHORA LEE: La IA generativa explota en popularidad, pese a riesgos éticos y de seguridad
TAMBIÉN LEE: 7 tendencias en torno a la identidad digital que veremos en 2023
