- OpenAI publicó un comunicado en el que detallaba sus esfuerzos en materia de seguridad con respecto a Voice Engine, su modelo de IA para convertir texto en audio.
- Voice Engine genera unas voces que suenan muy naturales y esto comienza a preocupar a los organismos reguladores.
- Algunos expertos temen que el generador de voz de OpenAI pueda utilizarse para generar falsificaciones o cometer delitos.
- ¡Nos vemos en TikTok!
OpenAI se vio en la situación de tener que dar explicaciones acerca de su generador de voz de inteligencia artificial. Esta es la segunda vez que pasa en cuestión de unas pocas semanas.
La empresa OpenAI, desarrolladora de ChatGPT, recordó que actualmente su generador de voz, que convierte el texto en audio, no está disponible para todo el público. Así como van las cosas, puede que nunca lo esté.
«Es importante que todo el mundo entienda hacia dónde se dirige esta tecnología, tanto si al final la implantamos nosotros como si no», aseguró OpenAI a través de un comunicado, publicado en su página web el viernes.
«Por eso queremos explicar cómo funciona el modelo, cómo lo utilizamos para la investigación y la educación, y cómo estamos implementando nuestras medidas de seguridad», dijeron.
En qué consiste el generador de voz de OpenAI
A finales del año pasado, la empresa dirigida por Sam Altman compartió con un pequeño grupo de usuarios ajenos a OpenAI su generador de voz. Este se basa en entradas de texto y clips de audio de 15 segundos de voces humanas. El objetivo es «generar un habla de sonido natural que se asemeja mucho al interlocutor original».
La herramienta puede crear voces que suenan convincentemente humanas en varios idiomas.
En aquel momento, la startup de inteligencia artificial indicó que había decidido poner a prueba esta tecnología, pero no difundirla ampliamente para «reforzar la resistencia de la sociedad» frente a la amenaza de «modelos generativos cada vez más convincentes».
Como parte de esos esfuerzos, OpenAI señaló que estaba trabajando activamente en la eliminación gradual de la autenticación basada en la voz para acceder a cuentas bancarias; explorando políticas para proteger el uso de las voces de los individuos en la inteligencia artificial; educando al público sobre los riesgos de la inteligencia artificial y acelerando el progreso en el seguimiento de contenidos audiovisuales, para que los usuarios sepan si están interactuando con contenido real o sintético.
Aun así, y a pesar del empeño de la empresa, el miedo a esta tecnología persiste.
El responsable de inteligencia artificial de la Administración Biden, Bruce Reed, admitió en una ocasión que la clonación de voces era lo único que le quitaba el sueño.
Por su parte, la Comisión Federal de Comercio estadounidense (FTC, por sus siglas en inglés) afirmó en marzo que los estafadores estaban utilizando la inteligencia artificial para mejorar su trabajo. Utilizan herramientas de clonación de voz que hacen más difícil distinguir entre las voces generadas por la inteligencia artificial y las voces humanas.
Las declaraciones de OpenAI sobre este tema
En su comunicado del viernes pasado, OpenAI trataba de disipar la preocupaciones: «Seguimos colaborando con socios estadounidenses e internacionales de los sectores de la administración pública, los medios de comunicación, el entretenimiento, la educación y la sociedad civil, entre otros; para asegurarnos de que incorporamos sus opiniones a medida que seguimos avanzando».
OpenAI reconoció que, una vez que su su generador de voz, el Voice Engine esté equipado con su último modelo de inteligencia artificial (GPT4o), surgirán nuevas amenazas.
Internamente, la compañía asegura que está «trabajando activamente en GPT-4o para identificar y abordar riesgos conocidos e imprevistos en diversos campos, como la psicología social; la parcialidad y la imparcialidad, o la desinformación», explicaron.
La cuestión más importante, por supuesto, es qué ocurrirá cuando el uso del generador de voz de OpenAI se haga más pública. Sin embargo, parece que OpenAI también se está preparando para cuando eso suceda.
Business Insider ha tratado de ponerse en contacto con OpenAI, pero hasta ahora no hubo una respuesta.
TAMBIÉN LEE: Artistas dicen que los generadores de imágenes de IA copian su estilo, y no pueden hacer nada al respecto
