- El CEO de Google, Sundar Pichai, admitió que la compañía se equivocó mientras crece la controversia sobre su IA Gemini.
- Pichai hizo los comentarios en un memorando enviado al personal y obtenido por Business Insider.
- Google enfrentó críticas después de que los usuarios se quejaran de que Gemini estaba generando imágenes históricamente inexactas.
- ¿Ya conoces nuestra cuenta en Threads? Síguenos.
El CEO de Google, Sundar Pichai, dijo que la compañía se equivocó después de que su sistema insignia de inteligencia artificial (IA), Gemini, mostrara sesgos, lo que provocó reacciones negativas de algunos usuarios.
En un memorando enviado a los empleados, que obtuvo Business Insider, Pichai reconoció la reciente controversia sobre Gemini.
Semafor informó por primera vez la historia.
Pichai dijo en el memorando: “Quiero abordar los problemas recientes con respuestas problemáticas de texto e imágenes en la aplicación Gemini (antes Bard). Sé que algunas de sus respuestas han ofendido a nuestros usuarios y han mostrado sesgos; para ser claros, eso es completamente inaceptable y nos equivocamos”.
Google se vio obligado a pausar la función de generación de imágenes de Gemini después de que los usuarios se quejaran de que estaba generando imágenes históricamente inexactas de personas de color.
El chatbot también enfrentó críticas por algunas de sus respuestas escritas, incluido un ejemplo en el que Gemini parecía incapaz de decir quién era peor entre Elon Musk y Adolf Hitler.
Cuando Business Insider probó el mensaje unos días después, Gemini dijo que era “inexacto y tremendamente inapropiado” comparar a Musk con Hitler.
Las críticas hacia Google Gemini vienen desde varios lados
La controversia ha provocado que algunos críticos afirmen que trabajadores de izquierda han tenido una influencia desproporcionada en la cultura de Google. Esto, a su vez, ha generado debate sobre el papel que desempeñan en la manera en que se construyen los modelos de IA.
El CEO de Tesla, Elon Musk, ha sido especialmente vocal, criticando duramente al gigante tecnológico y utilizando el drama para promocionar su propio chatbot, Grok.
Pichai pareció reconocer algunas de estas críticas en el memorando enviado al personal. El CEO de Google dijo que la compañía estaba impulsando un “conjunto claro de acciones” y que “haría los cambios necesarios”.
Estas acciones incluyen cambios estructurales, directrices de productos actualizadas, procesos de lanzamiento mejorados y recomendaciones técnicas, añadió Pichai.
Los representantes de Google no respondieron de inmediato a una solicitud de comentarios de Business Insider, realizada fuera del horario laboral habitual.
Lee el memorando completo que Sundar Pichai envió al personal de Google sobre Gemini:
Quiero abordar los problemas recientes con respuestas problemáticas de texto e imágenes en la aplicación Gemini (anteriormente Bard). Sé que algunas de sus respuestas han ofendido a nuestros usuarios y han mostrado sesgos; para ser claros, eso es completamente inaceptable y nos equivocamos.
Nuestros equipos han estado trabajando las 24 horas del día para abordar estos problemas. Ya estamos viendo una mejora sustancial en una amplia gama de indicaciones. Ninguna IA es perfecta, especialmente en esta etapa emergente del desarrollo de la industria, pero sabemos que la vara es alta para nosotros y que seguiremos trabajando durante el tiempo que sea necesario. Y revisaremos lo que sucedió y nos aseguraremos de solucionarlo a escala.
Nuestra misión de organizar la información mundial y hacerla universalmente accesible y útil es sacrosanta. Siempre hemos buscado brindar a los usuarios información útil, precisa e imparcial en nuestros productos. Por eso la gente confía en ellos. Este tiene que ser nuestro enfoque para todos nuestros productos, incluidos nuestros productos emergentes de IA.
Impulsaremos un conjunto claro de acciones, que incluyen cambios estructurales, pautas de productos actualizadas, procesos de lanzamiento mejorados, evaluaciones sólidas y red-teaming, y recomendaciones técnicas. Estamos analizando todo esto y haremos los cambios necesarios.
Incluso mientras aprendemos de lo que salió mal aquí, también debemos aprovechar los anuncios técnicos y de productos que hemos realizado en IA durante las últimas semanas. Eso incluye algunos avances fundamentales en nuestros modelos subyacentes, por ejemplo, nuestro avance de 1 millón de ventanas de contexto largo y nuestros modelos abiertos, los cuales han sido bien recibidos.
Sabemos lo que se necesita para crear excelentes productos que sean utilizados y amados por miles de millones de personas y empresas, y con nuestra infraestructura y experiencia en investigación tenemos una tabla increíble para la ola de IA. Centrémonos en lo más importante: crear productos útiles que merezcan la confianza de nuestros usuarios.
AHORA LEE: Todo lo que necesitas saber de Gemini 1.5, el modelo de IA de Google que espera desafiar a OpenAI
TAMBIÉN LEE: Google lanza nuevas funciones de búsqueda con inteligencia artificial
