- Google está dando a los usuarios malas respuestas generadas por IA. De nuevo.
- En febrero, cuando esto sucedió antes, Google dejó de lado el producto de inteligencia artificial defectuoso detrás de los resultados.
- Pero esta vez se siente diferente: Google básicamente se ha comprometido con esta idea como el futuro de la empresa.
- ¿Ya conoces nuestra cuenta en Threads? Síguenos.
Paso 1: Google lanza un nuevo producto impulsado por IA.
Paso 2: Los usuarios encuentran rápidamente los defectos del producto y los señalan con publicaciones en las redes sociales, que se convierten en noticias.
Paso 3: Google admite que su nuevo producto impulsado por IA tiene fallas fundamentales y lo congela.
Sí, hemos visto este ejercicio antes. En febrero, Google se vio avergonzado por dejar de lado una función de generación de imágenes para su chatbot de IA.
Ahora estamos en dos pasos del mismo proceso: Google está implementando ampliamente en Estados Unidos su función AI Overviews, que reemplaza su respuesta habitual a las consultas de búsqueda (una lista de enlaces a sitios donde puede encontrar la respuesta real que desea) con una respuesta generada por IA que intenta resumir el contenido de esos sitios. Y la gente está encontrando ejemplos de cómo Google genera respuestas erróneas y, a veces, cómicamente malas.
Por eso mi colega Katie Notopoulos construyó y luego se comió una pizza hecha con pegamento. (¡Bendita seas, Katie! Esto es algo verdaderamente heroico, y espero que gastes tu pago por indemnización sabiamente).
Así que aquí está la pregunta de los dos billones de dólares: ¿Google tendrá que dar marcha atrás también en esta cuestión?
No, dice Google, que argumenta que las respuestas tontas que ha estado generando son pocas y espaciadas. Y que la mayoría de la gente no sabe ni se preocupa por las respuestas de búsqueda que le dicen cuántas piedras comer. O que deberías mirar al sol durante cinco a 15 minutos, a menos que tengas la piel más oscura, en cuyo caso puedes hacerlo el doble de tiempo.
Google también dice que está eliminando las malas respuestas a medida que surgen. En particular, aquellos en los que alguien lo suficientemente inteligente como para usar un teléfono, pero lo suficientemente estúpido como para seguir esas respuestas, podría hacerse daño.
Aquí está la versión formal de esa respuesta, a través de la persona de comunicaciones de Google, Lara Levin:
«La gran mayoría de las descripciones generales de IA brindan información de alta calidad, con enlaces para profundizar en la web. Muchos de los ejemplos que hemos visto han sido consultas poco comunes y también hemos visto ejemplos que fueron manipulados o que no pudimos reproducir. Realizamos pruebas exhaustivas antes de lanzar esta nueva experiencia y, al igual que con otras funciones que hemos lanzado en la Búsqueda, agradecemos los comentarios. Estamos tomando medidas rápidas cuando corresponda según nuestras políticas de contenido y utilizando estos ejemplos para desarrollar mejoras más amplias a nuestros sistemas, algunos de los cuales ya han comenzado a implementarse».
Google ya ha tenido que retirar productos de IA por problemas similares
Ya hemos visto una versión de esta historia antes. ¿Qué sucede si la gente sigue encontrando malas respuestas en Google y la compañía no puede eliminarlas lo suficientemente rápido? Y, lo que es más importante, ¿qué pasaría si la gente normal —la gente que no dedica tiempo a leer o hablar sobre noticias tecnológicas— empezara a oír hablar de las respuestas malas y potencialmente peligrosas de Google?
Eso sería un problema realmente grande. Google hace muchas cosas diferentes; sin embargo, la razón por la que vale más de 2 billones de dólares sigue siendo por sus dos productos principales: la búsqueda y los anuncios que genera junto con los resultados de búsqueda. Y si la gente (la gente normal) pierde la confianza en Google como máquina de búsqueda y respuesta…bueno, eso sería un verdadero problema.
En privado, los empleados de Google están redoblando la idea de que estas malas respuestas son realmente problemas marginales. Y eso, a diferencia del problema del «Google progre» de hace unos meses, donde realmente había un problema con el modelo que Google estaba usando para crear imágenes, ese no es el caso aquí.
Google nunca hace las cosas 100% correctas porque, al final, sigue basándose únicamente en lo que la gente publica en internet. Es solo que algunas personas están prestando mucha más atención en este momento porque hay algo nuevo a lo que prestar atención.
Estoy dispuesto a creer esa respuesta: he estado viendo las respuestas de IA de Google en mis resultados de búsqueda durante un mes y, en general, están bien. Pero no siempre.
Y lo que es muy diferente entre los resultados antiguos de Google y los nuevos es la responsabilidad y autoridad que asume la compañía. En el pasado, Google te decía que alguien más podía responder tu pregunta; Google es quien responde.
Es la diferencia entre darte un mapa y darte direcciones que harán que tu auto caiga por un precipicio.
Se podría argumentar, como lo hace mi hijo de 15 años (somos personas raras, por eso hablamos de estas cosas en casa), que Google no debería reemplazar sus excelentes y antiguos resultados de búsqueda con respuestas generadas por IA. Si la gente quisiera respuestas generadas por IA, acudirían a ChatGPT, ¿verdad?
Pero, por supuesto, lo que preocupa a Google es que la gente vaya a ChatGPT. Es por eso que está dando este giro importante —ser disruptivo antes de que lo sean ChatGPT u otros motores de inteligencia artificial.
Se puede argumentar que se está moviendo demasiado rápido, o demasiado descuidadamente, o lo que sea. Pero es difícil imaginar que Google retroceda en esto ahora.
TAMBIÉN LEE: Google Cloud renueva apuesta por la IA para potenciar su negocio
