- Algunos empleados de Google han estado alertando sobre el desarrollo de inteligencia artificial de la compañía, según el NYT.
- Dos trabajadores intentaron evitar que la empresa lanzara su chatbot de IA, Bard, informó la publicación.
- A la pareja le preocupaba que el chatbot generara declaraciones peligrosas o falsas, agregó.
- ¿Ya conoces nuestra cuenta de Instagram? Síguenos.
Algunos empleados de Google han estado alertando sobre el desarrollo de inteligencia artificial (IA) de la empresa, informó The New York Times.
Según el informe del Times, dos empleados de Google que tenían la tarea de revisar los productos de IA intentaron evitar que lanzara su chatbot de IA, Bard. A ambos les preocupaba que el chatbot generara declaraciones peligrosas o falsas, según el informe.
En marzo, ambos empleados que trabajaban con Jen Gennai, directora del grupo de Innovación Responsable de Google, recomendaron bloquear el lanzamiento de Bard en una evaluación de riesgo. Los empleados sintieron que, a pesar de las medidas de seguridad, el chatbot no estaba listo, agregó la fuente.
Sin embargo, The New York Times informó que las personas con las que habló les dijeron que Gennai alteró el documento para eliminar la recomendación y minimizar los riesgos del chatbot.
Gennai le dijo a Insider que había «agregado a la lista de riesgos potenciales de los revisores y escalado el análisis resultante» a un comité de líderes senior de productos, investigación y negocios que determinó que era apropiado avanzar para un lanzamiento experimental limitado. Ella le dijo a The Times que se suponía que los revisores no debían opinar sobre si proceder.
Un representante de Google le dijo a Insider: «Estamos satisfechos con la pronta recepción de nuestro experimento con Bard, incluso mientras seguimos mejorándolo, con comentaristas y usuarios reconociendo ampliamente que se lanzó de manera conservadora, con mucha precaución y límites».
Google Bard es solo uno de los chatbots de IA que generan preocupación entre expertos
En los últimos meses, el mundo de la tecnología se ha apresurado a implementar productos de inteligencia artificial generativa.
Aparentemente, la carrera despegó por el lanzamiento y la popularidad viral de ChatGPT de OpenAI; sin embargo, la velocidad del desarrollo está generando alarma en otros lugares.
En marzo, varios expertos en IA firmaron una carta abierta en la que pedían una pausa de seis meses en el desarrollo de la tecnología. La carta decía que las empresas de IA estaban atrapadas en una «carrera fuera de control». La carta también citaba los profundos riesgos para la sociedad de la tecnología avanzada.
John Burden, uno de los firmantes de la carta e investigador asociado del Centro para el Estudio del Riesgo Existencial, le dijo previamente a Insider que la tasa de desarrollo de la IA se había acelerado a una velocidad sin precedentes.
«Cosas que hace cinco años habrían parecido poco realistas de esperar en la próxima década han ido y venido», dijo. «A mayor escala, simplemente no estamos preparados para el impacto que podría tener esta tecnología, considerando que realmente no sabemos cómo estos modelos están haciendo lo que están haciendo».
AHORA LEE: Google Bard está atrasado en las guerras de inteligencia artificial con OpenAI y Microsoft
TAMBIÉN LEE: ¿Puede la inteligencia artificial ser más revolucionaria que la luz o internet?
