- Las advertencias sobre los peligros potenciales de la inteligencia artificial avanzada han aumentado en los últimos meses.
- Algunas de estas declaraciones son vagas y los expertos no están de acuerdo sobre cuáles son exactamente los principales riesgos.
- Estas son algunas de las amenazas potenciales de la inteligencia artificial avanzada y cómo pensar en los riesgos.
- ¿Ya conoces nuestra cuenta de Instagram? Síguenos.
La inteligencia artificial es tan peligrosa como la guerra nuclear y las pandemias globales.
Eso es según la última advertencia emitida por el Centro para la Seguridad de la inteligencia artificial (CAIS, pot sus siglas en inglés). La declaración está respaldada por los principales actores de la industria de la IA, incluido Sam Altman, CEO del creador de ChatGPT, OpenAI.
La advertencia es una de las muchas que se han emitido en los últimos meses. Algunos de los primeros creadores de la tecnología afirman que nos dirigimos de cabeza hacia la destrucción de la humanidad, mientras que otros advierten que se necesita desesperadamente una regulación.
Algunas de estas declaraciones han dejado a la gente tratando de dar sentido a las afirmaciones cada vez más hiperbólicas.
David Krueger, experto en inteligencia artificial y profesor asistente en la Universidad de Cambridge, dijo que si bien las personas pueden querer escenarios concretos en lo que respecta al riesgo existencial de la tecnología, todavía es difícil señalarlos con cierto grado de certeza.
«No estoy preocupado porque hay una amenaza inminente en el sentido de que puedo ver exactamente cuál es la amenaza. Pero creo que no tenemos mucho tiempo para prepararnos para las próximas amenazas potenciales», dijo a Insider.
Con eso en mente, estos son algunos de los posibles problemas que preocupan a los expertos.
1. Que la inteligencia artificial nos conquiste
Uno de los riesgos más citados es que la inteligencia artificial se salga del control de su creador.
La inteligencia artificial general (AGI, por sus siglas en inglés) se refiere a la IA que es tan inteligente o más que los humanos en una amplia gama de tareas. Los sistemas de inteligencia artifcial actuales no son inteligentes, pero están creados para parecerse a los humanos. ChatGPT, por ejemplo, está diseñado para que los usuarios sientan que están chateando con otra persona, dijo Janis Wong del Instituto Alan Turing.
Los expertos están divididos sobre cómo definir exactamente AGI, pero en general están de acuerdo en que la tecnología potencial presenta peligros para la humanidad que deben investigarse y regularse.
Krueger dijo que el ejemplo más obvio de estos peligros es la competencia militar entre naciones.
«La competencia militar con armas autónomas —sistemas que por diseño tienen la capacidad de afectar el mundo físico y causar daño— parece más claro cómo esos sistemas podrían terminar matando a muchas personas», dijo.
«Un escenario de guerra total impulsado por IA en un futuro cuando tengamos sistemas avanzados que sean más inteligentes que las personas, creo que sería muy probable que los sistemas se salgan de control y, como resultado, terminen matando a todos», dijo.
2. La inteligencia artificial provocará desempleo masivo
Existe un consenso cada vez mayor de que la inteligencia artificial es una amenaza para algunos trabajos.
Abhishek Gupta, fundador del Instituto de Ética de la IA de Montreal, dijo que la posibilidad de pérdidas de empleo inducidas por la inteligencia artificial era la amenaza existencial más «realista, inmediata y quizás apremiante».
«Necesitamos ver la falta de propósito que la gente sentiría ante la pérdida masiva de trabajos», dijo a Insider. «La parte existencial es qué van a hacer las personas y de dónde obtendrán su propósito».
«Eso no quiere decir que el trabajo lo sea todo, pero es una parte importante de nuestras vidas», agregó.
Los directores ejecutivos están comenzando a ser sinceros sobre sus planes para aprovechar la tecnología. El CEO de IBM, Arvind Krishna, por ejemplo, anunció recientemente que la empresa reduciría la contratación de funciones que podrían reemplazarse con inteligencia artificial.
«Hace cuatro o cinco años, nadie hubiera dicho algo así y nadie hubiera sido tomado en serio», dijo Gupta sobre IBM.
3. El sesgo de inteligencia artificial
Si los sistemas de inteligencia artificial se utilizan para ayudar a tomar decisiones sociales más amplias, el sesgo sistemático puede convertirse en un riesgo grave, dijeron los expertos a Insider.
Ya ha habido varios ejemplos de sesgo en los sistemas de IA generativa, incluidas las primeras versiones de ChatGPT. OpenAI ha agregado más medidas de seguridad para ayudar a ChatGPT a evadir peticiones problemáticas de los usuarios que solicitan al sistema contenido ofensivo.
Los modelos de imágenes generativas de IA pueden producir estereotipos dañinos, según las pruebas realizadas por Insider a principios de este año.
Si hay casos de sesgo no detectado en los sistemas de inteligencia artificial que se utilizan para tomar decisiones en el mundo real —por ejemplo, aprobar beneficios sociales— eso podría tener graves consecuencias, dijo Gupta.
Los datos de entrenamiento a menudo se basan predominantemente en datos en inglés, y la financiación para entrenar otros modelos de inteligencia artificial con diferentes idiomas es limitada, según Wong.
«Entonces, hay muchas personas que están excluidas o ciertos idiomas se entrenarán menos que otros idiomas también», dijo.
