- Una inteligencia artificial para el desarrollo de fármacos tardó menos de 6 horas en sugerir 40,000 armas químicas potencialmente letales.
- Fabio Urbina, principal autor del estudio, detalla los peligros del aprendizaje automático aplicado a la toxicidad, y lo sencillo de replicar moléculas letales.
- Los científicos de este experimento quieren generar una mayor conciencia sobre los posibles malos usos de la IA en el futuro.
- ¿Ya conoces nuestra cuenta de Instagram? Síguenos.
Los usos potencialmente malignos de la inteligencia artificial (IA) se revelaron recientemente cuando una enfocada al desarrollo de fármacos fue capaz de sugerir 40,000 armas químicas letales en menos de seis horas.
Sus investigadores —que detallaron el caso en un artículo publicado en la revista Nature Machine Intelligence— alertaron durante una conferencia sobre el riesgo que presenta la tecnología en la creación de armas biológicas y químicas si esta cae en manos equivocadas.
En una entrevista con The Verge, Fabio Urbina, autor principal del artículo y científico senior en Collaborations Pharmaceuticals, explica cómo el aprendizaje automático tiene dos caras.
Históricamente, se tienen diversos conjuntos de datos de moléculas que se prueban para ver si son tóxicas o no. Estos pueden usarse para crear un modelo de aprendizaje automático, que básicamente aprende qué partes de la estructura molecular son importantes para la toxicidad y cuáles no.
En el caso de este experimento, se centraron en la molécula VX, una de las más letales al inhibir la acetilcolinesterasa, que es usada por nuestras neuronas para indicar a nuestros músculos que se muevan. Entrar en contacto con VX detiene el movimiento del diafragma, el músculo de los pulmones, y provoca una muerte dolorosa.
«Esta es una manera para nosotros de examinar virtualmente muy, muy rápido muchas moléculas y eliminar las que se predice que son tóxicas. En nuestro estudio aquí, lo que hicimos fue invertir eso, obviamente; usamos este modelo para tratar de predecir la toxicidad», explica Urbina.
Lo alarmante fue como esta IA logró desarrollar miles de armas químicas potenciales con facilidad
A través de modelos generativos, la tecnología produjo miles de posibles armas químicas; algunas incluso más tóxicas que VX.
«Incluso si hay muchos falsos positivos, tememos que haya algunas moléculas más potentes allí», señala Urbina a The Verge, alertando de lo fácil que es diseñar armas químicas virtuales sin mucho esfuerzo, tiempo o recursos computacionales. «Para mí, la preocupación era lo fácil que es hacerlo».
El investigador se muestra totalmente de acuerdo con las herramientas open source y el software de código abierto: incluso Google lanzó de manera gratuita modelos generativos que, unidos a grandes volúmenes de datos de toxicidad, permitirían a cualquiera con mínimos conocimientos replicar los hallazgos extraídos por los científicos.
«No quiero sonar sensacionalista, pero es bastante fácil para alguien replicar lo que hicimos». Sin embargo, hay un truco: si bien lo sencillo es encontrar una molécula tóxica potencial, esta aún debe sintetizarse y crearse en el mundo real, lo que es mucho más complicado.
Parte de su labor es concienciar a otros investigadores. «Solo queremos que más investigadores reconozcan y sean conscientes del posible uso indebido del aprendizaje automático», señala Urbina, con el propósito de tener más cuidado a medida que mejoran «en la construcción de modelos de toxicidad».
Al preguntarle si las armas desarrolladas por algoritmos están cerca de ser una realidad, la respuesta fue negativa. «No quiero ser alarmista al decir que va a haber una guerra química impulsada por la IA. No creo que ese sea el caso ahora, pero es algo que está empezando a convertirse en una posibilidad», alerta.
AHORA LEE: Esta inteligencia artificial detecta trastornos mentales analizando publicaciones en redes sociales
TAMBIÉN LEE: Raquel-IA, la primera artista virtual mexicana que busca impulsar el arte a través de la inteligencia artificial
