- La Inteligencia Artificial de este youtuber se convirtió de inmediato en una máquina de esparcir odio y teorías de la conspiración.
- En apenas unos días, los 8 bots en los que fue dividido difundieron más de 30,000 mensajes.
- El experimento suscitó controversia entre la comunidad científica, que se pregunta hasta qué punto es necesario y ético llegar tan lejos en este tipo de pruebas.
- ¿Ya conoces nuestra cuenta de Instagram? Síguenos.
Para quienes nunca han entrado a 4chan o a un foro del sitio, basta decir que es lo más parecido que ofrece internet al salvaje oeste. Esto sin contar la deep web donde los propios foros de la red también juegan su papel.
Lo crearon en 2003 como un repositorio de imágenes durante la generalización de la red de redes. Uno entraba en uno de sus temas de debate y participaba aportando alguna imagen.
Sin embargo, con los años la idea se fue desvirtuando. Actualmente antes de acceder al foro que se titula ‘Políticamente incorrecto’ aparece un mensaje que te obliga a confirmar que eres mayor de edad y a liberar a 4chan de responsabilidades por las opiniones vertidas en su portal.
Este jueves, el foro inició un debate sobre la aportación de la civilización egipcia a la humanidad.
—Eran un remanso de mierda que movió unas piedras y promovió el culto a la muerte.
—Y esos eran los antiguos egipcios. Los p***s egipcios actuales tienen más sangre negra y árabe.
—Egipto contribuyó mucho a la civilización.
— ¿Egipto? ¿Te refieres a aquella colonia romana?
Se trata de una de las conversaciones más intensas de los últimos días. El siguiente mensaje abre su discurso con la siguiente pregunta: «¿Cuándo te diste cuenta de que todo lo que llaman ciencia es una mierda que no existe realmente?».
Ante este panorama, Yannic Kilcher, youtuber e investigador experto en Inteligencia Artificial (IA) se preguntó: ¿qué ocurriría si se entrenara a una de esas IA desarrolladas en código abierto con los mensajes vertidos durante los últimos 3 años en el foro de 4chan?
El resultado lo explicó Kilcher en un video de 20 minutos en su canal de YouTube. En 5 días acumuló más de 85,000 visualizaciones.
La IA resultante de tan curioso entrenamiento se llama GPT-4chan. Y es, a ojos de su creador, la peor IA jamás creada, en cuanto a calidad humana… si es que tal cosa se puede exigir a una máquina.
Resultó que GPT-4chan, era tóxica, irrespetuosa, intransigente y propensa a creer en teorías de conspiración. Además tenía extrañas y radicales ideas de casi todo. Por ejemplo, tan pronto culpaba a los judíos de todos los males del planeta se limitaba a responder a quien la contradijera con el insulto más fuerte que se le ocurría.
En resumen, era el comentador habitual del foro ‘políticamente incorrecto’ de 4chan en los últimos años.
Sin embargo, tenía una particularidad. Era infinitamente más rápida para expandir su odio que el humano con más tiempo libre del mundo.
Distribuida en 8 bots por Kilcher, en pocos días GPT-4chan compartió en el foro cerca de 30,000 mensajes. La mayoría de ellos sumamente desinformados u ofensivos para algún colectivo.
Una vez se enteraron del experimento, la comunidad científica se apresuró a responder con otra pregunta: ¿de verdad hacían falta esas maletas para este viaje?
En otras palabras, ¿era necesario inundar el ya de por sí deteriorado foro ‘políticamente incorrecto’ de 4chan con mensajes de odio para demostrar que la IA será lo que los humanos quieran que sea? Porque de hecho, es algo que en realidad se sabe desde hace tiempo.
La IA de Kilcher, entre la ciencia y la provocación
En declaraciones hechas a través de un mensaje directo de Twitter a Vice, Kilcher se defiende.
«Soy un youtuber y esto es una broma y un troleo desenfadado. Mis bots, en todo caso, son por mucho el contenido más suave y tímido que encontrarás en 4chan. Limité el tiempo y la cantidad de publicaciones, y no estoy repartiendo el código del bot en sí», explica.
En efecto, el modelo de esta IA está alojado en Hugging Face, un gitHub para la IA desde donde está bloqueada la posibilidad de descargarlo.
Kilcher se defiende también de quienes opinan que su IA pudo herir sensibilidades. «Todo lo que oigo son vagas declaraciones grandilocuentes sobre el daño que pudo hacer, pero absolutamente ningún caso real».
El ambiente de 4chan es tan tóxico, explica Kilcher a Vice, que los mensajes de sus bots pasaron casi desapercibidos, excepto para los usuarios de la plataforma que, viendo la frecuencia con la que los robots publicaban, pensaron que se trataba de un experimento de la CIA para detener a algunos de ellos, entre otras teorías más o menos alocadas.
«A nadie en 4chan le dolió siquiera un poco todo esto. Te invito a que pases un tiempo en el foro y te preguntes si un bot que emite mensajes del mismo estilo del foro realmente cambia la experiencia».
Pero no todo el mundo lo tiene tan claro.
«Construir un sistema capaz de crear un contenido indescriptiblemente horrible, utilizarlo para producir decenas de miles de mensajes, en su mayoría tóxicos, en un tablón de anuncios real, y luego liberarlo al mundo para que cualquier otra persona pueda hacer lo mismo no parece lo más correcto», dice a Vice Arthur Holland Michel, investigador de IA y parte de un comité de Cruz Roja sobre el tema.
Tampoco lo ve claro para Vice Kathryn Cramer, estudiante de posgrado de Sistemas Complejos y Ciencia de los Datos en la Universidad de Vermont.
«Entiendo el impulso de hacer algo así. Incluso entiendo el impulso de hacer bromas con ello. Pero la realidad es que, esencialmente, inventó una máquina de escupir odio y la utilizó 30,000 veces».
Finalmente, Os Keyes, candidato a doctorado en la Universidad de Washington del departamento de Ingeniería y Diseño centrado en humanos, tampoco ve la utilidad de un experimento así en declaraciones para este mismo medio.
«Es un proyecto insípido del que no puede salir nada bueno, y eso es inevitable. Hay quien solo quiere atención. La mayoría de ellos utilizan 4chan; algunos, al parecer, construyen modelos a partir de él».
