- El sesgo del racismo dentro del algoritmo es un problema que persigue a las grandes tecnologías.
- Ante ello, la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) y RacismoMX lanzaron una iniciativa llamada "Revolución vs Algoritmo".
- "¿Cuál es el impacto de estas narrativas? ¿Cuál es el impacto de algoritmos así?"
- ¿Ya conoces nuestra cuenta en Instagram? Síguenos
El sesgo del racismo dentro de los algoritmos digitales es un problema que persigue a las grandes tecnologías, como se percibe recientemente en la aplicación de Inteligencia Artificial en diferentes campos.
También se pudo ver en los controvertidos algoritmos discriminatorios de Uber y Lift, a través del reconocimiento facial o las startups que otorgan créditos a través de sus propios algoritmos.
Ante ello, la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) y la organización RacismoMX lanzaron una iniciativa llamada «Revolución vs Algoritmo», que busca luchar contra ese sesgo dentro de los algoritmos.
¿Quién tiene la responsabilidad del racismo dentro del algoritmo?
Las organizaciones mostraron un corto donde evidenciaron cómo el algoritmo de los principales buscadores como Google muestran, en su mayoría, personas blancas cuando se habla de éxito o felicidad. Todo lo contrario cuando se busca el término «pobreza».
José Aguilar, director y fundador de RacismoMX, cuestionó la responsabilidad de las grandes empresa tecnológicas ante el sesgo racial e internalizado que se tiene en la industria.
Las narrativas del racismo en el algoritmo tienen un impacto
Por ejemplo, un caso muy sonado fue como el Departamento de la Policía de Chicago creó un algoritmo que generó una lista de personas con mayor riesgo a estar en un tiroteo, donde 56% eran hombres afroamericanos de entre 20 y 29 años.
«¿Cuál es el impacto de estas narrativas? ¿Cuál es el impacto de algoritmos así? Las narrativas que replican estereotipos pueden llevar a cosas más graves como un perfilamiento racial como las empresas que lo utilizan para saber qué perfil hace match con ellos», dijo Aguilar.
La activista y defensora de los derechos humanos de personas indígenas y migrantes, Odilia Romero, que lo que vemos en internet es el reflejo de las mentes que suben esos datos.
«¿Quiénes son los desarrolladores de las imágenes y las ideas? ¿Cuáles son las representaciones sociales y sesgos que se forman quienes alimentan la información en la red», dijo Romero.
Invitar a las grandes tecnológicas a realizar una reflexión
Por su parte, Manuel Vega, creador del documental hizo una llamado a los dueños de estas grandes tecnológicas para «hacer la reflexión y se hagan cargo de corregir, más allá de señalar y castigar».
La iniciativa invita a la sociedad en general a hacer el ejercicio de reflexión y a comunicar en redes sociales lo que encontraron en sus búsquedas a través de #Revolucionaelalgoritmo.
AHORA LEE: Crean IA capaz de predecir dónde habrá más crímenes con una semana de anticipación
