- Facebook creó una base de datos de 10,000 memes para fortalecer sus acciones contra los discursos de odio.
- La red social está dando acceso a investigadores a esa base de datos para desarrollar algoritmos mejorados que permitan detectar mensajes visuales con contenido de odio.
- El informe de transparencia trimestral de la compañía detalla que Facebook eliminó unos 9.6 millones de publicaciones por violar las políticas de "discurso de odio" en los primeros tres meses de este año.
- Los sistemas automatizados y la inteligencia artificial pueden ser útiles para detectar contenido extremista en varios idiomas, dijo Facebook.
Facebook dio a conocer el martes una nueva iniciativa que buscará hacer frente a los «memes de odio» usando inteligencia artificial (IA).
La red social explicó que creó una base de datos de 10,000 memes para fortalecer sus acciones contra los discursos de odio.
Facebook está dando acceso a investigadores a esa base de datos como parte de un «desafío de memes de odio». El objetivo es desarrollar algoritmos mejorados que permitan detectar mensajes visuales con contenido de odio. Quien lo logre se llevará un premio de 100,000 dólares.
«Estos esfuerzos estimularán a la comunidad de investigadores de IA, en general, a probar nuevos métodos, comparar su trabajo y cotejar sus resultados para acelerar el trabajo en la detección del discurso de odio multimodal», dijo Facebook en una publicación de blog.
La inteligencia artificial contra el odio y la desinformación.
Facebook ya se apoya en la inteligencia artificial para filtrar contenido cuestionable durante la pandemia de coronavirus.
El informe de transparencia trimestral de la compañía detalla que Facebook eliminó 9.6 millones de publicaciones por violar sus políticas de «discurso de odio» en los primeros tres meses de este año. Esto incluye 4.7 millones de contenidos «vinculados al odio organizado».
Guy Rosen, vicepresidente de integridad de Facebook, dijo que con inteligencia artificial «podemos encontrar más contenido y ahora podemos detectar casi el 90% del contenido que eliminamos antes de que alguien nos lo informe».
Facebook ya había prometido eliminar el discurso de odio de su plataforma desde 2019
Facebook se comprometió hace un año a «interrumpir» la conducta de odio organizada tras los letales ataques en una mezquita de Nueva Zelanda. Estos provocaron un «llamado a la acción» por parte de los gobiernos para frenar la propagación del extremismo en línea.
Los sistemas automatizados y la inteligencia artificial pueden ser útiles, dijo Facebook, para detectar contenido extremista en varios idiomas y analizar texto incrustado en imágenes y videos para comprender su contexto completo.
Mike Schroepfer, director de tecnología de Facebook, dijo que una de las técnicas que ayudaron a este esfuerzo fue un sistema para identificar imágenes «casi idénticas», con el que es posible vigilar la publicación de imágenes y videos maliciosos con pequeños cambios para evadir la detección.
«Esta tecnología puede detectar coincidencias casi perfectas», dijo Schroepfer.
La estrategia de Facebook de atacar este tipo de memes de odio podría ser eficaz para frenar el discurso de odio de la plataforma
Heather Woods, profesora de la Universidad del Estado de Kansas que estudia memes y contenido extremista, elogió la iniciativa de Facebook.
«Los memes son claramente complejos, no solo porque son multimodales, al incorporar imágenes y texto, como señala Facebook, sino porque son contextuales», dijo Woods.
«Me imagino que los matices y la especificidad contextual de los memes seguirán siendo un desafío para Facebook y otras plataformas que buscan eliminar el discurso de odio», añadió.
Con información de AFP.
AHORA LEE: Facebook te notificará cuando interactúes con publicaciones falsas sobre la Covid-19
TAMBIÉN LEE: Facebook anunció Messenger Rooms, su nueva plataforma para hacer videoconferencias
