Saltar al contenido

Lucha contra el discurso de odio y la desinformación en línea

1 de mayo de 2022

Comenzamos a investigar este tema a fines de marzo de 2020, cuando todos estaban desesperados por el COVID-19, y cuando comenzamos a ver noticias sobre discursos de odio, ataques físicos y acoso contra personas de ascendencia asiática. Habiendo pasado mucho tiempo en el dominio de las redes sociales en línea, comenzamos a analizar este problema del discurso de odio pero en las plataformas en línea. Además, mientras el discurso de odio se difundía en las redes sociales, también había personas que contrarrestaba el discurso de odio, en apoyo de las personas de ascendencia asiática: teníamos estas dos narrativas en competencia que se difundían simultáneamente en las plataformas de redes sociales. Luego comenzamos a recopilar datos en Twitter relacionados con este fenómeno, a partir de enero de 2020: esencialmente rastreamos millones de tweets de cientos de miles de usuarios sobre estos temas, e hicimos uno de los primeros análisis de discurso de odio y contradiscurso anti-asiático en medios de comunicación social.

Primero, creamos un conjunto de datos etiquetados a mano con alrededor de 3200 tweets para entrenar un clasificador. Luego, usamos nuestro clasificador para identificar el discurso de odio y el discurso contrario del resto de los datos. En total, identificamos 1,3 millones de tuits que contenían discursos de odio contra los asiáticos y 1,1 millones de tuits que contenían discursos opuestos. Con estos datos a gran escala, comenzamos a realizar diferentes tipos de análisis para comprender cómo se difundían los comentarios de odio, cómo los usuarios difundían tanto el discurso de odio como el contradiscurso, y cómo estas dos narrativas se influenciaban entre sí. Uno de los hallazgos más importantes que tuvimos fue que cuanto más discurso de odio vea, mayor será la probabilidad de que haga comentarios de odio: si muchos de sus amigos, es decir, si muchas personas en su vecindario de plataforma social, están difundiendo odio, es más probable que también difundas el odio. En otras palabras, ¡el discurso de odio es contagioso! Sin embargo, hay algo de esperanza, ya que encontramos evidencia inicial de que el contradiscurso puede evitar ligeramente que otros adopten el discurso de odio: hay un pequeño efecto de inhibición en términos de que el contradiscurso puede evitar que los usuarios hagan comentarios de odio en primer lugar.

Nuevamente, estamos viendo el mismo tema aquí de que los usuarios habituales son una de las formas más efectivas de combatir los actores y actividades maliciosos al hablar. Esencialmente, no solo necesitamos herramientas computacionales que nos ayuden a identificar estas actividades maliciosas, sino que también necesitamos esfuerzos impulsados ​​por la comunidad para contrarrestar estos problemas de manera efectiva. Necesitamos que los usuarios regulares sean más conscientes de estos problemas, y que sean más proactivos y hablen, por ejemplo, simplemente marcando contenido inapropiado, cuando vean un mal comportamiento.


Recomendado: ¿Qué es el Big data?.