Discurso de odio en línea

La proliferación del discurso de odio en línea, observada por el relator especial del Consejo de Derechos Humanos de las Naciones Unidas sobre cuestiones de las minorías (CDH, 2015), plantea un nuevo conjunto de desafíos. Tanto las plataformas de redes sociales como las organizaciones creadas para combatir el discurso de odio han reconocido que los mensajes de odio difundidos en línea son cada vez más comunes y han suscitado una atención sin precedentes para desarrollar respuestas adecuadas.[3] Según HateBase, una aplicación basada en la web que recopila instancias de discurso de odio en línea en todo el mundo, la mayoría de los casos de discurso de odio se dirigen a personas en función de su origen étnico y nacionalidad, pero las incitaciones al odio que se centran en la religión y la clase también han ido en aumento.[4]

Si bien el discurso de odio en línea no es intrínsecamente diferente de expresiones similares que se encuentran fuera de línea, existen desafíos particulares para el contenido en línea y su regulación. Los desafíos relacionados con su permanencia, itinerancia, anonimato y carácter interjurisdiccional se encuentran entre los más complejos de abordar.

El discurso de odio puede permanecer en línea durante mucho tiempo en diferentes formatos en múltiples plataformas, que se pueden vincular repetidamente. Como ha señalado Andre Oboler, director ejecutivo del Online Hate Prevention Institute, "cuanto más tiempo esté disponible el contenido, más daño puede infligir a las víctimas y empoderar a los perpetradores. Si elimina el contenido en una etapa temprana, puede limitar la exposición. Esto es como limpiar la basura, no impide que la gente tire basura, pero si no te ocupas del problema, simplemente se acumula y se agrava aún más"[5] Las conversaciones de Twitter organizadas en torno a temas de actualidad pueden facilitar la difusión rápida y amplia de mensajes de odio,[6] pero también ofrecen la oportunidad para que los oradores influyentes eviten los mensajes y posiblemente acaben con los hilos populares que incitan a la violencia. Facebook, por el contrario, puede permitir que varios hilos continúen en paralelo y pasen desapercibidos; creando espacios más duraderos donde determinadas personas y grupos son ofendidos, ridiculizados y discriminados.[2]

El discurso de odio en línea puede ser itinerante. Incluso cuando se elimina el contenido puede encontrar expresión en otro lugar, posiblemente en la misma plataforma con un nombre diferente o en diferentes espacios en línea. Si un sitio web se cierra, puede reabrirse rápidamente utilizando un servicio de alojamiento web con regulaciones menos estrictas o mediante la reasignación a un país con leyes que imponen un umbral más alto para el discurso de odio. La naturaleza itinerante del discurso del odio también significa que los pensamientos mal formulados que no habrían encontrado expresión y apoyo públicos en el pasado ahora pueden aterrizar en espacios donde pueden ser visibles para grandes audiencias.

El anonimato también puede representar un desafío para lidiar con el discurso de odio en línea. "La Internet facilita el discurso anónimo y seudónimo, que puede acelerar el comportamiento destructivo con la misma facilidad que puede alimentar el discurso público". Como ha dicho Drew Boyd, director de operaciones de The Sentinel Project, "Internet otorga a las personas la capacidad de decir cosas horribles porque creen que no serán descubiertas. Esto es lo que hace que el discurso de odio en línea sea tan único, porque las personas se sienten mucho más cómodas hablando de odio que en la vida real cuando tienen que lidiar con las consecuencias de lo que dicen ".[7] Algunos gobiernos y plataformas de redes sociales han tratado de hacer cumplir las políticas de nombres reales. Estas medidas han sido profundamente cuestionadas porque afectan el derecho a la intimidad y su intersección con la libertad de expresión. La mayoría de los ataques de trolling y discursos de odio en línea provienen de cuentas seudónimas, que no son necesariamente anónimas para todos.[8] Las comunicaciones en línea genuinamente anónimas son raras, ya que requieren que el usuario emplee medidas altamente técnicas para garantizar que no pueda ser fácilmente identificable.[2]

Otra complicación es el alcance transnacional de Internet, que plantea problemas de cooperación entre jurisdicciones en lo que respecta a los mecanismos legales para combatir el discurso del odio. Si bien existen tratados de asistencia judicial recíproca en vigor en muchos países, estos son característicamente lentos para funcionar. El alcance transnacional de muchos intermediarios de Internet del sector privado puede proporcionar un canal más eficaz para resolver problemas en algunos casos, aunque estos organismos a menudo también se ven afectados por apelaciones de datos entre jurisdicciones (como revelar la identidad del autor de un contenido en particular.[2] El enjuiciamiento estatal de la incitación al odio en línea puede resultar difícil cuando los países involucrados tienen diferentes compromisos y comprensión de qué es la incitación al odio. Esto es particularmente evidente en el contexto de los EE. UU., que albergan una gran parte de los servidores de Internet, además de tener un compromiso constitucional profundamente arraigado con la libertad de expresión.[9]

A diferencia de la difusión del discurso del odio a través de canales convencionales, la difusión del discurso del odio en línea a menudo involucra a múltiples actores, ya sea a sabiendas o no. Cuando los perpetradores hacen uso de una plataforma social en línea para difundir su mensaje de odio, no solo lastiman a sus víctimas, sino que también pueden violar los términos de servicio en esa plataforma y, en ocasiones, incluso la ley estatal, según su ubicación. Las víctimas, por su parte, pueden sentirse indefensas ante el acoso en línea, sin saber a quién acudir en busca de ayuda. En los tipos de respuestas mapeados a lo largo del estudio, parece que la acción colectiva, generalmente llevada a cabo por organizaciones no gubernamentales y grupos de presión, ha sido un modus operandi efectivo para crear conciencia y alentar a diferentes partes interesadas a tomar medidas.[2]

Yahoo! Los términos de servicio prohíben la publicación de "contenido que sea ilegal, dañino, amenazante, abusivo, acosador, tortuoso, difamatorio, vulgar, obsceno, calumnioso, invasivo de la privacidad de otra persona, odioso o objetable racial, étnicamente o de otro modo".[12]

En diciembre de 2017, Twitter comenzó a aplicar nuevas políticas sobre el discurso de odio, prohibiendo múltiples cuentas y estableciendo nuevas pautas sobre lo que se permitirá en su plataforma.[13] Hay una página completa en el Centro de ayuda de Twitter dedicada a describir su Política de conducta de odio, así como sus procedimientos de aplicación. La parte superior de esta página dice: “La libertad de expresión significa poco si se silencian las voces porque la gente tiene miedo de hablar. No toleramos un comportamiento que acose, intimide o use el miedo para silenciar la voz de otra persona. Si ves algo en Twitter que infringe estas reglas, infórmanos". La definición de Twitter de discurso de odio va desde "amenazas violentas" y "deseos de daño físico, muerte o enfermedad de individuos o grupos" hasta "insultos, epítetos, tropos racistas y sexistas repetidos o no consensuales, u otro contenido que degrade a alguien".

Los castigos por violaciones van desde suspender la capacidad de un usuario de tuitear hasta que elimine su publicación ofensiva/ odiosa hasta la eliminación de una cuenta por completo. En una declaración posterior a la implementación de sus nuevas políticas, representantes de Twitter sostuvieron que “en nuestros esfuerzos por ser más agresivos aquí, podemos cometer algunos errores y estamos trabajando en un sólido proceso de apelaciones”... "Evaluaremos e iteraremos sobre estos cambios en los próximos días y semanas, y lo mantendremos informado sobre el progreso a lo largo del camino".[14] Estos cambios se producen en un momento en el que se están tomando medidas para prevenir la incitación al odio en todo el mundo, incluidas nuevas leyes en Europa que imponen multas a los sitios que no pueden abordar las denuncias de incitación al odio en un plazo de 24 horas.[15]

YouTube, una subsidiaria de la compañía de tecnología Google, ha esbozado una clara "Política de discurso de odio" en medio de otras políticas de usuario en su sitio web.[16] La política está redactada como tal: “Alentamos la libertad de expresión y tratamos de defender su derecho a expresar puntos de vista impopulares, pero no permitimos el discurso de odio. El discurso de odio se refiere al contenido que promueve la violencia o tiene el propósito principal de incitar al odio contra personas o grupos en función de ciertos atributos, como: raza u origen étnico, religión, discapacidad, género, edad, condición de veterano, orientación sexual/ identidad de género”. YouTube ha incorporado un sistema de informes de usuarios para contrarrestar la creciente tendencia del discurso de odio.[17] Entre los elementos de disuasión más populares contra el discurso de odio, los usuarios pueden denunciar de forma anónima a otro usuario por contenido que consideran inapropiado. Luego, el contenido se revisa según la política de YouTube y las restricciones de edad.

Los términos de Facebook prohíben el contenido que sea dañino, amenazante o que tenga potencial para despertar el odio e incitar a la violencia. En sus estándares comunitarios, Facebook explica que "Facebook elimina el discurso de odio, que incluye contenido que ataca directamente a las personas en función de su: raza, etnia, origen nacional, afiliación religiosa, orientación sexual, sexo, género o identidad de género, o discapacidades o enfermedades graves".[18] Afirma además que “Permitimos el humor, la sátira o los comentarios sociales relacionados con estos temas, y creemos que cuando las personas usan su identidad auténtica, son más responsables cuando comparten este tipo de comentarios. Por esa razón, pedimos a los propietarios de páginas que asocien su nombre y perfil de Facebook con cualquier contenido que sea insensible, incluso si ese contenido no viola nuestras políticas. Como siempre, instamos a las personas a que sean conscientes de su audiencia cuando compartan este tipo de contenido".

Ha habido una controversia adicional debido a la especificidad de las políticas de discurso de odio de Facebook.[19] En muchas ocasiones ha habido informes de actualizaciones de estado y comentarios que los usuarios sienten que son insensibles y transmiten odio. Sin embargo, estas publicaciones no infringen técnicamente ninguna política de Facebook porque su discurso no ataca a otros según la lista de clases protegidas de la empresa. Por ejemplo, la declaración "Las reporteras deportivas deben ser golpeadas en la cabeza con discos de hockey" no se consideraría un discurso de odio en la plataforma de Facebook y, por lo tanto, no se eliminaría.[20] Si bien la empresa protege contra el odio basado en el género, no protege contra el odio basado en la ocupación.

Facebook también intenta adaptarse a los usuarios que promueven otro contenido de incitación al odio con la intención de criticarlo. En estos casos, los usuarios deben dejar claro que su intención es educar a los demás. Si esta intención no está clara, Facebook se reserva el derecho de censurar el contenido.[21] Cuando Facebook marca inicialmente contenido que puede contener incitación al odio, luego lo designa en una escala de Nivel 1, 2 y 3, según la gravedad del contenido. El nivel 1 es el más severo y el nivel 3 es el menos. El nivel 1 incluye todo lo que transmita "discurso violento o apoyo por muerte/ enfermedad/ daño".[22] El nivel 2 se clasifica como contenido que difama la imagen de otro usuario mental, física o moralmente.[23] El Nivel 3 incluye cualquier cosa que pueda potencialmente excluir o discriminar a otros, o que utilice insultos sobre grupos protegidos, pero no necesariamente se aplica a argumentos para restringir la inmigración o críticas a las políticas de inmigración existentes.

En marzo de 2019, Facebook prohibió el contenido que apoyaba elnacionalismo blanco y el separatismo blanco, extendiendo una prohibición anterior del contenido de supremacía blanca.[24] En mayo de 2019, anunció prohibiciones a varias personas prominentes por violar su prohibición del discurso de odio, incluidos Alex Jones, Louis Farrakhan, Milo Yiannopoulos, Laura Loomer y Paul Nehlen.[25]

15.000 revisores de contenido hacían cumplir las políticas de discurso de odio de Facebook en 2020.[26] La plataforma pasó de eliminar 9 millones de posteos a 22,5 millones en el segundo trimestre de 2020.[26]

Microsoft tiene reglas específicas sobre el discurso de odio para una variedad de sus aplicaciones. Su política para teléfonos móviles prohíbe las aplicaciones que "incluyan cualquier contenido que promueva la discriminación, el odio o la violencia por motivos de raza, origen étnico, nacionalidad, idioma, género, edad, discapacidad, religión, orientación sexual, condición de veterano o pertenencia a cualquier otro grupo social".[27] La compañía también tiene reglas con respecto a los juegos en línea, que prohíben cualquier comunicación que sea indicativa de "discursos de odio, temas religiosos controvertidos y eventos actuales o históricos sensibles".[28]