¿Cómo abordan las redes sociales el discurso de odio?
Los programas de inteligencia artificial y los revisores de contenido humano toman medidas enérgicas contra los comentarios ofensivos en línea
Imágenes de Zach Gibson / AFP / Getty
El discurso de odio no es un fenómeno nuevo para los sitios web de redes sociales, pero la manifestación de extrema derecha del sábado en Charlottesville, Virginia, que dejó un manifestante muerto, ha llevado a empresas a tomar medidas contra grupos ofensivos en línea.
Así es como los grupos de redes sociales más grandes están respondiendo al discurso de odio, así como sus planes para evitar la propagación de contenido ofensivo:
Tras los violentos sucesos de Charlottesville el sábado, Engadget dice que Facebook ha 'cerrado numerosos grupos de odio a raíz de los ataques', incluida la 'página de eventos de la marcha Unite the Right que llevó a cabo la violencia'.
El gigante de las redes sociales utiliza una combinación de inteligencia artificial (IA) y revisores de contenido humano para encontrar el discurso de odio, que El borde dice que elimina '66.000 mensajes de correo de odio por semana'. Pero el sitio dice que Facebook 'depende en gran medida' de que los usuarios denuncien el contenido como ofensivo u odioso.
En mayo, Facebook contrató a 3,000 personas más para su 'equipo de revisores de contenido', dice TechCrunch , lo que eleva el total a 7.500. Esto fue provocado por varios 'escándalos de moderación de contenido' globales, incluido el uso de Facebook Live 'para transmitir asesinatos y suicidios'.
Pero Cableado dice que ha habido situaciones en las que los 'revisores algorítmicos y humanos' de la empresa han etiquetado comentarios o publicaciones como ofensivos sin tener en cuenta el contexto. Por ejemplo, el sitio web dice que algunas palabras 'gritadas como insultos' a veces son 'reclamadas' por grupos 'como un medio de autoexpresión'.
Gorjeo
La política de conducta de odio de Twitter dice que el servicio no 'permite cuentas cuyo propósito principal sea incitar a dañar a otros' en base a áreas como la raza u orientación sexual.
El Independiente informa que durante los últimos meses el sitio ha introducido más sistemas y herramientas para detectar y eliminar el discurso de odio, además de mejorar el proceso en el que sus usuarios informan manualmente sobre material ofensivo.
Pero el sitio de redes sociales ha estado en un 'apuro en los últimos meses con respecto a una falta de acción percibida a raíz de las amenazas percibidas', dice TechCrunch , lo que llevó a un activista a esparcir 'lenguaje de odio en las calles frente a la sede de la empresa en Berlín'.
A raíz del enfrentamiento del sábado, el sitio web dice que la cuenta del grupo de extrema derecha The Daily Stormer ha sido eliminada, aunque `` los tweets de Trump que se tambalean al borde de una amenaza de guerra nuclear '' parecen estar en línea con la política de la compañía.
El foro de chat Reddit también ha tomado medidas enérgicas contra el discurso de odio. Engadget dice que el sitio web ha 'cerrado numerosos grupos de odio a raíz de los ataques'.
Entre los grupos eliminados del sitio de redes sociales estaba el subreddit / r / Physical_Removal, una página que Engadget dice 'esperaba que las personas en subreddits anti-odio y en CNN fueran asesinadas, apoyaran campos de concentración e incluso escribieran poemas sobre asesinatos'.
'Tenemos muy claro en los términos de servicio de nuestro sitio que la publicación de contenido que incite a la violencia hará que los usuarios sean expulsados de Reddit', dijo Reddit. Cnet .
Si bien Google no es exclusivamente una red social, el gigante tecnológico juega un papel clave en la dirección del tráfico de Internet y las aplicaciones sociales a las que los usuarios pueden acceder.
Desde el choque en Charlottesville el sábado, TechCrunch dice que la firma ha eliminado la 'red social conservadora' Gab de su Play Store, ya que se había convertido en un 'refugio' para los usuarios excluidos de las plataformas principales.
Google dice que no admite 'contenido que promueva o apruebe la violencia contra personas o grupos' en función de ciertos criterios, y agrega que depende 'en gran medida de que los usuarios nos informen sobre el contenido que puede violar nuestras políticas'.
Pero TechCrunch dice que 'no está claro qué hizo específicamente Gab para justificar su salida de la tienda', ya que la aplicación es una sala de chat y no parece promover activamente el discurso de odio. El sitio web dice que 'hay mucho discurso de odio en Twitter y YouTube', pero todavía están disponibles para descargar a pesar de la 'represión' de esta semana contra el contenido ofensivo.
De acuerdo a El borde , Gab 'nunca ha sido aprobado para su colocación en la App Store de Apple'.
¿Qué están haciendo los demás?
Uno de los casos notables de represión del discurso de odio después de los eventos del sábado incluye al minorista de nombres de dominio web GoDaddy que desaloja el sitio web de The Daily Stormer de su servicio, dice El registro .
El sitio web dice que los activistas le dijeron al minorista que el grupo hizo 'comentarios extraordinariamente vulgares y despectivos' sobre la víctima del ataque de Charlottesville, Heather Heyer. GoDaddy entregó a The Daily Stormer 24 horas 'para mover el dominio a otro proveedor'.
Informamos a The Daily Stormer que tienen 24 horas para mover el dominio a otro proveedor, ya que han violado nuestros términos de servicio.
- GoDaddy (@GoDaddy) 14 de agosto de 2017
También se espera que YouTube 'instituya pautas más estrictas con respecto al discurso de odio', informa TechCrunch . Esto podría hacer que se eliminen más videos después de que los usuarios los marquen como ofensivos, incluso si no hay nada ilegal en el contenido.
