Aunque las redes sociales son sitios en donde podemos expresar nuestros intereses y gustos, existen políticas de servicio que prohíben cierto tipo de contenido, por ejemplo, los discursos extremistas que incitan al odio . Como muestra de ello basta recordar el momento en que Donald Trump fue expulsado de prácticamente todas las plataformas sociales por alentar a la violencia. Facebook no quiere que otros corran con la misma suerte y alertará a los usuarios que se están volviendo “ extremistas ”.
De acuerdo con información dada a conocer por el medio CNN, Facebook está probando nuevas indicaciones para alertar a los usuarios cuando su comportamiento en la red social puede estar "volviéndose extremistas".
A través de redes sociales algunos usuarios mostraron los mensajes que estaban recibiendo comprobando que se trata de una función real que Facebook está probando con un número limitado de personas con la intención de combatir el extremismo y mejorar el ambiente en la plataforma.
De acuerdo con lo que se conoce hasta ahora hay dos modalidades de esta herramienta. Por un lado los que reciben una advertencia de que su comportamiento puede no ser el mejor en la red social. Y, por otro, aquellos que son alertados porque pueden conocer a alguien que cae en el extremismo . "¿Le preocupa que alguien que conoce se esté convirtiendo en un extremista", se lee en el mensaje.
También hay otra alerta que puede aparecer en Facebook para advertir a los usuarios que pueden haber encontrado contenido extremista: “Los grupos violentos intentan manipular su ira y decepción”, dice. "Puede tomar medidas ahora para protegerse y proteger a los demás".
Andy Stone, portavoz de Facebook confirmó que los mensajes son "parte de un trabajo más amplio de la compañía para evaluar formas de proporcionar recursos y apoyo a las personas que pueden haber interactuado o estado expuestas a contenido extremista, o pueden conocer a alguien que está en riesgo ".
También dijo que se trata de una Iniciativa de redireccionamiento, un proyecto que parte de un esfuerzo más amplio de la compañía para combatir el extremismo en su plataforma de la mano de grupos como Life After Hate, que ayuda a las personas a dejar los grupos extremistas . Así, como su nombre lo indica, el sistema redirigirá a los usuarios a recursos educativos en lugar de más contenido de odio. Como ejemplo de ello, en una página de soporte de Facebook titulada "¿Qué puedo hacer para prevenir la radicalización ?", Facebook se vincula al programa ExitUSA de Life After Hate que ayuda a las personas a encontrar "una salida al odio y la violencia ". La página de soporte también brinda consejos sobre cómo interactuar con alguien que está tratando de dejar un grupo de odio.
Finalmente Facebook dijo que continuará eliminando el contenido extremista que viola sus reglas.
No está claro cómo Facebook está determinando qué usuarios tienen más probabilidades de verse afectados por el extremismo , pero sin duda es un tema relevante para la compañía.
Hay que recordar que la empresa fue ampliamente criticada por no hacer lo suficiente para evitar que QAnon y otros grupos extremistas utilizaran sus plataformas para hacer crecer sus seguidores.
Facebook también ha sido acusada de restar importancia a su papel al permitir los eventos del 6 de enero cuando un grupo de manifestantes tomaron por la fuerza el Capitolio de los Estados Unidos. De hecho, cuando la Junta de Supervisión recomendó que la empresa realizara su propia investigación sobre el tema, Facebook respondió que las investigaciones deben permanecer en manos de las fuerzas del orden y los funcionarios electos.
Por casos como el anterior, durante mucho tiempo la compañía ha sido objeto de escrutinio por parte del público y los legisladores, ya que muchos dicen que sus algoritmos dividen a las personas y las empujan hacia ideologías extremas, algo que la propia empresa ha reconocido.