Además de la manera en que utilizan los datos de sus usuarios, otro de los puntos que han llevado a la polémica a distintas redes sociales es la propagación de discursos de odio. Y es que, aunque este contenido generalmente infringe sus reglas, no ha dejado de compartirse lo que ha llevado a plataformas como TikTok a borrar miles de videos.
La compañía de origen chino está realizando esfuerzos con la intención de combatir el discurso de odio y, de acuerdo con datos dados a conocer por la propia plataforma, desde principios de este año ha eliminado más de 380 mil videos y 64 mil comentarios , tan solo en los Estados Unidos , porque violaban sus reglas de incitación al odio.
TikTok no solo se ha encargado de limpiar su plataforma para ofrecer a sus usuarios un ambiente virtual más sano, también ha eliminado las cuentas de más de mil 300 usuarios como parte de sus políticas.
Esta es la primera vez que TikTok ha compartido detalles sobre sus acciones de eliminar contenido desde que agregó la prohibición del discurso de odio a sus pautas comunitarias en enero. "Si bien es posible que estos números no reflejen una tasa de éxito del 100% en la identificación de cada contenido o comportamiento de odio, muestra nuestro compromiso con la construcción de una comunidad que sea más positiva y acogedora que otras aplicaciones", dijo el director de seguridad de TikTok , Eric Han, en el blog de la compañía.
Han también señaló que TikTok ha tomado medidas para evitar que el contenido de odio aparezca en los resultados de búsqueda de la aplicación y agregó: "estamos capacitando a nuestros equipos de moderación para comprender mejor el contenido más matizado como la apropiación cultural y los insultos ".
En el pasado TikTok ha sido criticada por sus políticas de moderación , por ejemplo por censurar contenido que crítica al gobierno chino. También, la Liga Antidifamación en Estados Unidos ha dicho que no hace lo suficiente para combatir el nacionalismo blanco , el extremismo y el antisemitismo.
En ese mismo sentido, en marzo de este año se dio a conocer un documento según el cual contenido compartido por personas con alguna discapacidad , consideradas "feas" o en un ambiente que refleje pobreza no serían destacado e, incluso, podría ser eliminado de la plataforma.
En ese entonces se afirmó que los moderadores del app tenían la consigna de ubicar a usuarios que tuvieran una "forma corporal anormal" lo cual incluía sobrepeso, personas muy delgadas, con muchas arrugas, deformidades o discapacidad para determinar si el contenido podía mostrarse o no.
También se dijo que los videos grabados en sitios que mostraran un mal ambiente debían ser eliminados, en ese caso se incluían barrios marginales, campos rurales o viviendas deterioradas.
La excusa de la compañía fue que era una política diseñada para reducir el ciberacoso en su plataforma. Sin embargo, posteriormente un portavoz de TikTok admitió que habían tomado la decisión equivocada. Asimismo se aclaró que en algunos casos solo se trataba de una confusión pues los documentos que supuestamente se entregaban a los moderadores fueron creados en chino y después traducidos al inglés para su uso global, por lo que se habían prestado a malas interpretaciones. Además un vocero de TikTok dijo que muchos de los lineamientos nunca fueron puestos en práctica.
Por todo lo anterior es que la compañía ha tomado una serie de pasos para tratar de calmar estas preocupaciones entre ellas, la conformación de un Consejo Asesor de Contenido y también anunció que planea abrir un "centro de transparencia" que brindará más visibilidad sobre sus políticas de seguridad y moderación.