Google, de Alphabet Inc , y su subsidiaria Jigsaw lanzaron el jueves nueva tecnología para ayudar a los medios y plataformas online a identificar comentarios abusivos en sus sitios web.
La tecnología, llamada Perspective, revisará comentarios y les asignará una nota basados en cuán similares sean a mensajes que la gente dijo eran "tóxicos" o que seguramente los hacían dejar una conversación.
La herramienta fue probada en el diario New York Times y las compañías esperan extenderla a otros medios como los periódicos The Guardian y The Economist, así como a sitios de Internet.
"Las organizaciones de medios quieren alentar la participación y la discusión sobre su contenido, pero se encuentran con que ver millones de comentarios para hallar los que son abusivos o malintencionados lleva mucho dinero, trabajo y tiempo. Como resultado, muchos sitios han cerrado sus secciones de comentarios", escribió Jared Cohen, presidente de Jigsaw, en un blog.
Perspective examinó cientos de miles de comentarios que habían sido calificados como ofensivos por supervisores para aprender cómo identificar lenguaje potencialmente abusivo.
CJ Adams, gerente de producto de Jigsaw, dijo que la compañía estaba abierta a llevar la tecnología a todas las plataformas, sin especificar si eso incluía a redes como Facebook y Twitter, donde los comentarios maliciosos y abusivos pueden ser un gran dolor de cabeza.
Perspective no decidirá qué hacer con los comentarios que sean potencialmente abusivo, en ese caso dependerá del medio enviarlos a sus moderadores o desarrollar herramientas para ayudar a las personas a entender el impacto de lo que están escribiendo.
La iniciativa contra este tipo de mensajes sigue a esfuerzos de Google y Facebook por combatir noticias falsas en Francia, Alemania y Estados Unidos, que fue blanco de duras críticas durante la votación presidencial de noviembre cuando quedó claro que habían promocionado historias falsas.