Perspective, la herramienta de Google Jigsaw contra el acoso online

Google Jigsaw no para de sorprendernos. Esta maravillosa herramienta de incubar proyectos para evitar la censura en Internet, también ha desarrollado un reto más relacionado con el acoso online.

El propósito de este proyecto de Google Jigsaw es detectar de manera automática comentarios nocivos, dañinos o que busquen fomentar el odio en lugar del diálogo real.

Perspective es una herramienta de inteligencia artificial pensada para los medios de comunicación. Wikipedia y los periódicos estadounidenses, The New York Times, The Guardian y The Economist han sido los primeros en probarla.

Este método se encuentra en su primera etapa de desarrollo y utiliza el aprendizaje automático o ‘machine learning’, para ayudar a identificar comentarios negativos y tóxicos.

Según se expone en la página web del proyecto, su objetivo primordial es limitar la incidencia de los llamados trolls en las conversaciones online, en particular en aquellas que se generan en los espacios para espacios que usan los sitios de noticias.

¿Cómo funciona Perspective?

Para lograr esa evaluación, Perspective analiza los comentarios basándose en el parecido que pueden llegar a tener con comentarios que, anteriormente, los usuarios reales han marcado como “tóxicos” o reportados como SPAM.

Esto quiere decir que cuando la herramienta detecta algún comentario dañino, y lo hace correctamente, mejora su capacidad para evaluar los futuros comentarios hasta que pueda ser 100% autónoma.

Los editores pueden hacer lo que deseen con la información que la plataforma les envía, pueden ofrecer herramientas para ayudar a su comunidad a entender el impacto de lo que se está escribiendo, pueden permitir a los lectores clasificar los comentarios según su toxicidad o elegir los comentarios para que sean revisados por sus propios moderadores.

Una herramienta basada en el código abierto

Perspective es una tecnología para todo el mundo basada en el código abierto TensorFlow y a la plataforma de Cloud Machine Learning. De esta forma cualquier usuario puede utilizarla en su medio con sección de comentarios para que sea la plataforma la que trabaje.

Su descarga es gratuita – a través de una API- para cualquier medio o plataforma de Internet que lo solicite y por el momento solo funciona en inglés.