Google lanzó ‘Perspective’, inteligencia artificial para eliminar ‘trolls’
El gran gigante tecnológico se convenció y esta semana presentó un nueva herramienta para identificar comentarios tóxicos en las noticias con el objetivo de que pueden ser revisados y excluidos de la conversación.
La iniciativa se denomina Perspective y fue creada por Jared Cohen, fundador y presidente de Jigsaw, la empresa antes conocida como Google Ideas que ha sido la encargada de desarrollar el código.
“El desafío actual es crear una buena conversación en Internet. Hay muchísima gente tratando de entablar debates en las secciones de comentarios de las páginas webs, pero terminan marchándose y dejando la conversación por culpa de otra gente que insulta o falta al respeto”, explicó Cohen en diálogo con el diario El País de España.
Perspective puede ser utilizada de forma gratuita por cualquier editor y desarrollador de contenido, ya que es de código abierto. Es decir, no se trata de una tecnología creada por Google para uso exclusivo de Google, sino que “el objetivo es empoderar a los editores de publicaciones y plataformas para que ellos puedan decidir lo que se puede o no decir en sus páginas webs”, sostuvo Cohen.
Google se lanzó con esta iniciativa luego de conocer que el 47% de los usuarios de Internet en Estados Unidos ha sufrido acoso y un 72% ha sido testigo de este abuso. Además, casi un tercio se autocensura a la hora de poner un mensaje, por miedo a las consecuencias. Las cifras provienes del estudio Acoso online y abuso digital del Instituto de Investigación Data Society.
Desde Jigsaw plantean varias opciones: marcar los comentarios para que sean revisados por sus propios moderadores y decidir si los incluyen en una conversación; permitir que los usuarios vean la toxicidad potencial de su comentario cuando lo están escribiendo, o clasificar los comentarios según este criterio, para “facilitar la búsqueda de grandes debates escondidos en conversaciones tóxicas”.
El funcionamiento es, en teoría, sencillo. Primero, un equipo de personas se dedica a revisar comentarios y crea una base de datos en la que se incluyen aquellos que consideran tóxicos —porque contienen insultos, palabrotas o faltas de respeto—. Después Perspective, de forma autónoma, se encarga de analizar decenas de miles de comentarios de páginas webs. Para saber cuáles son tóxicos, los evalúa y compara con los que están en la base de datos. Si hay una similitud con los que ya se consideran perjudiciales, los identifica y añade. “Así, si alguien está diciéndole a otro feo, estúpido o idiota, se comprueba si esas palabras se identifican con algunos de los comentarios tóxicos que el sistema ya tiene almacenados. Es una manera de entrenarlo”, describió el especialista.
“Perspective no es perfecta todavía porque está en una etapa muy inicial, pero cuántos más datos tenga, mejor funcionara. Cuántos más comentarios analice, más perfecta será”, aseguró Cohen sobre un futuro en internet menos agresivo y más útil.
De momento, esta herramienta solo está disponible en inglés, aunque próximamente —no han especificado fecha— llegará en más idiomas. Cuando editores y plataformas de otros países se muestren interesados en colaborar, se podrán empezar a recoger datos de esos lenguajes para construir un modelo, como se hizo con el inglés y The New York Times.