La nueva herramienta revisa el texto de las conversaciones, evalúa y “califica” las características de la charla y asigna una calificación de probabilidad general. Así, las compañías pueden enviarlas a revisión por moderadores humanos, capaces de identificar las amenazas y advertir a las autoridades, informó la compañía en una publicación en su Blog.

También, expresó que la encargada de otorgar la licencia de esta medida es Thorn, una tecnología diseñada para defender a los más chicos del abuso sexual.

“Estamos haciendo que la herramienta esté disponible en este momento para invitar a más contribuciones y compromisos de otras empresas y organizaciones tecnológicas con el objetivo de mejorar y perfeccionar continuamente”, aseguró la compañía.

El desarrollo del proyecto se inició en noviembre del 2018 y, desde ese momento, Microsoft, The Meet Group, Roblox, Kik y Thorn analizaron aspectos legales y políticos para evitar delitos como abuso sexual, pornografía infantil o trata de menores.

Lee También

En la lucha contra los delitos infantiles online también está YouTube, que retiró canales y deshabilitó comentarios en decenas de millones de videos después de recibir informes de un anillo de pornografía infantil en la plataforma, Facebook informó que usa el aprendizaje automático para combatir este delito y Tumblr fue eliminada de App Store al notar que imágenes que representan abuso sexual se filtraron en esta aplicación, según Engadget.

El fabricante añadió en su blog: “El Proyecto Artemis es un importante paso adelante, pero de ninguna manera es una panacea. La explotación y el abuso sexual infantil en línea y la detección del aseo infantil en línea son problemas importantes”.