La idea surgió después de que a la desarrolladora Kelsey Bressler le llegara una foto no deseada de un hombre. Por esto, diseñó un software que revisa los mensajes y cuando detecta una imagen inapropiada envía una respuesta a ambas partes informando que el mensaje se ha eliminado.

La desarrolladora indicó que el sistema solamente analiza las fotos y no lee los mensajes en la conversación, informó BBC News

Para desarrollar la inteligencia artificial en la herramienta, Bressler hizo una solicitud en septiembre por la red social para que el público le enviara fotos de penes, llegaron aproximadamente 4.000 imágenes, según Business Insider.

“Recibir una imagen desnuda no solicitada es el equivalente virtual de exhibir a alguien en la calle. No les estás dando la oportunidad de consentir, estás forzando la imagen en ellos, y eso nunca está bien”, expresó la desarrolladora a BBC.

Para activar el filtro solo es necesario entrar a la plataforma de ‘Safe DM’, ingresar el correo electrónico registrado a la cuenta de Twitter y autorizar la vinculación.

La herramienta está en las primeras etapas de conversaciones para agregar el filtro a otra plataforma importante en las redes sociales, dijo Bressler a BBC.

El equipo de ‘Safe DM’ afirma que el filtro funciona el 99% del tiempo. Aunque, en una prueba realizada por el equipo de Buzzfeed News se concluyó que el si bien el software funciona, tiene un tiempo de retraso de 3 minutos aproximadamente, añadió Business Insider.