EXE prepara herramienta para combatir grooming

El acoso sexual por internet o grooming es un peligro cada vez más fuerte para menores de edad. Pero la Inteligencia Artificial puede ayudar a frenarlo.

Los niños actualmente no conciben la vida sin tecnología. Todos han nacido en medio de  tablets, smartphones, millones de fotos y videos instantáneos, que son parte de sus vidas desde muy temprano. De acuerdo a una encuesta realizada por la ONG Datos Protegidos, a los nueve años los niños ya tienen correo electrónico y un perfil creado en alguna red social. Éstas últimas son la razón principal por la que los menores usan Internet. Tienen toda una vida en el mundo cibernético sin ningún control parental. De hecho, el 89% de los niños entre 9 y 13 años navega a través de un dispositivo propio (el 56% desde su propio celular).

Aunque estas herramientas abren un mundo amplio de posibilidades y aprendizajes, también abren una vía de comunicación directa con las personas, sin ningún filtro. He ahí el peligro para los niños y de allí justamente surge también el concepto de grooming. Este concepto podría traducirse como “engatusamiento” de menores de edad por parte de adultos a través de internet, y específicamente las redes sociales. Este tipo de acoso por internet es muchas veces la antesala para un abuso sexual y un comportamiento pederasta, ya que los adultos que lo realizan hacen todo lo posible para ganarse la confianza de sus víctimas y éstas accedan a enviarles fotos eróticas o haciendo desnudo.  

En 2011, el grooming fue tipificado como delito cibernético en Chile y, desde entonces, los  casos han ido en aumento. La Policía de Investigaciones (PDI) lanza constantemente campañas para que los padres puedan prevenir este tipo de ataques a sus hijos y también para que los niños, preadolescentes y adolescentes puedan darse cuenta de cuándo están expuestos a un acoso por internet. Sin embargo, la dificultad de evitarlos es aún muy grande.

Para combatir estos problemas ligados a la tecnología, una de las herramientas más útiles es justamente la tecnología. EXE detectó la problemática creciente del grooming y volcó esfuerzos en ayudar a reducir las cifras negativas, desde su área de conocimientos. De esta forma, se desarrolló una herramienta de Inteligencia Artificial que tiene como finalidad detectar conversaciones peligrosas entre menores y mayores de edad.

Se trata de un proyecto que aún está en etapa de desarrollo, pero que espera ver la luz en los próximos meses. Este detector de grooming funciona como un clasificador inteligente que puede acceder a los chats de Facebook, Whatsapp y otras redes sociales para analizar las conversaciones. Es un control parental que permite detectar palabras y frases que puedan constituir un acoso, en qué porcentaje éstas ocurren y cuán peligrosas son. De esta forma, se pueden generar alertas para los padres.

¿Cómo funciona?

El detector de grooming es una herramienta de Inteligencia Artificial que utiliza un clasificador bayesiano, es decir, un clasificador probabilístico fundamentado en el teorema de Bayes. Un clasificador de Bayes ingenuo asume que la presencia o ausencia de una característica particular no está relacionada con la presencia o ausencia de cualquier otra característica. Se considera que cada una de estas características contribuye de manera independiente a la probabilidad de que un objeto sea tal, independientemente de la presencia o ausencia de las otras características.

Este clasificador, aplicado a este uso, toma un texto y lo desglosa en un espacio. De esta forma, se grafica un espacio multidimensional en forma de vectores, similar a un asterisco, y allí se van pintando todas las frases que se van escribiendo en un chat. Cada línea del asterisco son frases. Cuando cada una de ellas pasa por un clasificador, esas líneas se van agrupando en líneas más gruesas, que son clasificadas de acuerdo a niveles de acoso.

Para lograr la clasificación, esta herramienta es entrenada con conversaciones aptas y no aptas. Se le enseña cuáles son las frases típicas de acosadores, declaraciones, insinuaciones, peticiones extrañas, etc. Asimismo, también es parte de su entrenamiento conocer aquellas frases que son normales, es decir, aprende lo bueno y lo malo.

La idea es que el detector de grooming pueda distinguir las diferentes etapas de acoso, como el proceso de seducción del menor para ganar su confianza, luego la sexualización de la relación, donde comienzan a pedirles fotos eróticas, o bien, en casos avanzados, la extorsión, en la que el agresor amenaza al menor con hackear su Facebook, por ejemplo, o con enviar sus fotos a sus contactos y padres en caso de que el menor lo denuncie.

Actualmente el foco del desarrollo está justamente es lograr hacer que el sistema reconozca estas diferentes etapas para poder alertar a los entornos de potenciales abusados con la exactitud que puede otorgar una herramienta de Inteligencia Artificial bien entrenada. Esta herramienta es uno de los desarrollos en los que trabaja el Centro I+D+i de EXE, que busca crear y desarrollar iniciativas innovadoras que sean un real aporte a la sociedad.