Algoritmo desenvolvido no ICMC da USP de São Carlos identifica possibilidade de pedofilia em conversas em aplicativos de mensagens

Pesquisadores do Instituto de Ciências Matemáticas e de Computação (ICMC), Universidade de São Paulo (USP), em São Carlos (SP), desenvolveram um algoritmo capaz de monitorar conversas online e perceber quando há assédio de menores de idade. A ideia é que a ferramenta alerte os pais em casos nos quais é identificado perigo de pedofilia virtual com os filhos.

O algoritmo consegue analisar dados em tempo real e avisar responsáveis de algum risco logo no início da conversa. O sistema avalia o conteúdo da conversa e dá a probabilidade de 0% a 100% de chances de um bate-papo ser um assédio.

“A ideia foi desenvolver uma ferramenta em que bate-papos online sejam monitorados em tempo real, sem aguardar o final da conversa, já há uma análise parcial para identificar algo suspeito”, afirma o professor do ICMC, Robson L. F. Cordeiro, orientador da pesquisa.

Eficiência

Em análises comparativas, a ferramenta mostrou muita eficiência na tarefa de identificar sinais de abuso, sendo 40% melhor no alerta dos responsáveis já no início da conversa, em comparação com outras ferramentas do tipo.

A ferramenta consegue, inclusive driblar as tentativas dos abusadores de enganar programas de monitoramento. O sistema tem um dicionário de palavras de cunho sexual, incluindo variações.

Por exemplo, a palavra “sex” pode ser reconhecida mesmo quando escrita como “$ex” ou “s3x”, formas alternativas chamadas de typos — o que faz o algoritmo mais sofisticado.

De acordo com a pesquisadora Daniela F. Milón Flores, autora da pesquisa, o algoritmo pode ajudar no combate à pedofilia.

“O objetivo da pesquisa é proteger as crianças, porque elas mesmas não sabem com quem estão conversando por trás do notebook. Elas acreditam que seja um amigo, porque é isso que faz o pedófilo, cria uma relação baseada na confiança para depois abusar dela”, diz.

Análise criteriosa

Após uma análise de mais de 155 mil conversas em inglês, fornecidas por uma ONG norte-americana de combate à pedofilia, o algoritmo utiliza um conjunto de informações sobre o comportamento do usuário e o conteúdo das mensagens para detectar conversas suspeitas.

De acordo com os pesquisadores, um dos maiores desafios de estudar assédio sexual infantil na internet é a carência de dados para o desenvolvimento de ferramentas preventivas, por conta da necessidade de sigilo de informação para assegurar a privacidade de menores de idade.

Por isso, a pesquisa utilizou um conjunto de mensagens texto em que adultos se passaram por crianças para interagir com pedófilos. A análise desses dados identificou características da conversa que possam ser ensinadas à máquina para reconhecer interações de risco.

Comportamento do abusador

Um dos dados apurados pela pesquisa foi que conversas com alto número de participantes dificilmente apresentavam contexto de pedofilia. “Isso acontece porque o pedófilo quer privacidade, falar apenas com a criança”, explica Cordeiro.

A maioria das conversas suspeitas envolvia apenas duas pessoas, quando não, tratava-se de monólogos — casos em que o pedófilo manda várias mensagens, como tentativas de contato, mesmo sem retorno da criança.

Na maior parte dos casos de abuso, as conversas aconteciam no período das 18h às 21h, horário em que as crianças não estão nas escolas e têm acesso a celulares e computadores privados.

A notificação dos pais ainda está sendo aperfeiçoada. Como se trata de um protótipo, a ferramenta não é capaz de se comunicar com outros sistemas e gerar alertas para aplicativos ou por e-mail.

Outro passo para o avanço da ferramenta, será fazer os testes com conversas em português. O maior desafio está na atualização do algoritmo, ao passo que é programado para um comportamento que está em constante mudança. A ferramenta pode se tornar obsoleta na medida em que a língua muda e novas expressões surjam. “Ainda há, e sempre haverá, muita coisa a ser feita”, completa.

EPTV