As redes sociais e o crime organizado - Marcelo Godoy

O Estado de S. Paulo

O que está por trás da falta de controle dos meios digitais é saber quem paga a conta da fiscalização

O País precisou do vídeo do influenciador Felca para conhecer a realidade exibida no relatório Hiding in Plain Sigh, Instagram Violates the DSA by Serving as a Gateway for a Vast Network of Pedophiles (Escondido à vista de todos: Instagram viola o DSA ao servir como porta de entrada para uma vasta rede de pedófilos).

DSA é o Digital Services Act, a legislação da União Europeia para a internet. O relatório de 2024 é da Alliance Counter Digital Crime. A empresa que abriga tais publicações já teve tempo para tomar providências contra a exploração da pedofilia. Teria de gastar dinheiro em mecanismos de controle e para que seu algoritmo não favorecesse pedófilos ou promovesse anúncios pagos do crime organizado feitos com IA. A Meta diz não permitir e remover esse tipo de conteúdo.

Durante cinco semanas um pesquisador europeu da Alliance achou dezenas de contas do Instagram que ofereciam links para terminologia codificada usada por infratores a fim de identificar abuso sexual infantil. Um centro canadense revisou uma centena dessas contas. Delas, 17 haviam desaparecido, cinco levavam a abuso sexual infantil, dez eram suspeitas desse crime e outras 25 continham imagens de uma garota que alegava ter 18 anos, mas cujos nus tinham vazado havia mais de um ano.

O centro canadense denunciou as contas verificadas e suspeitas à Meta, e a maioria desapareceu de imediato. Mas contas semelhantes apareciam dias depois, às vezes com as mesmas imagens. Um rede de 3,2 milhões de seguidores, a maioria homens adultos, segue essas contas e se seguem entre si.

Após achar uma dessas contas é fácil encontrar outras, observando os seguidores e quem seguem. “Avaliamos que a Meta poderia ter adotado tal prática”, diz o relatório. Embora não tenham achado evidências de que o Instagram hospedasse material de pedofilia, a Alliance afirma que ele facilita a disseminação de conteúdo ilegal por meio de seus serviços, em razão do design da plataforma e de falhas na moderação de conteúdo. “Seus algoritmos promovem e conectam pedófilos, guiando-os a outros vendedores de conteúdo por meio de sistemas de recomendação que se destacam em conectar aqueles que compartilham interesses de nicho.” Eis a conclusão de 2024. Felca mostrou que nada mudou. Até quando? Quem paga essa conta?

O governo e o Congresso perderam muito tempo discutindo as liberdades de expressão e de empreender e não perceberam que elas não podem criar oportunidades para pedófilos e facções criminosas, que usam redes sociais, fintechs e operadoras de internet. Fiscalização e controle devem servir para que as liberdades sejam exercidas em segurança. Ninguém está acima da lei.