Regulação de plataformas digitais não é banimento, por Pablo Ortellado

O Globo

O pedido da primeira-dama teve enorme repercussão e politizou a discussão sobre o Discord, que deveria ser tratada tecnicamente

Na quinta-feira da semana passada, Janja da Silva pediu o banimento do Discord pela morte de uma menina de 13 anos. O pedido da primeira-dama teve enorme repercussão e politizou um tema que deveria ser tratado tecnicamente, agora que temos um arcabouço regulatório moderno com o ECA Digital.

Parte da esquerda correu para apoiar o banimento — uma medida autoritária e completamente desproporcional —, enquanto parte da direita correu para denunciar o banimento como medida típica de autocracias e ditaduras. A medida cautelar da ANPD, que suspendeu temporariamente uma funcionalidade do Discord, foi técnica e proporcional, mas sua recepção foi contaminada pela gritaria da política. Sob a fumaça do fogo cruzado, foi difícil perceber que o Discord continua no ar, que a medida é reversível (se condições forem cumpridas) e que há mecanismo de recurso para a empresa. Mais importante: a ANPD poderia ter pedido ao Judiciário a suspensão do Discord e não pediu.

O ECA Digital estabelece que as plataformas têm um dever de cuidado e que precisam gerir riscos de seus produtos e serviços com acesso provável de crianças e adolescentes. Induzida por um grupo de adolescentes, a menina se automutilou e depois se suicidou numa live no Discord assistida por mais de 200 pessoas. A criptografia nas lives em canais privados foi implementada depois da promulgação do ECA Digital e às vésperas de sua entrada em vigor. Com isso, o Discord diminuiu sua capacidade de detectar atos ilícitos nos servidores e, de acordo com o novo arcabouço regulatório, deveria ter feito uma avaliação de riscos e adotado medidas compensatórias.

No começo da semana, a ANPD convocou a plataforma a explicar as medidas adotadas de gerenciamento de risco daquele produto. O Discord alegou que adotava essencialmente duas medidas: um botão de denúncias e um sistema de detecção de comportamentos de alto dano. O botão de denúncias mostrou-se inócuo numa situação em que apenas a vítima coagida e os abusadores estavam presentes. E o mecanismo de detecção de comportamento de risco falhou miseravelmente. Os registros internos do Discord mostram que o servidor da live recebeu pontuação de risco de 0,12, ao passo que o limiar para identificação automática era de 0,95.

Vale a pena estender-se nesse ponto. O sistema do Discord usa uma série de métricas para tentar identificar um comportamento danoso: sinais comportamentais, relações entre contas, padrões de rede e metadados (a descrição é abstrata de propósito, para agentes mal-intencionados não conseguirem fraudar o sistema).

A sensibilidade desse sistema de detecção pode ser calibrada: se for menos sensível, pega apenas comportamentos danosos inequívocos, mas deixa passar aqueles que emitem sinais fracos, como o caso da menina; se for mais sensível, pega a maioria dos comportamentos danosos, mas também muitos falsos positivos. Esses falsos positivos precisam depois ser filtrados com supervisão humana, e isso encarece a operação.

Esse é o nó regulatório. Deixada às forças de mercado, a empresa encontrará um equilíbrio entre proteção e custo muito menos protetivo. A supervisão regulatória atua, então, para criar incentivos para que se proteja mais a infância — ameaçando aplicar multa se as medidas preventivas forem consideradas débeis.

A ANPD determinou a suspensão cautelar da funcionalidade de live criptografada até que a empresa apresente medidas técnicas efetivas e obtenha uma autorização para reativação. O documento da ANPD sugere soluções como calibragem mais sensível do sistema de detecção de comportamento danoso e controles de idade combinados a restrições de produto — o que aponta para restringir a transmissão criptografada a usuários adultos verificados.

A atuação da ANPD, como se vê, foi de natureza técnica e regulatória, com diretrizes e abordagens inspiradas nos modelos europeu e britânico. Nada disso é comparável às ações de autocracias como o governo russo, que proibiu o Discord por não remover mais de 940 publicações, incluindo “propaganda LGBTQ+”.

O ECA Digital foi aprovado no Congresso em raro consenso entre esquerda e direita, porque seu objeto era a proteção da infância. Esse consenso não sobreviveu ao primeiro teste. Bastou uma manifestação estridente da primeira-dama para converter a primeira decisão técnica importante do ECA Digital em mais uma disputa entre esquerda e direita sobre regulação versus liberdade de expressão. Todo o barulho, porém, é por nada. A proibição do Discord nunca esteve em discussão na ANPD, e a indução ao suicídio nunca fez parte da liberdade de expressão.