O que o debate público ainda não entendeu sobre o Discord

[Aviso: o conteúdo a seguir aborda temas sensíveis.]

Nesta semana, ocorreu mais um exemplo de um fenômeno sobre o qual já falei aqui: problemas graves que vinham sendo cultivados há anos nos espaços fechados da internet vêm à tona quando crimes hediondos explodem na esfera pública.

Foi o caso da morte da menina Lívia no Mato Grosso do Sul, induzida ao suicídio dentro da plataforma Discord, após ter falhado em torturar e matar um gato.

Novidade para a grande maioria dos brasileiros, essas redes de abusos e crimes contra adolescentes, crianças e animais no Discord já são de conhecimento do aparato investigativo e policial brasileiro desde ao menos a onda de ataques a escolas em 2022 e 2023. E desde então, nada mudou – pelo contrário, chegou-se ao desenlace trágico de uma morte transmitida ao vivo para uma plateia de dezenas de pessoas, também menores de idade.

Para variar, os termos em que o problema foi enquadrado nas redes sociais foram os piores possíveis. Políticos como Nikolas Ferreira e Renan Santos se aproveitaram de uma das maiores atrocidades que seres humanos podem cometer para “lacrarem” em cima da primeira-dama, Janja da Silva, que defendeu publicamente o bloqueio do Discord no País.

A própria imprensa, em muitas manchetes, fez parecer que o problema fosse sobre Janja. Mas qualquer pessoa atenta à realidade da internet sabe que não. Como expôs o Secretário de Políticas Digitais do Ministério da Justiça e Segurança Pública na mesma ocasião, o órgão, em colaboração com as demais instâncias que monitoram o problema no Brasil, já havia diagnosticado “falha sistêmica” na forma como o Discord vinha lidando com um problema gravíssimo, já era conhecido da empresa há anos, e não apenas no Brasil: o extremismo violento niilista, conforme o próprio FBI categorizou, em 2023.

Parte da imprensa tratou a morte de Lívia como parte de um desafio ou jogo de internet, mas a realidade é muito mais preocupante. Trata-se de um fenômeno novo, complexo e internacional, que não se encaixa com precisão nos modelos de extremismo típicos, e que se sobrepõe a uma série de outros ambientes limítrofes na internet – a chamada edgesphere – como comunidades neonazistas, aceleracionistas, true crime, material de abuso sexual infantil, conteúdo gore, de violência explícita, pornografia extrema, satanismo, cibercrimes e outros. Na Operação Lívia, foram encontrados na casa de um dos suspeitos, inclusive, objetos com simbologia de supremacismo branco.

Não seria possível descrever o modus operandi dessas redes na brevidade desta coluna – meu próximo livro sobre radicalização online, a ser publicado pela editora Ubu, traz este como um dos estudos de caso. Mas um padrão observado em todos os países é o alvo preferencial dos recrutadores. As vítimas são as mais vulneráveis possíveis: pré-adolescentes, crianças, meninas, pessoas LGBTQIA+, com histórico de automutilação, sofrimento mental, entre outros. Uma vez dentro do grupo, elas são forçadas, através de chantagens e abusos psicológicos, a cometer torturas e outras atrocidades com sujeitos ainda mais vulneráveis: animais domésticos, crianças pequenas (inclusive irmãos e outros dentro das famílias) e pessoas em situação de rua.

Embora aqueles que investigam o problema sejam unânimes em apontar que se trata de um tipo novo de extremismo, muitos no Brasil reproduzem a falsa premissa da neutralidade tecnológica, alegando que suspender a plataforma não resolveria o problema. Lançam a responsabilidade, sobretudo, às famílias, ignorando que a adolescência é um período em que, naturalmente, pares etários exercem mais influência sobre esses menores do que pais, e que o modus operandi destas redes extremistas é sutil, inteligente, manualizado e internacionalmente codificado. Não há dúvida de que familiares devem se conscientizar sobre os riscos e agir – por exemplo, recolhendo dispositivos digitais durante a madrugada. Mas isso tampouco ‘resolverá’ o problema.

Outros reivindicam que basta mais investigação e punição. Sem dúvida, o aparato de enfrentamento ostensivo contra essas redes no Brasil necessita de muito mais recursos e profissionalização. Esses agentes, distribuídos pela Polícia Federal, Ciberlab, polícias civis, ministérios públicos, Abin, fazem um trabalho incrível com pouquíssimos recursos – e, muito possivelmente, já operam no limite das suas capacidades. Mesmo países com um aparato e orçamento estruturados e dedicados a esse enfrentamento, porém, seguem sofrendo com o problema.

Uma solução definitiva parece impossível, pois o fenômeno é típico do que alguns pesquisadores chamam de ‘wicked problem’ – problemas “intratáveis”, que têm uma multiplicidade de determinantes, e vão se transformando a partir das intervenções para contê-lo. Isso é próprio dos riscos sistêmicos associados às plataformas digitais, como problemas de saúde mental, golpes e fraudes e desinformação, que sempre estão à frente dos aparatos institucionais erigidos para enfrentá-los.

Precisamos mudar a chave pela qual enquadramos a questão: de “resolver o problema” para “salvar vidas”. Do contrário, sempre haverá o interesse de uma empresa – e dos usuários legítimos – acima do interesse das vítimas.

E aqui, chegamos à raiz crucial do problema: o ambiente onde todo o ciclo criminoso acontece – do recrutamento das vítimas à organização dos grupos, da execução dos atos de violência extrema à sua reorganização após banimentos – são espaços de exceção e soberania paralela, inauditáveis e intocáveis pelo poder público brasileiro. E, embora essas redes de fato se distribuam por outras plataformas, como o Telegram, os agentes que conhecem o problema – da delegada Lisandrea Salvariego à juíza Vanessa Cavalieri, ao próprio Secretário Victor Fernandes – afirmam em uníssono como a combinação de funcionalidades oferecidas pelo Discord, bem como moderação inexistente ou insuficiente, fizeram dela um espaço único para ancoragem dessas novas redes extremistas.

O Discord não está no alvo das autoridades brasileiras porque ‘Janja pediu’. A empresa – uma corporação bilionária altamente opaca e sem responsividade – vem há tempos demonstrando leniência na sua moderação e lentidão na resposta às autoridades brasileiras. O argumento de usuários contra a suspensão – de que se trata de uma plataforma mainstream onde operam comunidades de jogos, fãs, acolhimento LGBTQIA+ e outras, amadas por adolescentes e jovens – apenas reforça o porquê de ela ser tão utilizada por esses criminosos.

No mesmo sentido, a alegação de que essas redes se reorganizarão em outro lugar caso haja um bloqueio ignora as possibilidades únicas oferecidas pelo Discord, bem como o fato, bem consolidado, de que migrações trans-plataforma nunca são automáticas nem totais. A reorganização dessas redes em outros aplicativos reduziria tanto seu tamanho quanto seu potencial de recrutamento, como vimos, por exemplo, na transformação do Twitter em X, após seu bloqueio temporário em 2023. Isso é parte do chamado “dilema do extremista”: não podem ficar em espaços abertos demais, ou serão sancionados, mas também não podem se esconder demais, pois não conseguirão recrutar mais vítimas.

Resolver efetivamente esse wicked problem envolveria construir uma internet muito diferente da que temos hoje. Sua raiz está na contradição entre espaços digitais regidos por soberania privada e paralela de empresas estrangeiras, e leis nacionais, como o ECA, que colocam a proteção de sujeitos vulneráveis acima de qualquer outra consideração.

Empresas como o Discord jamais irão, por livre e espontânea vontade, se engajar num enfrentamento real do problema. Elas só entendem uma linguagem: a do dinheiro. E os únicos meios que o Estado e a sociedade brasileira têm para forçá-las a cumprir nossas leis são dois: multas milionárias e ameaça de bloqueio. Este último, se necessário, não resolverá em definitivo o problema. Mas a plataforma será forçada a mostrar resultados, vidas serão salvas, e nossos valorosos investigadores, que viram madrugadas testemunhando ao vivo as piores crueldades jamais vistas, muitas vezes de mãos atadas, poderão, ao menos por um tempo, dormir em paz.