Censura algorítmica: desafios para garantia de direitos na AL

Poder das plataformas em determinar o que aparece ou não no feed, o que é “impróprio” e o que merece destaque precisa ser regulado

Foto: iStock

Foto: iStock

Intervozes

Um levantamento da Fundação chilena Dados Protegidos (Datos Protegidos) registrou uma série de casos de censura algorítmica, entre maio de 2020 e fevereiro de 2021, que impactaram o debate público – inclusive em contextos de crise social e política, como é o caso do Chile, mas também do Brasil e de outros países da América Latina.

O estudo chama atenção para um problema que está no centro do debate em um momento em que o regime de responsabilidade civil das plataformas está sendo questionado no mundo e em que proliferam tentativas de regulação das plataformas de redes sociais na América Latina, pedindo mais transparência dessas empresas sobre como controlam a distribuição do conteúdo que circula em suas redes.

A censura algorítmica é um conceito recente que vem sendo construído por organizações da sociedade civil latinoamericanas em debates sobre direito à comunicação e liberdade de expressão na Internet. Refere-se aos mecanismos de moderação baseados em algoritmos que estão se atualizando constantemente para previamente inviabilizar conteúdos e suspender ou bloquear contas que contrariem as políticas de uso das plataformas. Tais políticas, vale destacar, são definidas a partir de interesses privados destas próprias plataformas e, em alguns casos, desconsiderando os padrões internacionais de direitos humanos.

Entre 2019 e 2020, a Fundação Dados Protegidos monitorou casos de censura na internet de conteúdos críticos ao governo e de denúncias de violações de direitos humanos no Chile. Um deles foi a invisibilização da hashtag #ACAB (sigla da frase “Todos os Policiais são Bastardos” em inglês) em países latinoamericanos como Colômbia, Brasil, Chile e Argentina. A tag é usada para denunciar a violência policial e ficou invisível e inutilizável no Facebook entre agosto e setembro de 2020 por supostamente violar normas comunitárias. Depois de reclamações de organizações da sociedade civil, a empresa desbloqueou a hashtag, mas não ofereceu maiores explicações. A ausência de respostas das plataformas digitais acerca da aplicação de suas políticas vem sendo criticada pela sociedade civil organizada que cobra mais transparência e prestação de contas.

Outro caso paradigmático de censura algorítmica registrado pela Dados Protegidos aconteceu com o Festival Internacional de Cine indígena de Wallmapu. Os organizadores foram impedidos de impulsionar a publicação de um pôster anunciando o lançamento de um documentário. A promoção foi recusada pelo sistema do Instagram.

Meios informativos independentes chilenos foram afetados pela lógica de controle automatizado das redes sociais, apesar do papel central que têm na construção e difusão de notícias, durante o período de intensas mobilizações sociais que desencadearam uma onda de violência policial e violações de direitos humanos no país andino. Um deles, o Piensa Prensa, foi censurado no Instagram, no Twitter e no Facebook ao longo do ano. O informe também cita o caso do Coletivo Pliegue, que iria lançar um documentário sobre o “estallido social” (manifestações e greves) chileno. Contudo, dias antes do lançamento, a conta do Instagram recebeu várias ameaças de bloqueio, por conta de uma ação orquestrada por grupos contrários à visão dos fatos a ser apresentada. Por isso, tiveram que suspender a estreia, programada para a véspera do plebiscito por uma nova constituição no País.

 

Discurso de ódio e discriminação algorítmica

Enquanto isso, toda sorte de discursos de ódio segue sendo produzida e reproduzida nessas (e por essas) mesmas plataformas mundialmente. Nas eleições brasileiras de 2020, os registros e relatos de ataques virtuais a candidatos pertencentes a grupos estruturalmente excluídos, como LGBTIQ+, mulheres, indígenas e negras e negros, configuraram uma violência política. Também são muitos os relatos de pessoas trans pretas sendo censuradas em redes sociais. A multiartista Mel Mesquita teve uma conta que ela administrava e cultivava nos últimos dez anos, excluída pelo Instagram, sem direito a maiores explicações, com impacto na divulgação de seu trabalho. Mesquita relata que a censura e as ameaças de bloqueio na nova conta são constantes. A exibição de seus mamilos (a política da plataforma proíbe mamilos femininos), apesar do esforço em editar as imagens para tapá-los, é uma das razões para a pressão. Ela argumenta: “meus peitos são não-bináries” e legalmente seu gênero continua masculino.

Há um padrão que aponta que a plataforma é mais flexível quanto à aplicação de suas políticas quando as imagens retratam pessoas brancas, magras, cisgênero. Já as fotos de mesma natureza de outros corpos não hegemônicos são censuradas. Dois integrantes do Rap Plus Size, Sara Donato e o Jupi77er já sofreram com moderação de conteúdo automatizada. Enquanto a primeira teve a conta desativada pelo Instagram, o segundo tem seu perfil constantemente ameaçado e censurado, o que o levou a, inclusive, lançar a hashtag #ÉSÓMEUCORPO para denunciar e debater a questão.

Essas censuras algorítmicas contrariam as normas internacionais no que se refere aos direitos de igualdade e não-discriminação, liberdade de expressão e acesso à informação. Vale lembrar que as restrições à expressão, na internet ou fora dela, devem ser previstas em lei, explícita e proporcionalmente direcionadas.

O informe da Fundação Dados Protegidos deixa evidente o papel central que as mídias sociais têm nas disputas políticas, inclusive da política institucional, mundialmente, sem que tenham encontrado uma equação para garantir que conteúdos legítimos não sejam afetados, enquanto protege grupos vulnerabilizados de ataques de ódio e ameaças.

Uma declaração conjunta de quatro Relatorias da Liberdade de Expressão vinculadas a organismos internacionais regionais, como a Organização dos Estados Americanos, sinalizou que o controle privado nas redes sociais e plataformas de busca é um dos três principais desafios para a próxima década e uma ameaça à liberdade de expressão. Isso é consequência, principalmente, do monopólio de poder sobre as comunicações de poucas empresas de redes sociais e plataformas de busca (como Facebook e Google) e da falta de transparência quanto ao funcionamento dos algoritmos e quanto às políticas e normas de uso.

Pensando nesta questão, a publicação Padrões para uma regulação democrática das grandes plataformas que garanta a liberdade de expressão online e uma internet livre e aberta, elaborada pelo Intervozes, Idec (Instituto Brasileiro de Defesa do Consumidor), Observacom (Observatório Latinoamericano de Regulación, Medios y Convergencia – Uruguai) e Desarrollo Digital (Argentina) também traz recomendações sobre princípios, padrões e medidas específicas de co-regulação e regulação pública para proteger as liberdades de expressão, informação e opinião dos usuários de plataformas e garantir uma Internet livre e aberta.

Um minuto, por favor...

Obrigado por ter chegado até aqui. Combater a desinformação, as mentiras e os ataques às instituições custa tempo e dinheiro. Nós, da CartaCapital, temos o compromisso diário de levar até os leitores um jornalismo crítico, alicerçado em dados e fontes confiáveis. Acreditamos que este seja o melhor antídoto contra as fake news e o extremismo que ameaçam a liberdade e a democracia.

Se você acredita no nosso trabalho, junte-se a nós. Apoie, da maneira que puder. Ou assine e tenha acesso ao conteúdo integral de CartaCapital!

Chico Antônio Fritz é estudante de Direito da Universidade de Brasília (UNB) e estagiário do Intervozes.

Compartilhar postagem