Você está aqui: Página Inicial / Blogs / Outras Palavras / Na era da Discriminação Digital

Tecnologia

Privacidade

Na era da Discriminação Digital

por Rafael Evangelista — publicado 03/06/2015 17h56, última modificação 03/06/2015 19h24
Como o sistema financeiro usa o Facebook e outras redes para negar ou encarecer empréstimos a quem tem amigos pobres, usa remédios psiquiátricos ou comete outros “desvios”

[Este é o blog do Outras Palavras em CartaCapital. Aqui você vê o site completo]

 

Depois das revelações de Edward Snowden, ficou fácil demonstrar como as redes sociais e os serviços remotos na web (como os webmails e os aplicativos de escritório) podem ser utilizados como instrumentos de vigilância pessoal. Mas exemplificar os usos econômicos dessa máquina de vigilância é tarefa mais ingrata. Os dados pessoais e as informações produzidas pelos usuários em suas respectivas interações são usados para alimentar a força econômica das empresas, numa relação que não é transparente e que contém injustiças ainda difíceis de serem concretamente mapeadas, seja pelos movimentos sociais ou pelos pesquisadores da área.

A crescente e promíscua relação entre as empresas de finanças e as grandes companhias de tecnologia de informação e informática do Vale do Silício, na Califórnia, ajudam a deixar essa exploração mais clara. Estão surgindo com força empresas embrionárias (startups) que usam informações dos usuários obtidas nas redes sociais para elaborarem um número, um índice, que determinaria a capacidade de pagamento de um possível tomador de empréstimo. Com isso, as empresas teriam mais segurança sobre quem poderia dar calote e, em tese, poderiam oferecer taxas de juros menores para aqueles que fossem bem avaliados. Na prática, o que vem acontecendo são práticas discriminatórias justamente contra aqueles que mais precisam, os grupos sociais historicamente mais fragilizados: imigrantes, negros, mães solteiras, moradores de bairros pobres etc.

Uma reportagem recente da revista estadunidense The Nation traz entrevistas com vítimas do chamada “digital redlining”. O termo redlining refere-se à linha vermelha imaginária feita pelos bancos em determinados bairros pobres, para marcar populações dentro de uma área geográfica e para as quais são praticadas taxas de juros mais altas. Essa exclusão e discriminação agora foi importada para o mundo digital, sendo desenhada não mais sobre um mapa, mas por um robô que integra dados importados, entre outros, de redes sociais. Este reúne a grande massa de dados de redes como o Facebook para determinar juros mais altos para certas pessoas.

Para o pobre, que mais precisa do empréstimo, não se trata de simplesmente estar fora das redes. Essa opção pode ser ainda pior, pois o sistema acaba entendendo a falta de dados como algo suspeito e aplicando as maiores tarifas ou negando transações.

Projetos como o Internet.org, voltados às populações mais pobres, colocam ainda mais pressão sobre as pessoas, forçando sua entrada na rede social e o compartilhamento de informações com as companhias. O Internet.org fornece acesso à internet gratuito, porém limitado a um conjunto de sites, sendo o principal deles o Facebook.

Uma das empresas parceiras do projeto é a Lenddo. O usuário que nela se cadastra e baixa o aplicativo no celular tem acesso a compras online, empréstimos e serviços de colocação profissional. Em troca, permite que suas atividades sejam monitoradas — ações como a interação ou amizade com certas pessoas — e que a partir desse monitoramento seja produzido um LenddoScore, um número que reflete o quanto o usuário é “confiável”. A Lenddo já é oficialmente usada por financeiras das Filipinas para produzir perfis de pessoas que estão fora do sistema bancário. Também dá informações para que telefônicas neguem o acesso a planos de celular pós pagos e fornece informações a empregadores em busca de referências para possíveis trabalhadores.

As populações dos países periféricos, onde o Internet.org já atua, são particularmente vulneráveis, pois o sistema jurídico dá poucas garantias aos cidadãos quanto a abusos e discriminações. Quênia, Gana, Colômbia, Índia, Bangladesh, além das Filipinas, já estão nessa lista. Mas mesmos nos países ricos a complexidade técnica desses instrumentos de predição usando dados de navegação na internet torna difícil comprovar que, por exemplo, o fato de alguém buscar remédios psiquiátricos foi o fator preponderante para ter um financiamento negado. 

A Lenddo é apenas um exemplo. Outras empresas de natureza semelhante já atuam, inclusive nos países ricos. Em um dos casos citados pela Nation, uma estudante em dívida com empréstimos educacionais torna-se alvo de crédito predatório a partir de dados coletados em sua atividade online.

A internet, ao mesmo tempo que ofereceu grandes oportunidades para a expansão da criatividade e da liberdade de comunicação, tornou-se um lugar propício para novas estratégias de revitalização do capitalismo, agora baseado na exploração informacional. Vamos passando de um sistema em que o mau pagador era punido para uma estrutura em que o castigo vem antes, pelo cálculo probabilístico do delito futuro. A desigualdade de forças, a assimetria no controle da infra-estrutura tecnológica, o grande poder econômico derivado do controle de grandes bancos de dados das populações são um terreno fértil para o aumento da exclusão e do controle.