Responsabilidade pelo algoritmo

Há duas semanas, a Suprema Corte dos Estados Unidos decidiu que aceitaria julgar o processo Gonzalez versus Google, um caso histórico que está tirando o sono de alguns magnatas das redes sociais pela boa razão de que poderia abrir um grande buraco em seus modelos de negócios fabulosamente lucrativos.

Esta pode ainda ser uma boa notícia para a democracia, o que também é motivo para todos nós prestarmos atenção. Primeiro, alguns antecedentes. Em 1996, dois legisladores estadunidenses, o deputado Chris Cox, da Califórnia, e o senador Ron Wyden, do Oregon, inseriram uma cláusula no extenso projeto de lei de telecomunicações que estava em tramitação no Congresso.

A cláusula acabou se tornando a Seção 230 da Lei de Decência nas Comunicações e dizia: “Nenhum provedor ou usuário de um serviço interativo de computador deve ser tratado como o editor ou orador de qualquer informação fornecida por outro provedor de conteúdo de informação”.

Os motivos dos dois políticos eram honrosos: eles viram os provedores dos primeiros serviços de hospedagem na web serem responsabilizados por danos causados por conteúdo postado por usuários sobre os quais eles não tinham controle.

Vale lembrar que eram os primeiros tempos da internet, e Cox e Wyden temiam que, se os advogados passassem a rastejar sobre tudo o que estivesse hospedado no meio o crescimento de uma nova tecnologia poderosa seria prejudicado quase desde o nascimento. Nesse sentido, estavam certos.

O que eles não podiam prever era que a Seção 230 se tornaria uma carta branca para algumas das empresas mais lucrativas do planeta – como Google, ­Facebook e Twitter, que construíram plataformas que permitem que seus usuários publiquem tudo e qualquer coisa sem que os proprietários incorram em responsabilidade legal.

Avancemos agora para novembro de 2015, quando Nohemi Gonzalez, uma jovem americana que estudava em Paris, foi morta a tiros num restaurante pelos terroristas do Estado Islâmico que assassinaram outras 129 pessoas naquela noite.

Sua família processou o Google, argumentando que o YouTube, sua subsidiária, havia, por meio do algoritmo, enviado vídeos do EI para espectadores impressionáveis, usando as informações que a empresa havia coletado sobre eles. A petição pedindo uma revisão da Suprema Corte argumenta que “os vídeos que os usuários visualizaram no YouTube foram a principal maneira pela qual o EI conseguiu apoio e recrutas de áreas fora das partes da Síria e do Iraque que controlava”.

A mudança na lei teria o efeito de uma dinamite no modelo altamente lucrativo das redes sociais

O principal aspecto do processo de Gonzalez, no entanto, não é que o ­YouTube não deva hospedar vídeos do EI (a Seção 230 permite isso), mas que seus algoritmos de “recomendação”, dotados de inteligência artificial e que podem sugerir outros vídeos, talvez mais radicais, o tornam responsável pelos danos resultantes desse consumo. Ou seja, embora o ­YouTube possa ter proteção legal para hospedar qualquer coisa que seus usuários publiquem, ele não tem – e não deveria ter – proteção para um algoritmo que determina o que eles devem ver em seguida.

Essa leitura é dinamite para as plataformas de rede social: os mecanismos de recomendação são a chave da sua prosperidade. São as ferramentas poderosas destinadas a aumentar o “engajamento” do usuário – mantendo as pessoas na plataforma para deixar os rastros digitais (visualização, compartilhamento, curtir, retuitar, comprar etc.) – que permitem às empresas refinar continuamente os perfis dos usuários para publicidade direcionada. E obter lucros inconcebíveis com isso.

Se a Suprema Corte decidisse que esses motores não gozam da proteção da Seção 230, as empresas de rede social passariam, de repente, a achar o mundo um lugar muito mais frio. E os analistas do mercado de ações poderiam estar modificando seus conselhos aos clientes de “manter” para “vender”.

Os juristas argumentam, há décadas, que a Seção 230 precisa ser revisada. Os fanáticos pela liberdade de expressão a veem como uma pedra angular da liberdade, como o “botão para matar” a web. Donald Trump criou ruídos ameaçadores sobre isso. Os críticos de tecnologia (como este colunista) a consideram um facilitador da hipocrisia e irresponsabilidade corporativas.

Independentemente de sua visão, o fato é que faz mais de um quarto de século que essa lei foi criada – e isso equivale a cerca de 350 anos no tempo da internet. Que tal estatuto regulamente o mundo contemporâneo em rede parece um pouco como ter um homem com uma bandeira vermelha andando na frente de um carro sem motorista.

Diferentes versões da questão colocada pelo processo de Gonzalez – se a Seção 230 isenta as plataformas de responsabilidade também quando fazem recomendações de conteúdo postado por outros usuários – foram apresentadas aos tribunais dos Estados Unidos nos últimos anos. Até o momento, cinco juízes de tribunais de apelação concluíram que a Seção fornece tal imunidade. Três juízes decidiram que não, enquanto um outro concluiu apenas que o precedente legal exclui a responsabilidade dos mecanismos de recomendação.

Em outras palavras, não há consenso legal. Já passou da hora de a Suprema Corte decidir o assunto. Afinal de contas, não é para isso que ela serve? •

Tradução de Luiz Roberto M. Gonçalves.

PUBLICADO NA EDIÇÃO Nº 1233 DE CARTACAPITAL, EM 9 DE NOVEMBRO DE 2022.

Este texto aparece na edição impressa de CartaCapital sob o título “Responsabilidade pelo algoritmo”