A polícia dos dados: o apagamento da autoria humana na era da IA

Na sequência inicial do filme Fahrenheit 451 (1966), de François Truffaut, um carro do corpo de bombeiros é acionado e rapidamente toma as ruas. A câmera volta para um apartamento onde um homem, comendo uma maçã, recebe um telefonema falando para ele fugir. Ouvimos os sons da sirene do carro dos bombeiros enquanto ele veste um terno e sai às pressas. Após isso, os bombeiros invadem sua casa e começam a procurar por livros escondidos no imóvel. Vários são apreendidos e levados para uma mesa do lado de fora. Um membro do agrupamento pega um lança-chamas e queima tudo.

Essa cena me veio à mente assistindo a reportagens recentes sobre a apropriação em massa de livros para treinamento de Inteligências Artificiais. O curioso é que tanto no filme — uma adaptação da obra de Ray Bradbury — quanto na vida real, as consequências miradas são as mesmas: o controle da informação nas mãos de poucos e a manutenção de uma felicidade superficial.

Leia também:

• • Música Sem Tela: como a era do streaming matou os grandes hits de cinema
  • Urso no Fogo Cruzado: o cancelamento de Masha e o impossível silêncio das marcas
  • Vida fora das telas: como a Disney está transformando digital em físico

Fazer esquecer para dominar

O ponto central em Fahrenheit 451 é a busca pela limitação de pontos de vista que geravam discussões na sociedade. Desta forma, destrói-se o objeto físico para impedir o acesso ao conhecimento e ao pensamento crítico.

Outro livro vai ainda mais além. A Polícia da Memória, da japonesa Yoko Ogawa, segue na mesma linha de controle absoluto pelo governo, mas, ao invés de destruir apenas o objeto, retrata um desaparecimento de forma quase metafísica. Primeiro, as coisas somem da mente das pessoas (como pássaros, rosas ou calendários) e, depois, os objetos físicos são descartados porque perderam o significado. A Polícia da Memória apenas garante que ninguém tente reter o que já foi esquecido.

A consequência é cruel: faz com que as pessoas percam a capacidade de expressar sentimentos complexos, tornando-se dóceis e incapazes de planejar uma rebelião.

A destruição pelas big techs

É nesse ponto de intersecção entre o fogo de Bradbury e o esquecimento de Ogawa que o avanço das empresas de Inteligência Artificial se posiciona como a distopia materializada do nosso século.

As big techs não precisam de querosene para purgar as páginas, nem dependem de um feitiço de amnésia coletiva. A “queima” atual opera por meio de uma inversão perversa: as máquinas devoram a literatura humana para simular nossa humanidade, enquanto nós somos empurrados de volta para o silêncio e a passividade.

Ao realizarem o web scraping (varredura) ilegal de milhares de obras literárias, ou mesmo compra de livros em massa para uso sem autorização legal de seus autores, para alimentar seus modelos de linguagem, essas empresas promovem uma dupla destruição. A primeira é funcional, ecoando Fahrenheit 451. Quando um chatbot entrega um resumo mastigado de uma obra complexa em segundos, ele aniquila a necessidade da leitura lenta. O leitor contemporâneo, anestesiado pela busca da conveniência e da “felicidade superficial” do imediatismo, abdica do esforço do pensamento crítico. O livro original não vira cinzas, mas vira um fantasma obsoleto.

O fim do pensar literário

A segunda destruição é identitária, aproximando-nos da ilha de Yoko Ogawa. No treinamento das IAs, o estilo único de um autor, suas nuances psicológicas e suas memórias afetivas são triturados e diluídos em um mar de dados estatísticos. O texto literário perde o seu significado intrínseco e passa a ser visto pelas corporações apenas como input (insumo) para gerar lucro. À medida que o mercado é inundado por textos gerados por algoritmos — que repetem padrões e eliminam o contraditório —, nossa linguagem vai encolhendo. Corremos o risco de, gradativamente, esquecer como expressar sentimentos complexos que fujam do padrão algorítmico.

Isso também remete a uma reportagem recente da emissora alemã Deutsche Welle. Mohammed, dono de uma livraria destruída em um ataque israelense na Faixa de Gaza, passa os dias a resgatar livros em meio aos destroços. O livreiro não pede muito, apenas pretende “mudar a forma de pensar das pessoas e acabar com a guerra que existe em suas mentes. Quero que as pessoas leiam e compreendam a vida”. Isso, a IA e as big techs não querem.

Pra fechar!

Portanto, o bombeiro moderno não veste farda, mas opera linhas de código de dentro de escritórios no Vale do Silício.

A provocação para esta semana é: se nas ficções o Estado usava a força para desumanizar o cidadão através do apagamento cultural, por que hoje nós entregamos nossa memória e nossa literatura voluntariamente em troca de respostas prontas? Resistir a essa nova mecânica do esquecimento exige mais do que esconder livros sob as tábuas do assoalho. Exige defendermos a autoria, a complexidade e o direito humano de pensar sem intermediários sintéticos.