A quem serve?

Em 8 de setembro de 2020, o jornal britânico The Guardian, um dos mais influentes do mundo, rompeu os paradigmas da produção jornalística e publicou um artigo escrito por uma Inteligência Artificial, a versão GPT–3 da OpenAI. A partir de um comando elaborado pelos editores do diário, escreveu o texto: “Um robô escreveu este artigo completo. Você ainda está amedrontado, humano?”

A solicitação feita ao GPT era para que fosse escrito um artigo que convencesse as pessoas de que as Inteligências Artificiais “vinham em paz”, ou seja, não ofereciam riscos à humanidade. Recupero esse acontecimento para refletir sobre o que é o objeto desta edição especial de ­CartaCapital: os desafios da humanidade. Recordo que, ao terminar a leitura do artigo, minha reação inicial foi oposta: estamos diante de uma tecnologia pervasiva, disruptiva e que pode, sim, trazer muitos benefícios, mas também muitos riscos. Por isso, precisamos parar para estabelecer parâmetros para o desenvolvimento e uso da IA.

Não se trata de temer a tecnologia, de adotar uma postura neoludista, negar seu uso ou impedir seu desenvolvimento. Mas ter clareza sobre o que queremos da Inteligência Artificial, ter uma visão crítica sobre seu uso e impactos, em vez de naturalizar sua presença como algo inevitável e em torno do qual não há nada a fazer.

Não existe neutralidade na tecnologia. Ela reproduz e está a serviço do projeto de sociedade de quem a domina

Lembro, também, de uma frase destacada da leitura do livro a Inteligência Coletiva, de Pierre Lévy. Tratando do advento da internet, ele afirma que “a forma e o conteúdo do ciberespaço ainda são especialmente indeterminados” e reconhecia que suas potencialidades positivas dependiam de “decisões técnicas, a adoção de normas e regulamentos”. Acredito que esta frase se adapta perfeitamente ao que vivemos hoje com relação à IA.

As tecnologias desenvolvidas ao longo da história da humanidade tiveram muitos objetivos distintos, mas um traço comum é exatamente o de auxiliar na execução de tarefas, produzir mais eficácia, aumentar a produtividade e reduzir os riscos em torno de atividades perigosas.

Contudo, nos marcos do capitalismo, o desenvolvimento científico e tecnológico tem outro sentido além do descrito acima. O intuito da introdução de novas técnicas passa a ser reduzir o tempo de produção, circulação e distribuição de mercadorias, para aumentar a mais-valia do capitalista e acelerar o ciclo de reprodução e acumulação do capital.

A questão central é que essa incorporação não vem acompanhada de políticas para proteção do emprego, para qualificação e requalificação dos trabalhadores e trabalhadoras, para que as pessoas extraiam os benefícios dessa tecnologia e não fiquem subsumidas por elas. A redução do tempo de produção, circulação e distribuição tampouco tem contribuído para o avanço de direitos trabalhistas, como a redução da jornada de trabalho, medida que poderia ampliar a massa de pessoas economicamente ativas e melhorar a qualidade de vida de todos.

Ao contrário, o avanço tecnológico, e particularmente a IA, tem aumentado o tempo de trabalho e a sua precarização. Daí a importância de campanhas como aquela que pede a proibição da jornada 6×1, com seis dias de trabalho e apenas um de descanso. Não podemos cristalizar a máxima de que vivemos para trabalhar. Devemos usar a tecnologia para termos mais tempo livre e usar o trabalho para vivermos melhor e mais dignamente.

“Viemos em paz”, anunciou o GPT–3, da OpenAI, em artigo publicado no jornal The Guardian há quatro anos – Imagem: Redes sociais

Infelizmente, a realidade é outra. Uma nova legião de trabalhadores, numa situação de subemprego, cresce invisivelmente no planeta. São os microtrabalhadores, que alimentam os sistemas de Inteligência Artifical gerando dados, fazendo a transcrição, correção e categorização de conteúdos que fornecem informações para os algoritmos identificarem preferências, modelos ou até mesmo tipos de discurso. Diferentemente do senso comum, há muito trabalho humano por detrás do desenvolvimento da IA.

Precisamos analisar as tecnologias a partir dos condicionantes políticos, econômicos, sociais e culturais em que elas são desenvolvidas. O que nos coloca diante da reflexão sobre a neutralidade ou não das tecnologias. Esse é um ponto nevrálgico para a produção de uma análise do estágio de desenvolvimento do capitalismo contemporâneo e para a construção das escolhas que a sociedade vai adotar em termos de regras e políticas para o uso, desenvolvimento e implementação da Inteligência Artificial.

Isso porque a construção retórica das empresas do Vale do Silício – nunca é tarde para registrar que o desenvolvimento da Inteligência Artificial hoje é concentrado nas big techs – baseia-se na narrativa de que estamos diante de tecnologias neutras, objetivas, que são desenvolvidas com a missão de melhorar a vida das pessoas. Um admirável mundo novo de facilidades.

O País precisa investir para não ficar dependente da tecnologia produzida por empresas estrangeiras, que têm seus próprios interesses – Imagem: Redes Sociais/Tesla

Mas não há neutralidade na tecnologia. Ela reproduz e está a serviço do projeto de sociedade de quem a domina. Por isso é preciso pensar sobre os limites da urgente e necessária agenda regulatória.

A regulação e outras medidas de governança contribuem para conter impactos negativos, devido à baixa explicabilidade dos sistemas, fruto tanto da falta de transparência sobre os parâmetros do seu desenvolvimento quanto da falta de auditabilidade dos bancos de dados usados para treinamento. Precisamos dizer que não queremos o uso de reconhecimento facial para fins de segurança em locais públicos, porque isso não é solução para a violência e potencialmente gera mais discriminação e desigualdade. Também temos de ser firmes e dizer que não queremos o uso de IA em armas autônomas.

É fundamental estabelecer uma regulamentação robusta baseada no tripé proteção de direitos, mitigação de riscos e incentivo à inovação responsável. Essa agenda regulatória precisa enfatizar a ética, a transparência, a ­responsabilidade dos agentes distribuídos na cadeia produtiva da IA e a equidade. Também buscar prevenir os impactos negativos da IA a partir da definição de parâmetros éticos, de privacidade e segurança que devem ser observados desde a concepção desses sistemas e em todo o seu ciclo de vida. Esse é o debate que se desenvolve em torno do PL 2338/23 que, no momento em que escrevo este artigo, está em processo de deliberação no Senado Federal.

Este marco regulatório deve ser supervisionado por um órgão multidisciplinar e multissetorial – incluindo especialistas em tecnologia, ética, direito e representantes da sociedade civil – orientado a assegurar a maior participação dos diferentes grupos sociais, com o objetivo de avaliar o impacto social e ético do uso dessa tecnologia, além de emitir diretrizes claras de governança.

A incorporação de tecnologias deveria levar à redução das jornadas e ao avanço dos direitos. Em vez disso, a precarização do trabalho impera

Além da regulação, a sociedade precisa ir mais fundo e se questionar sobre para quê e em quais situações devemos usar a IA, rompendo com essa naturalização acrítica da incorporação cotidiana dessa tecnologia, que além de tudo está consumindo de forma acelerada recursos naturais escassos, como água e energia para responder à ânsia do uso até banal da IA. Uma posição um tanto desconfortável, principalmente porque contraria o senso comum.

Nesse sentido, é fundamental refletirmos sobre a forma como essa tecnologia já está sendo utilizada para a substituição de “tarefas” nas esferas criativas. Qual o sentido cultural, político, social e estético de delegarmos à IA a produção de livros, filmes, música? Vamos seguir na ideia de escanear o corpo de estrelas de Hollywood para que os filmes sejam produzidos por IA e interpretados por IA? Vamos substituir escritores, jornalistas, professores e músicos por IA? Vamos pedir ao prompt para escrever um conto de terror usando o estilo de Edgar Alan Poe, ou uma literatura de cordel por IA? Vamos nos deliciar com novas músicas dos Beatles feitas por IA? Ou, quem sabe, admirar um novo quadro de ­Vincent Van Gogh criado artificialmente?

No início de dezembro, o Senado aprovou o marco regulatório da IA no Brasil – Imagem: Andressa Anholete/Agência Senado

Todo o exposto até aqui reforça um dos principais desafios do nosso tempo: temos de colocar como centro do nosso debate sobre IA a busca de soberania tecnológica. Precisamos mobilizar os esforços econômicos e políticos, no setor público e privado, para alavancar nossa capacidade de pesquisa e inovação para que o Brasil se posicione no mundo como um país produtor dessa nova tecnologia, não apenas como consumidor.

Neste sentido, é preciso saudar a divulgação do Plano Brasileiro de Inteligência Artificial, que ousa ao prever o investimento de 23 bilhões de reais nos próximos cinco anos no desenvolvimento de infraestrutura, de aplicações e programas de formação e capacitação, voltados ao desenvolvimento e uso da Inteligência Artificial focados nos desafios nacionais, regionais e locais, visando a redução das desigualdades, para enfrentar os problemas concretos do povo, soluções e serviços que sejam socialmente relevantes. Desenvolver uma IA a partir da nossa diversidade linguística, cultural e geográfica. Por isso, a soberania de dados é central para o desenvolvimento, implementação e uso de IA, se almejamos qualquer ambição de autodeterminação nessa área.

O acelerado desenvolvimento tecnológico está provocando uma transformação profunda na nossa sociedade. Estamos diante de dilemas filosóficos envolvendo a natureza dessa Inteligência e do próprio ser humano. Somos provocados a refletir sobre os riscos dessa tecnologia e os limites que precisam ser estabelecidos para que possamos extrair dela seus benefícios. Precisamos estar atentos a todas essas discussões. •

Publicado na edição n° 1343 de CartaCapital, em 31 de dezembro de 2024.

Este texto aparece na edição impressa de CartaCapital sob o título ‘A quem serve?’