O ChatGPT já está alterando a internet — e você nem percebeu

Inteligências artificiais gerativas prometem uma revolução. Embora possa soar como algo distante, quase no campo da ficção científica, em alguma medida a revolução já está acontecendo.

A startup NewsGuard identificou 49 sites de notícias que usam IAs como o ChatGPT para gerar todo ou quase todo seu conteúdo, boa parte dele com imprecisões ou mentiras. Existem sites em português na amostragem.

A motivação por trás desses sites é dinheiro. A estratégia não é nova; consiste em produzir um alto volume de conteúdo a fim de gerar tráfego e exibir anúncios a leitores desavisados.

A diferença está na escala. Antes, eram humanos mal pagos que produziam o conteúdo. Agora, são IAs capazes de produzir mais, melhor e sem parar.

Mesmo sites legítimos não estão imunes à invasão das máquinas. No início do ano, o Cnet, site norte-americano de tecnologia, foi flagrado publicando textos sobre finanças, gerados por IA, com erros crassos de apuração e matemática básica.

Junto às matérias com erros, o Cnet veiculava anúncios de empresas de crédito, que pagam até US$ 900 por cliente convertido.

Em outra frente, o Spotify, maior streaming musical do mundo, removeu milhares de canções geradas artificialmente com o intuito de gerar receita com reproduções fantasmas.

O Spotify paga de acordo com o número de reproduções das suas músicas.

Na Índia, já existem robôs religiosos usados por milhões de pessoas. Feitos em cima de tecnologias como o ChatGPT, eles são treinados com escrituras hindus e se apresentam como se fossem os próprios deuses interagindo com o usuário. Não é preciso pensar muito para imaginar potenciais maus usos para essa tecnologia.

Em depoimento ao Congresso dos Estados Unidos nesta terça 16, Sam Altman, CEO da OpenAI, empresa dona do ChatGPT, clamou por regulação e propôs um acordo internacional para evitar catástrofes causadas pela inteligência artificial.

Executivos de empresas e alguns especialistas gostam de aludir à possibilidade remota de que a IA adquira consciência e cause catástrofes. Os problemas mais mundanos e imediatos, mas não menos preocupantes, seguem ignorados.

Já no Brasil no dia seguinte 17, Altman foi questionado por Caetano Veloso a respeito da remuneração de artistas que têm suas obras usadas no treinamento de IAs. Altman concordou com o cantor e compositor, mas não especificou como seria esse modelo de remuneração.

A preocupação esteve ausente também no desenvolvimento das várias tecnologias do tipo da OpenAI, como o DALL-E (gerador de imagens) e o próprio ChatGPT. Não é por acaso.

A postura magnânima, do guru da tecnologia que alerta a humanidade do desfecho inevitável de algo discricionário e sob o seu poder, é parte da cartilha batida do Vale do Silício. Com essa jogada, ele se livra do escrutínio de reguladores e da sociedade ao mesmo tempo em que posiciona sua empresa como — quase literalmente — a salvação da humanidade.

De volta ao mundo real, porém, a tendência é nos afogarmos cada vez mais em conteúdo gerado por IA.

Não é descabido imaginar que a maior parte dessas aplicações será benigna, ainda que corramos o risco de deteriorarmos ainda mais a comunicação interpessoal — temo o dia em que a maioria das mensagens de WhatsApp e e-mails que eu ler serão geradas pelo ChatGPT e similares.

O risco transparece em cenários mais delicados, em que um mal-entendido possa ter consequências graves. Já vimos o estrago que notícias falsas criadas por seres humanos podem causar. O que acontecerá quando essa produção for expandida pela IA?

Outro cenário que soa distópico, mas é bastante plausível, é o de acabarmos com uma internet dominada por máquinas, na produção e no consumo de conteúdo. O risco de virarmos coadjuvantes na grande praça de debate global.

Relatório da consultoria Imperva constatou que, em 2022, 47,4% de todo o tráfego da internet foi gerado por robôs.