Robôs não choram

Recentemente, no Centro de Formação do Sesc, em São Paulo, o jornalista ­Vladimir Herzog (1937–1975), morto pela ditadura há 50 anos, respondeu, com a própria voz, a perguntas de jornalistas.

Vladimir Herzog, IA e Memória, evento conduzido por Paulo Markun, tomou por base um chatbot alimentado com a voz de Vlado – copiada de áudios guardados na TV Cultura e na BBC de Londres – e com uma base de dados formada por livros, entrevistas e cartas que compõem um panorama da vida do jornalista.

O uso das ferramentas de Inteligência Artificial (IA) para dar gestos e voz a artistas, escritores e personalidades do passado tornou-se corriqueiro. ­Clarice Lispector (1920–1977), que tinha um ar circunspecto, ressurge com um leve sorriso. Elis Regina (1945–1982), em 2023, cantou Como Nossos Pais ao lado da filha, Maria Rita, em um comercial da Volkswagen que deu o que falar.

A recriação dos mortos é apenas uma das muitas faces de um debate que paira sobre as indústrias culturais: qual o impacto da IA na criatividade humana e quais os seus limites?

“A IA não é nem inteligente nem artificial”, disse a professora de Comunicação, Ciência e Tecnologia da Universidade do Sul da Califórnia Kate Crawford, ao lançar o Atlas da IA (Edições Sesc). O livro mapeia os impactos ambientais, econômicos e sociais da IA, apontando para os riscos nela embutidos. Mas Kate, além disso, procura entender os limites da ferramenta – e um deles reside na criatividade.

Embora seja capaz de gerar textos, imagens, músicas e outras formas de conteúdo, a IA, defende a autora, não possui criatividade genuína. Por quê? Porque ela funciona a partir de grandes conjuntos de dados. Um robô não compreende o mundo e não tem experiências subjetivas. O que ele faz é replicar padrões e estilos, sem criar algo verdadeiramente novo ou original.

“A criatividade humana envolve contexto, intenção, experiência e subjetividade, elementos que não podem ser plenamente reproduzidos por máquinas nem em ambientes controlados”, afirma Kate.

A busca da máquina pelo “sentimento” é, não por acaso, o mote de Dalloway, um dos títulos da seleção da última Mostra Internacional de Cinema de São Paulo a tematizar a IA. O filme francês, que competiu pela Palma de Ouro no Festival de Cannes, reproduz uma residência artística na qual cada criador tem um assistente virtual privado.

Uma máquina apenas replica padrões e estilos. Ela não cria algo novo ou genuíno

Dalloway – célebre personagem de Virginia Woolf – é o nome da IA de uma escritora que, após um trauma pessoal, sofre para fazer um novo livro. A questão filosófica subjacente ao roteiro é: quanto da nossa “alma” um chatbot pode apreender – ou roubar?

Outro paradoxo presente no filme é o da dependência não só prática, mas emocional, que nós, humanos, podemos desenvolver diante de uma máquina que nos imita.

O filme Memórias da Princesa Mumbi­, também exibido na Mostra, toca justamente nessa questão. A trama se passa em 2093, em uma África sob guerra, onde a tecnologia desapareceu.

O protagonista é um cineasta que, ao chegar a uma aldeia para documentar a guerra, conhece Mumbi, jovem que o desafia a fazer um filme sem o uso de IA. Memórias da Princesa Mumbi, ao mesmo tempo que brinca com a submissão à IA, a utiliza, num exercício metalinguístico, para a construção de cenários grandiosos.

“Ao fim e ao cabo, nos vemos tentando entender, do ponto de vista filosófico, de que forma a produção artística pode utilizar a IA como recurso e, do ponto de vista prático, como vamos, ou não, ser substituí­dos por uma Inteligência Artificial”, disse, num debate em torno desses filmes, no Fórum da Mostra, o roteirista Raul Perez.

Usos da memória. Vladimir Herzog e Elis Regina têm as vozes recriadas após a morte. A Warner, por sua vez, negocia seu catálogo com a Suno, uma start up de IA – Imagem: Volkswagen do Brasil, Acervo Instituto Vladimir Herzog e iStockphoto

Duas décadas atrás, o cantor inglês ­David Bowie advertiu, em uma entrevista ao The New York Times, que os artistas deviam se preparar para um mundo no qual a música seria um serviço como energia ou água, desprovido de autoria. Com as músicas sendo geradas por computador, dizia ele, os músicos contariam apenas com as apresentações ao vivo para sobreviver.

De fato, a IA vem sendo usada na produção musical há pelo menos dez anos. E, mais recentemente, com o deepfake – que permite a reprodução da voz humana –, a prática se sofisticou. Leonardo De ­Marchi, coordenador do programa de pós-graduação de Comunicação e Cultura da Universidade Federal do Rio de Janeiro, observa, porém, que o cenário é um pouco diferente do imaginado por Bowie.

“Naquele momento, as grandes gravadoras se viam ameaçadas pela troca de arquivos entre produtor e consumidor. Hoje, as empresas de tecnologia é que estão por trás dessa transformação”, diz o pesquisador. Atualmente, as gravadoras têm vendido seus catálogos para startups de IA que, a partir dessa memória, ensinam a máquina a criar novas músicas.

“Temos uma memória musical impressionante que tem sido utilizada por uma IA que aprende a procurar padrões nas composições, sem precisar de conhecimento musical”, prossegue De Marchi. Como resultado, há, segundo ele, uma redução do senso de inovação e criatividade estética: “Como um artista vai fazer para sua música circular o suficiente para ganhar dinheiro nesse novo sistema? E qual a vantagem de se inovar?”

No dia 25 de novembro, estes novos tempos se materializaram no acordo fechado entre o Warner Music Group e a startup Suno. Em 2023, a Warner processou a Suno por uso ilegal de músicas para o treinamento de máquinas. Agora, fornecerá seu catálogo mediante pagamento de direitos autorais. Embora não esteja claro como se dará a negociação, o acordo estabelece uma nova referência para o mercado de música.

No caso do cinema, o British Film ­Institute (BFI), do Reino Unido, publicou este ano um relatório no qual conclui que a IA é uma ameaça direta aos fundamentos e à saúde econômica da indústria audiovisual. O estudo estima que 130 mil roteiros já tenham sido usados para o treinamento de chatbots, sem que os detentores de direitos autorais tenham tido qualquer tipo de compensação.

Os direitos, base da remuneração artística ao longo de todo o século XX, são um ponto sensível do debate. Mas há outros pontos em disputa, e um deles é: que tipo de conteúdo cultural é criado pela IA e a que ele serve? Se, como diz Kate ­Crawford, “a IA é um registro de poder que vai replicar os padrões dominantes”, suas criações também o são.

Um bom exemplo do quanto a IA tem um viés foi a utilização da ferramenta, no Brasil, para a identificação do assassino de Odete Roittman, na novela Vale Tudo. Após ser alimentado com os capítulos da novela, o ChatGPT apontou, como possível assassina, a produtora de conteúdo Solange Duprat.

O fim da autoria e da remuneração é uma das ameaças a pairar sobre o trabalho criativo

Solange, uma ex-blackbloc, foi presa nas passeatas de junho de 2013, mas não tinha motivação alguma para cometer o crime. Será que a IA não levou mais em conta o posicionamento político da personagem do que a própria trama?

A cineasta Laís Bodankzy, no Fórum Mostra, contou que, quando começou a tatear a IA, fez um teste: descreveu uma cena e solicitou ao ChatGPT variações dela. “Eu ria muito, porque vinha de tudo”, disse. “Agora, uma coisa interessante é que todas as cenas terminavam com final feliz. Tudo no final dava certo. Então, por mais que esse olhar da tecnologia pareça neutro, ele não é.”

Laís ponderou que o cinema é muito mais que o roteiro, e que, sim, a indústria usa e seguirá usando a IA como uma ferramenta capaz de aumentar a eficiência em diferentes etapas do processo – ao mesmo tempo que, ao fazer isso, deixa de ser uma indústria limpa, no sentido ecológico. E isso se estende a outras áreas do setor criativo.

No mercado editorial, por exemplo, atividades que não a escrita propriamente dita, como revisão e tradução, têm na IA uma aliada importante no ganho de eficácia e na redução de custos. Não só. Ela acaba por gerar também novos produtos.

A OcaBooks criou uma plataforma voltada a pessoas comuns que desejam transformar memórias, histórias de vida e experiências pessoais ou profissionais em livros digitais ou impressos. “É um espaço de democratização. As pessoas podem criar um livro sozinhas, do princípio ao fim”, diz Julius Wiedemann, criador da empresa.

Ao entrar na plataforma, o cliente responde a algumas perguntas básicas sobre sua vida. A partir daí, o prompt ordena os capítulos e passa a fazer novas perguntas, que levam o autor a ir aprofundando a história. “O que a nossa ferramenta faz é organizar a narrativa e transformar o texto coloquial em uma linguagem mais estruturada”, define o editor.

Embora todo o processo, desde as perguntas iniciais até a revisão e a pesquisa, seja feito por IA, a autoria, na visão de Wiedemann, ainda existe: “O livro é o resgate da memória dessas pessoas”.

Não deixa de ser curioso pensar o quanto, em cada movimento de troca com chabots, roteiristas, editores e compositores podem ensinar à IA aquilo que a assistente virtual de Dalloway buscava: o aprendizado do sentir.

“O chatbot pode saber a temperatura, ele pode até falar que está 20 graus, com sensação térmica de 10, mas ele não está sentindo frio. Ele não sente fome. A chuva não está na cabeça dele”, reflete Laís ­Bodanzky. “Nesse sentido, fico tranquila: a gente não vai perder o nosso emprego porque a gente vai continuar tendo dor de barriga, levando pé na bunda, perdendo o avô, e vai transformar isso em arte. Vou me preocupar se um dia a máquina chorar.”

Figura pioneira do Vale do Silício, ­Jaron Lanier, que é cientista e não artista, olha em outra direção. “É possível que a própria noção de conteúdo desapareça, sendo substituída por algo que tenha como função impactar quem está recebendo aquilo”, afirmou ele, recentemente, em entrevista à revista The New Yorker.

Lanier aposta que, um dia, música, filmes e livros serão originados em um único centro de IA e que a noção de autoria desaparecerá. E quem, de fato, influenciará a audiência a ver uma coisa ou outra serão os proprietários dessas empresas.

Enquanto Lanier vislumbra esse futuro robotizado, muitos roteiristas, cineastas, músicos e escritores de carne e osso seguem a usar a criatividade – com ou sem a ajuda de IA – para tentar captar e valorizar aquilo que, do humano, a máquina não pode apreender. •

Publicado na edição n° 1391 de CartaCapital, em 10 de dezembro de 2025.

Este texto aparece na edição impressa de CartaCapital sob o título ‘Robôs não choram’