Falhas de IA no marketing exigem protocolos rigorosos para gestão de crise

As falhas de IA no marketing já custam mais do que tempo. Custam reputação. O uso de inteligência artificial generativa para produção de conteúdo cresceu de forma acelerada nas empresas, mas trouxe junto um problema pouco discutido: as chamadas “alucinações“, quando o sistema simplesmente inventa dados, cita fontes inexistentes ou distorce informações que parecem, à primeira vista, críveis.

O relatório State of AI in 2024, da McKinsey, mostra que a mitigação desses riscos ainda é incipiente. A pesquisa aponta que, apesar de privacidade, segurança de dados e confiabilidade estarem entre as principais preocupações das organizações, a maioria delas controlou, até agora, apenas uma fração dos riscos mapeados.

Para Renan Caixeiro, CMO do Reportei, empresa de relatórios e dashboards de marketing, o problema tem origem técnica clara. “A tecnologia trabalha com probabilidades estatísticas, não com a compreensão dos fatos”, afirma. Por isso, dados gerados por IA precisam de validação humana antes de qualquer publicação.

Abaixo, os procedimentos que Caixeiro recomenda para conter os impactos negativos.

Verificação manual de dados estatísticos

Toda informação quantitativa produzida por IA deve passar por conferência humana antes de ir ao ar. Pedir para a própria ferramenta revisar o dado que ela mesma gerou não resolve, e pode até criar uma falsa confirmação.

“Se a IA cita um dado ou informação, tem que conferir a parte essencial. Como ela gera estatística, tem que ter conferência manual. Evite pedir para revisar quando é dado”, diz Caixeiro. Ele lembra que a responsabilidade editorial recai sobre a empresa, não sobre o desenvolvedor da ferramenta, o que torna a exposição jurídica um risco concreto.

Exigir a fonte original em cada consulta

Ao usar uma ferramenta de IA, o profissional deve configurá-la para que ela indique o link ou a referência de onde extraiu o dado. Mesmo assim, a checagem manual segue obrigatória.

“Tem que citar a fonte do dado que usou. A própria IA já está fazendo isso, mas ainda assim é necessário fazer a checagem da fonte de forma manual. Esse é o único método seguro para garantir que a informação citada existe de fato”, explica o CMO.

Protocolo imediato de retratação

Quando um erro é publicado e ganha repercussão, a velocidade de resposta define o tamanho do estrago. Corrigir o conteúdo silenciosamente, sem o devido esclarecimento ao público, costuma agravar a crise em vez de contê-la.

“É preciso retratar quando publicar errado e fazer uma correção ou editar algo anterior. Não basta fazer a retratação e fingir que nada aconteceu; tem que agir quando dá tempo, principalmente quando há repercussão”, orienta Caixeiro.

Transparência durante a apuração

Identificada uma inconsistência grave, a postura recomendada é comunicar que o caso está sob análise antes de emitir qualquer posicionamento definitivo. Isso evita que a empresa publique justificativas apressadas que precisem de novas correções.

“Em casos de erro que precisam ser melhor entendidos, a postura deve ser de que o caso será apurado melhor. Isso evita que a empresa publique justificativas rasas que precisem ser corrigidas novamente no futuro”, conclui o executivo.