Mundo
Consultoria admite uso de IA em relatório e devolve U$ 440 mil ao governo da Austrália
A polêmica ganhou força depois que um pesquisador da Universidade de Sydney apontou publicamente as ‘alucinações’
Considerada uma das maiores consultorias globais de tecnologia, a Deloitte terá que devolver 440 mil dólares ao governo da Austrália após admitir ter utilizado Inteligência Artificial em um relatório entregue com diversos erros.
A denúncia veio à tona depois que um senador trabalhista acusou a empresa de sofrer de um “sério problema de inteligência humana”. A informação foi posteriormente confirmada pelo Departamento de Emprego e Relações de Trabalho da Austrália, que informou que o contrato entre o governo e a consultoria será tornado público após a devolução do valor acordado.
A Deloitte havia sido contratada para revisar a estrutura interna dos sistemas de compliance e tecnologia da informação, utilizados para automatizar penalidades aplicadas pela Assistência Social em casos de descumprimento de obrigações por parte de trabalhadores.
O relatório, entregue em 4 de julho, continha uma série de erros e informações não rastreáveis. Em agosto, o documento foi revisado, mas a polêmica só ganhou força depois que um pesquisador da Universidade de Sydney apontou publicamente as incoerências, classificando-as como chamadas “alucinações” de sistemas de IA, usadas para preencher lacunas de informação.
“Em vez de substituir as alucinações inventadas por uma referência real, eles acrescentaram novas informações falsas no lugar das apontadas anteriormente”, afirmou o pesquisador Christopher Rudge ao jornal The Guardian. “O que isso sugere é que as afirmações feitas no relatório não foram baseadas em nenhuma fonte probatória real.”
Na versão atualizada, a Deloitte incluiu uma menção ao uso de inteligência artificial gerativa no apêndice que lista as ferramentas empregadas na produção, reconhecendo que parte do conteúdo foi gerada pela plataforma Azure OpenAI.
Questionada sobre o episódio, a consultoria não confirmou se o uso da IA foi o responsável pelos erros originais. Em nota, limitou-se a afirmar que “o assunto foi resolvido diretamente com o contratante”.
CartaCapital
Há 31 anos, a maior referência progressista em jornalismo no Brasil.
Apoie o jornalismo que chama as coisas pelo nome
Muita gente esqueceu o que escreveu, disse ou defendeu. Nós não. O compromisso de CartaCapital com os princípios do bom jornalismo permanece o mesmo.
O combate à desigualdade nos importa. A denúncia das injustiças importa. Importa uma democracia digna do nome. Importa o apego à verdade factual e a honestidade.
Estamos aqui, há 30 anos, porque nos importamos. Como nossos fiéis leitores, CartaCapital segue atenta.
Se o bom jornalismo também importa para você, nos ajude a seguir lutando. Assine a edição semanal de CartaCapital ou contribua com o quanto puder.