IA generativa pode virar ‘monstro de Frankenstein’ e ameaçar direitos humanos, alerta ONU

A ONU alertou nesta segunda-feira 24 que a inteligência artificial generativa pode se tornar “um monstro moderno de Frankenstein”, tendo os direitos humanos como primeira vítima, enquanto grandes empresas de tecnologia detêm o controle dessa inovação ao redor do mundo.

O chefe de direitos humanos da ONU, Volker Turk, afirmou que a IA generativa possui “enorme potencial”, mas disse no fórum de negócios e direitos humanos da organização que sua “exploração para benefício puramente político ou econômico pode manipular, distorcer e distrair”.

“Quando poderosas gigantes da tecnologia introduzem novas tecnologias, como a inteligência artificial generativa, os direitos humanos podem ser a primeira vítima”, declarou.

“As ameaças a vários direitos humanos, incluindo privacidade, participação política, liberdade de expressão e trabalho, são claras e presentes”, acrescentou.

“Sem salvaguardas e regulamentações adequadas, os sistemas de IA têm o potencial de se transformar em um monstro moderno de Frankenstein”, disse ainda.

Consequências imprevisíveis

O Alto Comissário das Nações Unidas para os Direitos Humanos advertiu que as ameaças atuais “podem se materializar em danos que minam a promessa das tecnologias emergentes e podem desencadear consequências imprevisíveis”.

“Os governos têm a responsabilidade de se unir para evitar tal desfecho.”

Além da IA generativa, Turk destacou a ameaça representada pela crescente concentração de poder corporativo e pela enorme “acumulação de riqueza pessoal e empresarial entre um pequeno número de atores”.

“Em alguns casos, isso supera as economias de países inteiros”, afirmou, ressaltando que quando “o poder não é limitado pela lei, pode levar ao abuso e à dominação”.