Mundo
Procurador da Califórnia abre investigação contra Grok por caso de imagens de caráter sexual
A ferramenta de inteligência artificial é de uma empresa do bilionário Elon Musk
O procurador-geral da Califórnia anunciou nesta quarta-feira 14 o início de uma investigação contra a empresa xAI, de Elon Musk, devido à proliferação de imagens de caráter sexual de mulheres e menores de idade produzidas com sua ferramenta de inteligência artificial Grok.
A investigação se soma às várias abertas contra a X em diferentes países após a disseminação de imagens pornográficas falsas criadas com o Grok.
“A xAI parece facilitar a produção em larga escala de montagens íntimas não consentidas (deepfakes), utilizadas para assediar mulheres e meninas na internet, principalmente por meio da rede social X”, indica o procurador Rob Bonta em um comunicado.
Em consequência, seu gabinete iniciará uma “investigação sobre a xAI para determinar se, e como, a xAI violou a lei”, acrescentou.
“Exorto a xAI a tomar medidas imediatas para que isso não volte a acontecer”, afirmou o procurador. “Temos tolerância zero para a criação e disseminação, com IA, de imagens íntimas não consentidas ou de material pedopornográfico”, disse Bonta.
Um movimento internacional de indignação se intensificou nas últimas semanas contra o Grok e a possibilidade que oferece de modificar imagens, em particular as publicadas na rede X, também de propriedade de Musk.
Alguns usuários aproveitaram essa função para publicar ou responder a mensagens que continham fotografias de mulheres, junto com a instrução “coloque-a de biquíni”, a fim de gerar uma imagem falsa hiper-realista (deepfake).
Desde 9 de janeiro, a função para criar imagens foi desativada para os usuários que não pagam a X, que afirma que tomará medidas para suprimir esses conteúdos ilegais e suspender as contas envolvidas.
Na semana passada, uma análise de mais de 20 mil imagens geradas pelo Grok, realizada pela organização sem fins lucrativos AI Forensics, com sede em Paris, concluiu que mais da metade mostrava “indivíduos com vestimenta mínima”, a maioria mulheres, e que 2% aparentavam ser menores de 18 anos.
AFP
Agência de notícias francesa, uma das maiores do mundo. Fundada em 1835, como Agência Havas.
Apoie o jornalismo que chama as coisas pelo nome
Muita gente esqueceu o que escreveu, disse ou defendeu. Nós não. O compromisso de CartaCapital com os princípios do bom jornalismo permanece o mesmo.
O combate à desigualdade nos importa. A denúncia das injustiças importa. Importa uma democracia digna do nome. Importa o apego à verdade factual e a honestidade.
Estamos aqui, há mais de 30 anos, porque nos importamos. Como nossos fiéis leitores, CartaCapital segue atenta.
Se o bom jornalismo também importa para você, nos ajude a seguir lutando. Assine a edição semanal de CartaCapital ou contribua com o quanto puder.
Leia também
Primeira-ministra do Japão planeja dissolver Parlamento e convocar eleições
Por AFP
FBI revista a casa de jornalista do ‘Washington Post’
Por AFP
Trump suspende a emissão de vistos de imigrantes para cidadãos do Brasil e de mais 74 países
Por CartaCapital