Deputada denuncia ‘racismo algorítmico’ após IA gerar imagem com arma em uma favela

A deputada estadual Renata Souza (PSOL-RJ) relatou nas redes sociais ter sido vítima de “racismo algorítmico” ao usar uma ferramenta de inteligência artificial.

“Ao criar uma arte inspirada nos pôsteres da Disney, me deparei com uma imagem gerada a partir de Inteligência Artificial que me retratava como uma mulher negra com uma arma na mão. A descrição pedida era de uma mulher negra, de cabelos afro, com roupas de estampa africana num cenário de favela. E essa foi a imagem gerada”, afirmou. “Não pode uma mulher negra, cria da favela, estar num espaço que não da violência?”

Renata Souza é presidenta da CPI do Reconhecimento Fotográfico, instalada em junho pela Assembleia Legislativa do Rio de Janeiro. A comissão apura casos de racismo no uso de reconhecimento facial por delegacias.

“Enquanto presidenta da CPI do Reconhecimento Fotográfico, observo o quanto pessoas negras podem ser vitimadas por mecanismos, como o reconhecimento facial, mesmo sendo inocentes.”

Racismo algorítmico!

Ao criar uma arte inspirada nos pôsteres da Disney, me deparei com uma imagem gerada a partir de Inteligência Artificial que me retratava como uma mulher negra com uma arma na mão. A descrição pedida era de uma mulher negra, de cabelos afro, com roupas de… pic.twitter.com/Eq84l9gBbU

— Renata Souza (@renatasouzario) October 26, 2023