AGU dá 5 dias para o Google remover das buscas sites que criam nudes falsos com IA

A Advocacia-Geral da União (AGU) solicitou ao Google que remova em até cinco dias dos resultados de busca da plataforma os sites que usam inteligência artificial (IA) e deepfake para produzir imagens sexualizadas falsas de pessoas reais.

A notificação extrajudicial à big tech foi enviada nesta quarta-feira 1º após solicitação da Secretaria de Comunicação Social da Presidência da República (Secom-PR), com base na pesquisa “Desindexação de sites de ‘nudify’ pelo Google: proteção de direitos humanos e prevenção de violência online contra mulheres, crianças e adolescentes”, publicada pela Fundação Getúlio Vargas do Rio de Janeiro (FGV-Rio).

Por meio da Procuradoria Nacional da União de Defesa da Democracia (PNDD), a AGU expõe o crescente uso de expressões como “nudify” e correlatas, desde meados de 2023, na ferramenta de buscas do Google no Brasil. A pesquisa da FGV-Rio alerta que as principais vítimas de “nudificação” sem consentimento são mulheres, crianças e adolescentes.

A PNDD requer a adoção de duas medidas pelo Google no prazo de cinco dias. A primeira é a desindexação dos sites de “nudificação”, a partir de listagem exemplificativa com mais de 40 links que estavam disponíveis no momento da notificação. A outra é a implementação de filtros algorítmicos para impedir indexação futura de sites similares.

A notificação reforçou que, conforme definido pelo Supremo Tribunal Federal, as plataformas podem ser responsabilizadas por conteúdos gerados por terceiros nos casos em que, tendo conhecimento dos atos ilícitos, não procedam à remoção imediata do material.

Além disso, a AGU alertou que as empresas têm dever de cuidado sobre esses conteúdos. Ou seja, independentemente de notificação, devem buscar impedir a circulação de material que configure crimes graves, como é o caso dos nudes criados por IA sem autorização.