Dona do Claude anuncia que seu modelo de IA terá ‘marca escondida’ para identificar conteúdo gerado artificialmente

A Anthropic, empresa responsável pelo modelo de inteligência artificial Claude, anunciou nesta terça-feira 11, que seu chatbot contará com marca invisível nos textos processados pela inteligência artificial da marca, na tentativa de facilitar a identificação de conteúdo gerado artificialmente. A decisão responde às exigências do ‘AI Act’, código de transparência imposto pela União Europeia para diminuir a presença de material de baixa qualidade criado artificialmente — chamado popularmente ‘AI slop’.

Alternativas do tipo já estiveram presentes em outros modelos disponíveis aos usuários, à medida que etiquetas que identificam materiais ‘feitos por IA’ nas redes sociais se tornam mais comuns também. No entanto, essas marcas d’água antes se limitavam às imagens geradas, que poderiam ser reconhecidas por sistemas automatizados por meio de pistas invisíveis aos olhos humanos.

A princípio, a nova função será implementada somente em conteúdos gerados por modelos introduzidos após 2 de agosto deste ano, mas há previsão para ser adicionada a versões mais antigas. Apesar de surgir de uma medida europeia, a identificação de material gerado por IA será parte dos modelos do Claude ao redor do mundo todo.

“Uma marca de identificação fornece um sinal de que o conteúdo foi processado pelo Claude, mas não é totalmente conclusivo”, alertou Anthropic, reforçando que, independentemente da autenticidade do material cedido ao modelo, ao ser processado, mesmo que para alterações mínimas, a marca d’água estará presente. “Detectar uma marca do Claude diz que o conteúdo pode ter sido processado pelo Claude”, concluiu em nota no blog de suporte da empresa.