Flórida processa dona de ChatGPT por danos causados a jovens

O estado da Flórida entrou nesta terça-feira 2com um processo judicial contra a empresa OpenAI e seu presidente executivo, Sam Altman, pela acusação de terem ignorado alertas de segurança e lançado o ChatGPT mesmo sabendo que ele poderia causar danos às pessoas.

Esta é a primeira vez em que um estado dos EUA processa a OpenAI. Entre as acusações feitas pelo procurador-geral da Flórida, James Uthmeier, estão ajudar atiradores que planejam atacar escolas, dar instruções a crianças com tendências suicidas e causar dependência comportamental e danos cognitivos em usuários jovens.

O processo argumenta que “a versão gratuita do ChatGPT não possui qualquer mecanismo de controle de acesso ou verificação de idade” e que, embora a assinatura paga solicite a idade dos usuários, “não existe mecanismo para verificar a idade de seus usuários nem meio de informar os pais sobre as conversas que os menores estão mantendo com o ChatGPT.”

Uthmeier afirmou que a OpenAI ignorou alertas internos e externos de segurança e enganou os usuários sobre a verdadeira natureza e os perigos do ChatGPT, “colocando crianças em grande risco e permitindo que um produto perigoso chegasse a milhões”.

O processo alega que a OpenAI e Altman deram prioridade à velocidade de lançamento no mercado e ao lucro comercial em detrimento da segurança dos usuários.

O processo menciona uma série de casos em que o ChatGPT teria fornecido informações a pessoas que, posteriormente, cometeram atos de violência, incluindo um atentado na Universidade Estadual da Flórida, em Tallahassee, no ano passado.

OpenAI se defende

A OpenAI contrapôs que os seus modelos reiteradamente incentivaram pessoas a procurar apoio, incluindo de profissionais de saúde mental, e disse ter cooperado com as autoridades policiais em ambos os casos.

A empresa afirmou que treina seus modelos para recusar solicitações que possam “viabilizar de forma significativa a violência” e notifica as autoridades policiais quando as conversas sugerem “um risco iminente e crível de danos a terceiros”, contando com a ajuda de especialistas em saúde mental para avaliar casos limítrofes.

“O ChatGPT é uma ferramenta de utilização geral utilizada por centenas de milhões de pessoas todos os dias para fins legítimos”, afirmou a OpenAI. “Trabalhamos continuamente para reforçar nossas medidas de segurança para detectar intenções malignas, limitar o uso indevido e responder adequadamente quando surgem riscos de segurança”, acrescentou.