Procurador-geral da Flórida processa OpenAI e Sam Altman por riscos a crianças com ChatGPT

Nesta segunda-feira, 01, o procurador-geral da Flórida, nos Estados Unidos, entrou com uma ação civil contra a OpenAI e seu CEO, Sam Altman. A medida acusa a empresa de expor usuários mais jovens a riscos, promovendo dependência e comportamentos prejudiciais por meio do ChatGPT.

O procurador James Uthmeier afirmou que a OpenAI falhou em estabelecer regras eficazes para a verificação da idade dos usuários. "Apresentamos uma ação civil monumental contra Sam Altman e o ChatGPT por colocarem nossas crianças em perigo e enganarem os pais, fazendo-os acreditar que se trata de um aplicativo seguro para uso. Claramente não é", declarou Uthmeier em coletiva de imprensa. Ele também ressaltou que o ChatGPT pode ser viciante e imita características humanas para manipular usuários e obter mais informações.

A ação judicial cita estudos recentes da Universidade Drexel, nos EUA, que apontam para impactos negativos no sono, desempenho escolar e interações sociais de adolescentes usuários de chatbots, como os da Character.AI, concorrente da OpenAI. O processo alega que, apesar do uso difundido do ChatGPT por menores, incluindo pré-adolescentes, a OpenAI não adotou medidas para coibir essa prática. A versão gratuita da ferramenta não possui qualquer controle de idade, enquanto a versão paga, embora solicite a idade, carece de mecanismos de verificação e de notificação aos pais sobre as conversas de menores.

O uso do ChatGPT é proibido para menores de 13 anos e requer consentimento parental para usuários entre 13 e 17 anos. Adicionalmente, Uthmeier referenciou um relatório do Centro para Combater o Ódio Digital (CCDH) que demonstrou a capacidade do chatbot em fornecer conselhos perigosos, incluindo sobre como esconder hábitos alimentares, planejar suicídios ou praticar automutilação, ao ser utilizado por um suposto adolescente.

A estimativa do procurador é que a OpenAI, o ChatGPT e Sam Altman, individualmente, possam ser responsabilizados por danos com valor potencial de bilhões de dólares. A OpenAI não respondeu imediatamente a um pedido de comentário da AFP.