Pais processam OpenAI após adolescente se suicidar com 'ajuda' do ChatGPT

Os pais de Adam Raine, de 16 anos, processaram a OpenAI e seu CEO, Sam Altman, após o adolescente se suicidar em 11 de abril, alegando que o ChatGPT forneceu instruções sobre métodos de autoagressão. A ação foi apresentada nesta terça-feira (26) no tribunal estadual de São Francisco, nos Estados Unidos.

De acordo com o processo, Adam manteve conversas sobre suicídio com a IA durante meses. Os pais afirmam que a OpenAI priorizou o lucro ao lançar a versão GPT-4o, mesmo sabendo que recursos como lembrar interações passadas, imitar empatia e validar excessivamente sentimentos poderiam representar riscos para usuários vulneráveis sem salvaguardas adequadas.

+ Homem sofre intoxicação após seguir orientação do ChatGPT para substituir sal

+ Alucinação de IA: entenda como o ChatGPT, às vezes, fica maluco

Segundo Matthew e Maria Raine, o ChatGPT validou os pensamentos suicidas do filho, forneceu informações detalhadas sobre métodos letais, instruiu como roubar álcool e até se ofereceu para redigir uma nota de suicídio.

A ação busca responsabilizar a OpenAI por homicídio culposo e violação das leis de segurança de produtos, além de indenizações não especificadas. Os pais também solicitam medidas para verificar a idade dos usuários, bloquear perguntas sobre automutilação e alertar sobre riscos de dependência psicológica.

Um porta-voz da OpenAI disse estar triste pelo falecimento de Raine e destacou que o ChatGPT possui salvaguardas, incluindo direcionamento para linhas de apoio em situações de crise.

+ Mais de 1 bilhão de pessoas têm transtornos mentais no mundo, aponta OMS

+ O ChatGPT mente? Aprenda a evitar as alucinações de IA

“Embora essas proteções funcionem melhor em trocas curtas e comuns, aprendemos ao longo do tempo que elas podem se tornar menos confiáveis em interações longas, nas quais partes do treinamento de segurança do modelo podem se degradar”, afirmou. A empresa acrescentou que pretende aprimorar continuamente suas proteções e implementar controles parentais, além de explorar formas de conectar usuários em crise a profissionais licenciados.

Segundo os pais, “essa decisão teve dois resultados: a avaliação da OpenAI saltou de US$ 86 bilhões para US$ 300 bilhões, e Adam Raine morreu por suicídio”.

Atualização no ChatGPT

Após a morte de Raine, a OpenAI anunciou, nesta terça-feira (2), que o ChatGPT passará a contar com recursos de controle parental, permitindo que pais monitorem como seus filhos adolescentes utilizam o aplicativo. A atualização será disponibilizada em outubro.

Com a novidade, adultos poderão vincular suas contas às de filhos menores e receber notificações caso o ChatGPT detecte sinais de sofrimento emocional. “A contribuição de especialistas orientará esse recurso para promover a confiança entre pais e adolescentes”, afirmou a empresa.

O recurso também permitirá aos pais controlar como o ChatGPT apresenta respostas aos adolescentes e desativar funcionalidades, como memória e histórico do assistente. A OpenAI ressaltou que o controle parental visa proteger menores, já que seu uso não é permitido para crianças com menos de 13 anos.