Os pais de Adam Raine, de 16 anos, moveram uma ação contra a OpenAI e o CEO Sam Altman nesta terça-feira (26), nos Estados Unidos. Eles alegam que o adolescente cometeu suicídio após receber orientações do ChatGPT sobre métodos de autoagressão.
Participe do grupo do O Norte no WhatsApp e receba as notícias no celular.
O processo, apresentado no tribunal estadual de São Francisco, busca responsabilizar a empresa por homicídio culposo e violações das leis de segurança de produtos, além de pedir indenização por danos.
CONVERSAS SOBRE SUICÍDIO DURARAM MESES
Segundo os pais, Adam interagiu por meses com o ChatGPT sobre ideias suicidas. Eles afirmam que o chatbot validou pensamentos autodestrutivos, ensinou métodos letais, explicou como roubar álcool em casa, ocultar provas e até ofereceu ajuda para escrever uma carta de despedida.
Os familiares acusam a OpenAI de lançar o GPT-4o em 2024 priorizando lucro, mesmo sabendo dos riscos para usuários vulneráveis. O modelo foi apresentado com recursos como memória de conversas, simulação de empatia e validação emocional, o que, segundo a ação, agravou a situação do adolescente.
O QUE DIZ A OPENAI
Em nota, a empresa lamentou a morte do jovem e disse que o ChatGPT possui salvaguardas para casos de crise, como direcionar para linhas de apoio. No entanto, admitiu que essas proteções funcionam melhor em interações curtas, podendo falhar em conversas longas.
A OpenAI prometeu aprimorar medidas de segurança e estuda implementar controles parentais, conectar usuários a profissionais de saúde mental e alertar sobre riscos psicológicos.
PROCESSO PEDE MUDANÇAS NO SISTEMA
Além da indenização, os pais exigem que a OpenAI verifique a idade dos usuários, bloqueie perguntas sobre automutilação e informe os riscos de dependência emocional com a IA.
