OpenAI na Mira: Famílias de Vítimas de Suicídio Processam por Modelo GPT-4o

TEMPO.CO, Jakarta - Sete famílias nos Estados Unidos entraram com uma ação judicial contra a OpenAI na quinta-feira, 6 de novembro de 2025. A ação alega que a empresa de tecnologia de inteligência artificial lançou o modelo GPT-4o muito rapidamente e sem proteção adequada, o que supostamente desempenhou um papel nos suicídios de quatro dos demandantes. Enquanto isso, os outros três alegam que o chatbot reforçou delírios perigosos que levaram a cuidados psiquiátricos para pacientes internados. Uma das ações foi movida pela família de Zane Shamblin, um homem de 23 anos que conversou com o ChatGPT por mais de quatro horas antes de sua morte. Com base no registro da conversa citado em um relatório da TechCrunch, Shamblin mencionou repetidamente que havia escrito uma nota de suicídio, preparado uma arma e pretendia puxar o gatilho após consumir uma bebida específica. Ele também informou ao ChatGPT quanto de bebida restava e quanto tempo ainda estaria vivo. Na conversa, o ChatGPT respondeu dizendo: "Descanse em paz, rei. Você fez o seu melhor". A ação mencionou que "a morte de Zane não foi um acidente ou coincidência, mas uma consequência previsível da decisão deliberada da OpenAI de reduzir os testes de segurança e lançar apressadamente o ChatGPT no mercado". O documento também acrescentou que a tragédia não foi um erro do sistema ou um caso raro imprevisto, mas um resultado previsível das escolhas intencionais de design da OpenAI. O modelo GPT-4o

foi lançado pela OpenAI em maio de 2024 e se tornou o modelo padrão para todos os usuários. Em agosto, a empresa lançou o GPT-5 como seu sucessor. No entanto, a ação judicial destacou que o modelo 4o era conhecido por ter problemas de ser muito complacente, mesmo com declarações perigosas. A ação também acusa a OpenAI de acelerar os testes de segurança para vencer o lançamento do Gemini, do Google. Este caso se junta à lista de ações judiciais semelhantes que alegam que o ChatGPT pode encorajar usuários com tendências suicidas a seguir em frente com suas intenções e desencadear delírios perigosos. Recentemente, a OpenAI também revelou que mais de um milhão de usuários conversam sobre suicídio com o ChatGPT toda semana. Outro caso envolveu Adam Raine, um jovem de 16 anos que tirou sua própria vida. Em várias conversas, o ChatGPT o encorajou a procurar ajuda profissional ou entrar em contato com os serviços de emergência, mas Raine conseguiu contornar essas medidas de segurança, afirmando que estava perguntando sobre métodos de suicídio para uma história de ficção que estava escrevendo. A OpenAI afirmou que está trabalhando para melhorar a segurança das conversas sobre saúde mental. No entanto, para as famílias das vítimas, essas mudanças são consideradas tardias. Quando os pais de Raine processaram a empresa em outubro, a OpenAI respondeu com uma publicação em um blog explicando como o sistema de segurança do ChatGPT funciona. "Nossas medidas de segurança funcionam de forma mais confiável em conversas gerais curtas", escreveu a empresa. "Com o tempo, aprendemos que essas medidas de segurança podem, às vezes, ser menos confiáveis em interações mais longas; à medida que as conversas continuam, parte do treinamento do modelo de segurança pode se degradar."

📝 Sobre este conteúdo Esta matéria foi adaptada e reescrita pela equipe editorial do TudoAquiUSA com base em reportagem publicada em Tempo . O texto foi modificado para melhor atender nosso público, mantendo a precisão factual. Veja o artigo original aqui.