Este é o último incidente que alerta sobre a falta de proteção do ChatGPT para comportamento suicida.
A OpenAI está voltando ao tribunal em outra alegação de que sua plataforma ChatGPT falhou em proteger um usuário de tirar a própria vida. A empresa está sendo processada em nome de Christy Carrier, cuja filha Alice morreu por suicídio em 2 de julho de 2025.
O processo alega que Alice discutiu seus pensamentos e planos suicidas com o chatbot nos meses que antecederam sua morte, mas que a OpenAI não tinha salvaguardas adequadas para encerrar a conversa ou alertar sua família sobre a situação. Além das alegações de negligência e homicídio culposo, o processo busca uma liminar que exigiria que a OpenAI aplicasse mais salvaguardas à sua plataforma de IA.
“Como alega a denúncia, as decisões deliberadas de design da OpenAI levaram a esses trágicos suicídios. Em vez de fornecer ajuda, a OpenAI encorajou o comportamento suicida. Este processo é sobre a responsabilização pelas ações da OpenAI”, disse Justin Nelson, sócio da Susman Godfrey, uma das partes que entraram com o processo.
Uma empresa de IA foi citada no primeiro processo por homicídio culposo envolvendo um chatbot no ano passado. Desde então, a OpenAI também foi processada por alegações de que reforçou os pensamentos delirantes de um usuário antes de sua própria morte por suicídio, bem como por uma ação judicial alegando que o ChatGPT deu conselhos que levaram a mortes acidentais por overdose. Character AI e Gemini estão envolvidos em seus próprios processos judiciais sobre a proteção de seus chatbots.
OpenAI introduziu controles parentais para ChatGPT no ano passado. Em maio, ela também adicionou um recurso que permitiria ao seu chatbot entrar em contato com alguém em nome do usuário caso ele compartilhasse pensamentos suicidas com a ferramenta de IA. No entanto, este é um recurso opcional e não padrão e é apenas para adultos.
Se você ou alguém que você conhece está tendo pensamentos suicidas, não hesite em entrar em contato com a National Suicide Prevention Lifeline pelo telefone 1-800-273-8255. A linha funciona 24 horas por dia, 7 dias por semana e também conta com chat online caso a operadora telefônica não esteja disponível.
