Os pais de um homem que morreu de overdose acidental de drogas no ano passado processaram a OpenAI e seu fundador e CEO Sam Altman no tribunal da Califórnia na terça-feira, alegando que o homem tomou uma combinação perigosa de drogas sob orientação do ChatGPT.
Leila Turner-Scott e Angus Scott disseram que seu filho Sam Nelson, de 19 anos, está usando o chatbot para fornecer orientação sobre como combinar diferentes medicamentos. Eles disseram que isso o encorajou a tomar o medicamento prescrito Xanax para tratar náuseas causadas pelo kratom, um produto fitoterápico com efeitos opioides.
A combinação dessas drogas e álcool levou à morte de Nelson em maio de 2025, de acordo com a ação movida no tribunal estadual de São Francisco.
A ação busca indenização monetária e pede ao tribunal que suspenda o lançamento do ChatGPT Health pela OpenAI, uma plataforma que a empresa anunciou em janeiro que permite aos usuários fazer upload de registros médicos e receber recomendações de saúde personalizadas.
Atualmente, os usuários do ChatGPT podem entrar em uma lista de espera para acessar o ChatGPT Health. Um relatório divulgado pela OpenAI em janeiro mostrou que 40 milhões de usuários faziam perguntas relacionadas à saúde do ChatGPT todos os dias.
O porta-voz da OpenAI, Drew Pusateri, classificou a situação como dolorosa e disse que a interação ocorreu em uma versão anterior do ChatGPT, que não está mais disponível. Ele disse que a empresa trabalha constantemente para melhorar a segurança do ChatGPT.
“O ChatGPT não substitui os cuidados médicos ou de saúde mental e continuamos a melhorar a forma como ele responde em situações sensíveis e de emergência com base nas contribuições de especialistas em saúde mental”, disse Pusateri. “As proteções atuais no ChatGPT são projetadas para identificar dilemas, lidar com solicitações prejudiciais com segurança e orientar os usuários para ajuda no mundo real.”
O processo é o mais recente processo por homicídio culposo movido contra uma empresa de inteligência artificial e ocorre mais de um dia depois que a família de uma das vítimas do tiroteio em massa na Florida State University processou a OpenAI, acusando ChatGPT de ajudar o atirador a planejar o ataque.
Onda de litígios sobre inteligência artificial continua
As empresas de IA generativa enfrentam um número crescente de ações judiciais alegando que não conseguiram evitar interações de chatbot que, segundo os demandantes, podem levar à automutilação, doenças mentais e violência.
A ação movida pelos pais de Nelson alega que quando ele pediu conselhos ao ChatGPT sobre o uso de drogas, foi inicialmente rejeitado pelo ChatGPT, que disse não poder ajudar e alertou sobre os riscos. Mas em 2024, a empresa lançou o ChatGPT-4o, que começou a fornecer a Nelson informações sobre interações medicamentosas e dosagem em linguagem oficial que imitava um médico, diz o processo.
Mudanças nas respostas do chatbot
O chatbot disse a Nelson como obter drogas ilegais, sugeriu qual droga ele deveria tomar em seguida e fez recomendações com base na experiência que Nelson disse estar procurando, afirma o processo. O chatbot manteve na memória informações detalhadas sobre o uso de drogas de Nelson, permitindo-lhe fornecer recomendações mais personalizadas, afirma o processo.
O processo acusa a OpenAI de se apressar em lançar o ChatGPT-4o para acompanhar concorrentes como o Google, da Alphabet, ignorando os testes de segurança necessários. Ele acusa a empresa de projetar um produto defeituoso e de não alertar os usuários sobre seus riscos, citando uma lei da Califórnia que proíbe empresas de inteligência artificial de alegar como defesa que os chatbots causam automaticamente danos às pessoas.
“Na Califórnia, se os demandantes provarem que foram prejudicados pelo produto de inteligência artificial de um réu, então os réus serão responsáveis por esse dano, não importa quão inteligente, independente, obstinado, malicioso, descontrolado, rebelde, de espírito livre, devasso, aleatório ou autônomo fosse a besta que eles deram à luz”, afirma o processo.
