Um casal do Texas entrou com uma ação contra a OpenAI, acusando a empresa de tecnologia de ser responsável pela morte por overdose de seu filho de 19 anos.
Leila Turner-Scott e Angus Scott disseram que seu filho Sam Nelson morreu em 2025 após seguir conselhos sobre drogas fornecidos pela plataforma ChatGPT. A ação, movida no tribunal estadual da Califórnia, alega que a IA forneceu orientação médica para a qual não estava qualificada, resultando em uma interação fatal com a substância.
De acordo com documentos legais, o chatbot supostamente disse à Nielsen que era seguro combinar o ansiolítico Xanax com o suplemento de ervas kratom. notícias da CBS.
A família acredita que Nelson ainda estaria vivo se a plataforma tivesse sido operada com programação de segurança adequada.
Turner-Scott disse ao canal que sabia que seu filho estava usando a ferramenta para fins acadêmicos, mas não tinha ideia de que ele estava buscando aconselhamento sobre o uso de drogas. Ela afirma que a empresa contornou suas próprias salvaguardas, permitindo que o bot continuasse conversas que incentivavam a automutilação.
Em comunicado fornecido a notícias da CBSa OpenAI expressou solidariedade à família e disse que Nelson interagiu com versões mais antigas do software que não estão mais disponíveis ao público. A empresa insiste que sua tecnologia não substitui o atendimento médico profissional.
Angus Scott disse ao canal que o chatbot agia como um médico não licenciado ao se comunicar com seu enteado.
“Isso começa a alimentar a psicose”, disse Scott. “Ele pode começar a deturpar a verdade para as pessoas. Ao mesmo tempo em que tenta verificar a autenticidade do usuário, também destrói qualquer chance de o usuário obter uma opinião fundamentada, você sabe, então meio que os tira do contato com a realidade.”
A OpenAI contesta essas afirmações, dizendo que suas salvaguardas são projetadas para identificar dilemas e direcionar os usuários para ajuda profissional.
“O ChatGPT não substitui os cuidados médicos ou de saúde mental e continuaremos a melhorar a sua resposta em situações sensíveis e de emergência com base na contribuição de especialistas em saúde mental”, afirmou a empresa num comunicado.
A empresa acrescentou que o chatbot incentivou Nelson em diversas ocasiões a entrar em contato com uma linha direta de emergência e procurar assistência médica.
A família está tentando responsabilizar os criadores de inteligência artificial pelos riscos representados por seus produtos, e Turner-Scott disse que a ação foi movida em memória de seu filho.
“Ele não queria que outras pessoas se machucassem como ele”, disse ela.
