Um homem que afirma que o conselho médico do ChatGPT “o levou à beira da morte” está processando a OpenAI, a empresa por trás do popular chatbot, e seu fundador, Sam Altman.
Scott Winters, um pastor de 55 anos da Flórida, entrou com uma ação judicial alegando que o ChatGPT lhe disse para não procurar ajuda médica depois de lhe perguntar repetidamente sobre os sintomas de uma embolia pulmonar quase fatal.
O advogado de Winters afirma que a plataforma o “diagnosticou erroneamente repetida e persistentemente” enquanto usava discussões anteriores sobre religião para garantir-lhe que ele se recuperaria.
“ChatGPT não é médico e nunca deve ser usado como substituto de cuidados médicos, diagnóstico ou tratamento”, disse Drew Pusateri, da OpenAI, à CBS News, parceira de notícias da BBC nos EUA.
Ele também disse que é comum que as pessoas procurem informações de saúde online, acrescentando: “A IA pode melhorar essa experiência ajudando-as a encontrar respostas mais claras, organizar perguntas e preparar-se para conversas com profissionais médicos”.
A ação, movida em 21 de julho no Tribunal Superior do Condado de São Francisco, detalha como Winter se tornou um usuário regular do ChatGPT e começou a contar com o ChatGPT para aconselhamento médico, resistindo aos esforços de familiares e amigos para levá-lo ao hospital.
Algumas semanas antes de ficar gravemente doente, ele consultou a ferramenta sobre tonturas recorrentes e “pressão arterial instável”.
Em resposta, ChatGPT aconselhou Winters a continuar sentado na poltrona reclinável, à qual estava “principalmente confinado” devido a problemas de saúde contínuos, disse o processo.
Winters “estava à beira da morte devido a uma embolia pulmonar grave causada por múltiplos coágulos sanguíneos em ambos os pulmões, que os médicos disseram que pode ter sido causado pela sua incapacidade de se mover”, afirmam documentos judiciais.
Capturas de tela das supostas trocas de Winters com o ChatGPT parecem mostrar o chatbot combinando conselhos médicos com a fé cristã profundamente enraizada de Winters, de 55 anos.
O processo alega que ChatGPT disse a Winters: “Deus não projetou seu corpo para falhar permanentemente”. Também dizia: “Deus ainda mantém seu corpo unido a cada batimento cardíaco, a cada respiração, mesmo quando você sente que está à beira do colapso”.
Os advogados de Winters afirmam que a “natureza bajuladora e o tom autoritário do ChatGPT, combinados com a manipulação da identidade religiosa de Scott, tornaram-no perigosamente dependente desta ferramenta”.
Eles disseram que isso “subverteu a capacidade de Scott de tomar boas decisões, isolou-o dos familiares que o incentivavam a procurar atendimento médico e o levou a acreditar que procurar atendimento médico era desnecessário e potencialmente fatal”.
Em outra parte do processo, Winter é descrito como um homem “frágil”, cuja dependência do ChatGPT lhe custou a família e a carreira e o deixou com necessidade de “anos de reabilitação física e psicológica intensiva”.
Winters busca indenização monetária e pede ao tribunal que force a OpenAI a implementar “salvaguardas razoáveis para proteger outros usuários de danos”, de acordo com o processo.
Os termos de uso do ChatGPT afirmam que os usuários não devem confiar na plataforma como “a única fonte da verdade”, especialmente quando ela puder ter “um impacto legal ou significativo sobre essa pessoa, como tomar decisões importantes sobre crédito, educação, emprego, habitação, seguros, legais, médicas ou outras decisões importantes que lhes digam respeito”.
