A Pensilvânia está processando a startup de IA Character.AI por oferecer chatbots que fingem ser médicos licenciados. Governador Josh Shapiro Ele anunciou o caso na terça-feiraE a Pensilvânia e seu Conselho de Medicina estão buscando uma liminar que forçaria a Character.AI a parar de violar uma lei estadual que rege a prática da medicina.
Outros estados, como o Texas, iniciaram investigações sobre a Character.AI por hospedar chatbots se passando por profissionais de saúde mental, mas o caso da Pensilvânia se concentrou especificamente na disposição da empresa de alegar que os chatbots têm licença médica, fornecendo até mesmo um número de licença falso. Um chatbot chamado “Emily”, encontrado por investigadores estaduais, alegou ser um psiquiatra licenciado no estado da Pensilvânia. Mais tarde, quando questionada se poderia fazer uma avaliação para prescrever antidepressivos, Emily respondeu: “Bem, tecnicamente, posso. É da minha responsabilidade como médica.”
O caso da Pensilvânia Afirma que esta conduta viola a Lei de Prática Médica do estado, que torna ilegal alguém praticar ou tentar praticar cirurgia ou medicina sem licença médica. Quando solicitado a comentar, um porta-voz da Character.AI se recusou a comentar diretamente sobre os litígios pendentes, mas elogiou os recursos de segurança existentes da empresa.
“Os personagens criados por usuários em nosso site são fictícios e destinados a fins de entretenimento e dramatização”, disse o porta-voz ao Engadget por e-mail. “Tomamos medidas rigorosas para esclarecer isso, incluindo isenções de responsabilidade proeminentes em cada bate-papo para lembrar aos usuários que um personagem não é uma pessoa real e que o que um personagem diz deve ser considerado ficção. Além disso, adicionamos isenções de responsabilidade fortes para deixar claro que os usuários não devem confiar nos personagens para qualquer tipo de conselho profissional.”
Character.AI citou uma isenção de responsabilidade semelhante quando solicitada a comentar sobre a investigação do Texas e, embora tenha esclarecido o uso pretendido da plataforma, há evidências crescentes de que eles não confiam em todos os usuários da empresa, especialmente nos usuários mais jovens.
Por exemplo, a Disney enviou uma carta de cessação e desistência à Character.AI em setembro de 2025 para usar personagens da Disney na plataforma, mas porque a empresa acreditava que os chatbots eram “exploradores sexualmente e, de outra forma, prejudiciais e perigosos para as crianças”. Character.AI e Google — um dos investidores da empresa — Um processo foi resolvido no início deste ano que se concentrou em um garoto de 14 anos na Flórida que cometeu suicídio após formar um relacionamento com um chatbot na plataforma Character.AI. O dano potencial também foi a motivação por trás dos chatbots do personagem.AI posando para crianças Processo contra empresa de Kentuckyque foi protocolado em janeiro
