O estado da Flórida entrou com uma ação na segunda-feira contra a OpenAI e seu CEO Sam Altman, alegando que a empresa escondeu conscientemente os riscos e comercializou agressivamente o ChatGPT para o público.
O procurador-geral da Flórida, James Uthmeyer, disse durante uma entrevista coletiva que a empresa suprimiu os avisos de segurança internos e enganou os usuários sobre a verdadeira natureza e os perigos do produto. A Flórida é o primeiro estado a entrar com uma ação judicial contra a OpenAI, disse ele.
“Hoje anunciamos o primeiro processo estatal no país contra a OpenAI e seu CEO, Sam Altman”, disse Uthmayer. “A OpenAI e a Altman ignoraram as precauções de segurança internas e externas, colocando as crianças em grande risco e permitindo que um produto perigoso chegasse a milhões de habitantes da Flórida.”
Ações civis movidas em um tribunal da Flórida referem-se a dois tiroteios separados nos quais os atiradores aparentemente fizeram perguntas ao ChatGPT enquanto planejavam seus crimes. A OpenAI afirmou num comunicado que os seus modelos encorajaram repetidamente as pessoas a procurar apoio no mundo real de profissionais de saúde mental. A empresa também disse que cooperou com as autoridades em ambos os casos.
“ChatGPT é uma ferramenta de uso geral usada por milhões de pessoas todos os dias para fins legítimos”, afirmou a OpenAI em comunicado. “Trabalhamos continuamente para fortalecer nossas medidas de segurança para detectar intenções maliciosas, limitar abusos e responder adequadamente quando surgem riscos de segurança”.
Em abril, Uthmeier lançou uma investigação criminal sobre a OpenAI de que o ChatGPT alertou um atirador que matou duas pessoas e feriu outras seis na Florida State University no ano passado. E num outro caso, os promotores disseram que o homem acusado de matar dois estudantes de doutorado da Universidade do Sul da Flórida perguntou ao ChatGPT o que aconteceria se um corpo humano fosse enfiado em um saco de lixo e jogado em uma lixeira, dias antes de desaparecerem.
O processo alega que a OpenAI e a Altman priorizaram a velocidade de lançamento no mercado e os ganhos comerciais em detrimento da segurança do usuário e ignoraram repetidos avisos de especialistas dentro e fora da empresa. Alegou que a empresa lançou um produto que facilitava e incentivava danos, incluindo automutilação e violência, ao mesmo tempo que garantia falsamente aos usuários que era seguro.
Alega também que o ChatGPT coleta dados de menores sem supervisão parental significativa, além de causar dependência comportamental e danos cognitivos. A empresa também mitigou proativamente defeitos perigosos, de acordo com o processo.
A lei da Flórida proíbe práticas comerciais injustas e defeituosas, disseram as autoridades. O processo alega que a conduta da OpenAI causou danos contínuos aos moradores da Flórida e exige responsabilização.
