A polícia sul-coreana diz que uma mulher recorreu ao ChatGPT em busca de ajuda antes de envenenar 3 homens

SEUL, Coreia do Sul — “O que acontece se você tomar pílulas para dormir e álcool ao mesmo tempo?”

Inscreva-se para ler esta história sem anúncios

Obtenha acesso ilimitado a artigos sem anúncios e conteúdo exclusivo.

“Quão perigoso seria se você os juntasse?”

“Você pode morrer?”

A polícia sul-coreana disse que Kim So-young fez essas perguntas ao ChatGPT pouco antes de dar álcool e benzodiazepínicos a dois homens, levando à morte. Os promotores acusam King de entregar as drogas a três homens, dois dos quais morreram e outro ficou ferido. Os investigadores recorreram às conversas do ChatGPT extraídas do telefone de Kim para tentar indicar suas intenções.

“Isso é significativo não apenas como prova por si só, mas também porque a conversa com ChatGPT é considerada evidência direta do assassinato”, disse Nam Eonho, advogado sênior do Vincent Law Firm e advogado da família de uma das vítimas, em entrevista por telefone.

“Sem admitir esta prova, seria difícil provar a intenção do réu de matar, que é um elemento-chave do crime”, disse Nan.

A NBC News entrou em contato com o Ministério Público da Coreia do Sul, que supervisiona o Ministério Público do Distrito Central de Seul, para comentar o caso. O escritório não respondeu imediatamente. King negou qualquer intenção de matar e disse ao tribunal que a morte foi acidental. Nan disse que as evidências do registro do bate-papo contradizem isso.

O caso, possivelmente o primeiro do género na Coreia do Sul, faz parte de um número crescente de casos criminais de grande repercussão, nos quais pessoas são acusadas de utilizar programas de inteligência artificial para facilitar crimes violentos. A maioria dos casos documentados publicamente envolve ChatGPT, mas Gemini do Google foi recentemente nomeado Uma ação civil alega que um chatbot ajudou um homem a planejar um incidente com vítimas em massa perto de um aeroporto de Miami. Especialistas dizem que o uso malicioso de tais ferramentas provavelmente aumentará à medida que os chatbots se tornarem mais comuns, assim como aconteceu quando as pesquisas online surgiram pela primeira vez. Enquanto a OpenAI enfrenta vários processos judiciais relacionados ao uso de suas ferramentas para cometer crimes, a indústria de IA está apenas começando a lidar com seu papel na mitigação de danos e como cooperar com as autoridades policiais.

Você tem uma história para compartilhar sobre inteligência artificial e crime? Repórter de e-mail Jane Lytvynenko.

A OpenAI não respondeu a perguntas sobre o caso ou com que frequência encaminha os casos às autoridades, incluindo perguntas sobre com quais agências de aplicação da lei poderia trabalhar. aponta para um carta de resposta escrita filmando no Canadá postagem no blog Sobre segurança comunitária.

Não está claro se o juiz sul-coreano que preside o caso de Kim admitirá os registros do ChatGPT como prova. O julgamento está em andamento. O caso atraiu atenção significativa no país – a mídia local informou que a sala do tribunal estava lotada de repórteres e observadores na última audiência, realizada em 7 de maio.

Em Fevereiro, a polícia prendeu Kim sob a acusação de homicídio e violação da Lei de Controlo de Narcóticos da Coreia do Sul, acusando-a de fornecer ao homem uma bebida venenosa contendo benzodiazepinas e outras drogas, sob o pretexto de curar a ressaca. A partir de meados de dezembro, as autoridades disseram que King começou a procurar encontros masculinos, levando-os a um motel e depois fornecendo-lhes substâncias por medo de contato físico indesejado. A primeira vítima sobreviveu depois de passar dois dias em coma. Kim então consultou o ChatGPT e fez ajustes antes de administrar as doses à segunda e terceira vítimas, disseram as autoridades. A transcrição completa do bate-papo não foi divulgada, mas foi citada e citada pela polícia.

A polícia determinou que a terceira vítima, cujo patrimônio é representado por Nam, conheceu Kim em 9 de fevereiro em um motel em Seul. Nan disse que lhe entregou a bebida misturada com drogas. Depois que o homem desmaiou, Nan disse que pediu comida pelo telefone dele e saiu com ela. Quando a polícia chegou no dia seguinte, o homem estava morto. Nan disse que o relatório da autópsia que viu concluiu que ele morreu de envenenamento por drogas.

“De certa forma, o suspeito foi instruído pelo ChatGPT e depois usou essa informação como meio para cometer o crime”, disse Nam. “Isso torna este caso único porque a busca ChatGPT foi usada diretamente como ferramenta para cometer o crime.”

Embora a polícia esteja usando postagens nas redes sociais e câmeras CCTV, além de evidências de registros de bate-papo, as conversas com o ChatGPT podem ser cruciais para determinar se Kim pretendia matar a vítima. A próxima data de julgamento está marcada para junho.

O caso de Kim ecoa um número crescente de incidentes semelhantes na América do Norte, nos quais suspeitos usam o ChatGPT para solicitar instruções cruciais para crimes. Os desenvolvedores do sistema se distanciaram de práticas ilegais e de processos judiciais pendentes nos Estados Unidos e no Canadá.

Esses casos pressionaram a OpenAI.

Depois que um atirador de 18 anos matou oito pessoas em Tumbler Ridge, British Columbia, em fevereiro, o CEO da OpenAI, Sam Altman, escreveu uma carta pedindo desculpas à comunidade por não informar as autoridades sobre o relato do atirador. A conta foi banida em junho, oito meses antes do tiroteio, dias depois de o autor ter descrito um cenário envolvendo violência armada ao ChatGPT. A empresa não alertou as autoridades. Em Abril, as famílias das vítimas e dos feridos Sete ações federais movidas contra OpenAIalegando falha em tomar medidas que poderiam ter evitado o tiroteio.

“Embora as palavras nunca sejam suficientes, acredito que um pedido de desculpas é necessário para reconhecer a dor e a perda irreparável que sua comunidade sofreu”, afirmou. Ultraman escreveucomprometendo-se a cooperar com as autoridades para prevenir crimes futuros.

O procurador-geral do estado, James Uthmeier, disse em entrevista coletiva que o suspeito do tiroteio de abril de 2025 na Florida State University “tem estado em contato constante com o ChatGPT”. O ataque matou duas pessoas. Uthmeier lançou uma investigação criminal para determinar o papel que os produtos da OpenAI desempenharam no ataque. O ChatGPT, disse ele, “fornece conselhos aos atiradores sobre que tipo de arma usar, que arma usar e com qual munição, se a arma é útil em curtas distâncias, etc”.

Um porta-voz da OpenAI disse na época que “o ChatGPT não é responsável por esse comportamento criminoso horrível”, acrescentando que as respostas dadas pelo chatbot “podem ser amplamente encontradas em recursos públicos na Internet e não incentiva ou promove atividades ilegais ou prejudiciais”.

A família de uma das vítimas do tiroteio na FSU processou a OpenAI no domingo.

Na explosão de Tesla em janeiro de 2025, fora do Trump International Hotel em Las Vegas, ChatGPT e IA generativa também foram usados ​​para “estudar explosivos e mecanismos de ignição”. De acordo com a polícia de Las Vegas. Terapeuta escolar da Carolina do Norte acusado Usando ChatGPT No ano passado, ela pesquisou uma “combinação letal e incapacitante de drogas que poderiam ser ingeridas e injetadas” para envenenar o marido. Em outubro, um adolescente de 17 anos da Flórida A ferramenta teria sido usada Tentando encenar seu próprio sequestro.

Especialistas dizem que o uso do ChatGPT e ferramentas similares em casos criminais está apenas começando. No entanto, poucos processos legais estão livres de interferências. Advogados e vítimas usam chatbots para construir casos, às vezes cometendo tantos erros que os juízes proíbem seu uso em tribunal. Alguns réus os utilizam para adulterar provas ou contestar provas reais. Agora, há um número crescente de exemplos que mostram o uso de IA generativa no crime. Para muitos na indústria, os casos que são conhecidos pelo público são apenas a ponta do iceberg.

“Não é surpreendente que os criminosos utilizem chatbots dispostos a ajudar a planear crimes”, disse Max Tegmark, físico e investigador de aprendizagem automática do MIT e presidente do Future of Life Institute.

“Existem menos padrões de segurança para IA do que para sanduíches”, disse Tegmark. “A solução óbvia é restringir os padrões de segurança para que as empresas não possam lançar sistemas de IA sem negar a atividade criminosa.”

Alguns argumentam que usar um chatbot não é muito diferente de uma simples pesquisa no Google, pois ambos produzem um rastro de informações digitais que mostram como os criminosos planejam suas operações. Mas Nam, advogado do caso coreano, disse que os chatbots criaram um novo tipo de cenário.

“A verdadeira questão é que esta forma de conversa pode permitir que potenciais criminosos ‘conversem’ com o ChatGPT sem se sentirem culpados”, disse ele.

“Se um suspeito perguntasse a uma pessoa sobre a dosagem ou administração de uma substância tóxica, essa pessoa naturalmente questionaria a intenção – por que alguém iria querer informações tão específicas sobre a administração de um veneno”, disse ele. “No entanto, o ChatGPT não filtra tais questões através de julgamento moral.”

como uma indústria Comece a brigar Enfrenta preocupações de segurança semelhantes às dos avanços anteriores devido ao uso indevido da sua tecnologia, como cintos de segurança dos automóveis, moderação nas redes sociais ou rótulos de advertência em produtos potencialmente tóxicos.

“Vamos alcançar um equilíbrio com o qual todos se sintam confortáveis”, disse Anat Lior, professora assistente de direito na Universidade Drexel que estuda governança e responsabilidade em IA. “Ainda não temos certeza de como é esse ato de equilíbrio.”