SEUL, Coreia do Sul – “O que acontece se vocês tomarem pílulas para dormir e álcool juntos?”
Inscreva-se para ler esta história sem anúncios
Obtenha acesso ilimitado a artigos sem anúncios e conteúdo exclusivo.
“Quão perigoso é se você os levar juntos?”
“Você pode morrer?”
A polícia sul-coreana diz que Kim So-young misturou os dois homens com álcool e benzodiazepínicos pouco antes de perguntar ao ChatGPT, causando suas mortes. Os promotores alegam que Kim drogou três pessoas, duas das quais morreram e outra ficou ferida. Os investigadores recorreram às conversas do ChatGPT extraídas forensemente do telefone de Kim na tentativa de mostrar a intenção.
“Isso é significativo não apenas como prova, mas também porque o fato de as conversas com o ChatGPT serem admitidas como prova direta em um caso de assassinato é altamente significativo”, disse Nam Yeonho, advogado sênior do escritório de advocacia Vincent e advogado de uma das famílias das vítimas, em entrevista por telefone.
“Se tais provas não forem admitidas, será difícil provar a intenção do réu de matar, que é um elemento-chave do crime”, disse Nam.
A NBC News entrou em contato com o Gabinete do Procurador Supremo da Coreia do Sul, que supervisiona o Gabinete do Procurador do Distrito Central de Seul, para comentar. O escritório não respondeu imediatamente. Kim negou qualquer intenção de matar, dizendo no tribunal que a morte foi acidental. Nam disse que as evidências do registro do bate-papo contradizem isso.
Tais casos podem ocorrer na Coreia do Sul. No entanto, faz parte de uma série crescente de casos criminais de grande repercussão em que pessoas são acusadas de utilizar programas de IA para ajudar a cometer crimes violentos. A maioria dos casos documentados publicamente envolve ChatGPT, no entanto Recentemente nomeado Gêmeos pelo Google Uma ação civil alega que o chatbot ajudou um homem que planejava realizar um tiroteio em massa perto do aeroporto de Miami. Especialistas dizem que o uso de tais ferramentas provavelmente se acelerará à medida que os chatbots se tornarem mais difundidos, como quando a pesquisa online estreou. Como a OpenAI enfrentou vários processos judiciais alegando que suas ferramentas foram usadas para cometer crimes, a indústria de IA começou a desempenhar um papel na redução de danos físicos e no trabalho com as agências de aplicação da lei.
A OpenAI não respondeu a perguntas sobre o caso, incluindo com quais agências de aplicação da lei pode trabalhar ou com que frequência encaminha os casos para as autoridades. É um direcionamento Carta escrita em resposta Um tiroteio no Canadá e um Postagem no blog Sobre segurança comunitária.
Ainda não se sabe se o juiz que preside o caso de Kim na Coreia do Sul admitirá os registros do ChatGPT como prova. O julgamento está em andamento. O caso tem sido amplamente discutido no país. A mídia local informou que a sala do tribunal estava lotada de jornalistas e observadores na última audiência, realizada em 7 de maio.
Em Fevereiro, a polícia prendeu Kim sob a acusação de homicídio e de violação da lei de controlo de narcóticos da Coreia do Sul, alegando que ele dava aos homens bebidas venenosas contendo benzodiazepinas e outras drogas, sob o pretexto de curar ressacas. A partir de meados de dezembro, Kim procurou encontros com homens, levou-os a um motel e depois deu-lhes a substância com medo de contacto físico indesejado, alegam as autoridades. A primeira vítima sobreviveu após um coma de dois dias. As autoridades disseram que Kim consultou o ChatGPT sobre as dosagens e as ajustou antes de administrá-las à segunda e terceira vítimas. Os registros completos do bate-papo não foram divulgados e, em vez disso, foram intimados e citados pela polícia.
A polícia determinou que a terceira vítima, cujo patrimônio é representado por Nam, conheceu Kim em 9 de fevereiro em um motel em Seul. Ele deu a ela a bebida misturada com drogas, disse Nam. Depois que o homem desmaiou, disse Nam, ele usou o telefone para pedir a entrega de comida e saiu com ele. A polícia chega no dia seguinte, depois que o homem já está morto. Nam disse que viu um relatório de autópsia dizendo que ele morreu de envenenamento por drogas.
“De certa forma, o suspeito recebeu instruções do ChatGPT e depois usou essas informações como meio para cometer o crime”, disse Nam. “Torna o caso único o fato de as buscas do ChatGPT terem sido usadas diretamente como uma ferramenta na prática do crime.”
Embora a polícia esteja usando postagens nas redes sociais e câmeras CCTV, além de evidências de registros de bate-papo, é a conversa com o ChatGPT que pode ser crucial para determinar se Kim pretendia matar as vítimas. A próxima data de julgamento está marcada para junho.
O caso de Kim ecoa uma série crescente de casos semelhantes na América do Norte, onde supostos criminosos usaram o ChatGPT para buscar pistas vitais sobre o crime. Os desenvolvedores do sistema se distanciaram de atividades ilegais e de processos judiciais pendentes nos EUA e no Canadá.
As ações judiciais pressionaram a OpenAI.
Depois que um atirador de 18 anos matou oito pessoas em Tumbler Ridge, British Columbia, em fevereiro, o CEO da OpenAI, Sam Altman, escreveu uma carta pedindo desculpas à comunidade por não notificar as autoridades sobre a conta do atirador. O perpetrador descreveu situações envolvendo violência armada no ChatGPT antes de a conta ser banida em junho, oito meses antes do tiroteio. A empresa não alertou as agências de aplicação da lei. Famílias dos mortos e feridos em abril Sete ações federais foram movidas contra a OpenAIAlegando que não tomou medidas que pudessem ter evitado o tiroteio.
“Embora as palavras nunca sejam suficientes, acredito que um pedido de desculpas é necessário para reconhecer a perda e o dano irreparável à sua comunidade”, afirmou. Altman escreveuComprometido em trabalhar com as autoridades para prevenir crimes futuros.
Suspeito de tiroteio na Florida State University Em abril de 2025 “Havia comunicação constante com o ChatGPT”, disse o procurador-geral do estado, James Uthmyer, em entrevista coletiva. Dois foram mortos no ataque. Uthmeyer lançou uma investigação criminal para determinar o papel que os produtos da OpenAI desempenharam no ataque. O ChatGPT “aconselha o atirador sobre que tipo de arma usar, que munição acompanha cada arma, se uma arma é útil ou não a curto alcance”, disse ele.
Um porta-voz da OpenAI disse na época que “o ChatGPT não é responsável por este crime hediondo”, acrescentando que as respostas fornecidas pelo chatbot “estão amplamente disponíveis em fontes públicas na Internet e não incentivam ou promovem atividades ilegais ou prejudiciais”.
A família de uma das vítimas do tiroteio na FSU entrou com uma ação contra a OpenAI no domingo.
A explosão de Tesla em janeiro de 2025 fora do Trump International Hotel Las Vegas usou ChatGPT e IA generativa para “pesquisar explosivos e mecanismos de ignição”. De acordo com a polícia de Las Vegas. A Carolina do Norte supostamente tem um terapeuta escolar ChatGPT é usado Para pesquisar “uma combinação de drogas letais e incapacitantes que podem ser ingeridas e injetadas” para envenenar o marido no ano passado. Em outubro, um adolescente de 17 anos da Flórida Ferramenta supostamente usada Na tentativa de encenar seu próprio sequestro.
Especialistas dizem que a admissão do ChatGPT e de ferramentas semelhantes em casos criminais é nova. No entanto, dificilmente existe um processo legal que o deixe desimpedido. Advogados e vítimas utilizam chatbots para construir casos, por vezes com tantos erros que os juízes proíbem a sua utilização nos seus tribunais. Alguns réus os usam para adulterar evidências ou questionar evidências reais. Agora, está surgindo um crescente conjunto de casos que apontam para o uso de IA generativa no crime. Para muitos profissionais da área, os casos que chegam ao conhecimento do público são apenas a ponta do iceberg.
“É surpreendente que os criminosos utilizem chatbots dispostos a planear crimes”, disse Max Tegmark, físico e investigador de aprendizagem automática no Instituto de Tecnologia de Massachusetts e presidente do Instituto Futuro da Vida, uma organização sem fins lucrativos que procura reduzir o risco das tecnologias transformadoras.
“Existe um padrão de segurança mais baixo para IA do que um sanduíche”, disse Tegmark. “A solução óbvia é impor padrões de segurança para que as empresas não possam divulgar sistemas de IA, a menos que neguem atividades criminosas”.
Alguns argumentam que usar um chatbot não é tão diferente de uma simples busca no Google, pois ambos criam um rastro de informações digitais que mostram como os criminosos planejaram suas ações. Mas Nam, um advogado sul-coreano, disse que os chatbots criam um novo tipo de cenário.
“O verdadeiro problema é que este formato de conversação permite que potenciais criminosos se envolvam em ‘conversas’ com ChatGPT sem culpa”, disse ele.
“Se um suspeito perguntasse a uma pessoa sobre a dosagem ou administração de um veneno, essa pessoa naturalmente questionaria a intenção – por que alguém pediria informações tão específicas sobre o envenenamento”, disse ele. “No entanto, o ChatGPT não filtra tais consultas através de julgamento ético.”
Como arte Segue-se uma briga Com o uso indevido da tecnologia, enfrenta as mesmas questões sobre segurança que os avanços anteriores, como os cintos de segurança nos automóveis, a moderação nas redes sociais ou os rótulos de advertência sobre produtos potencialmente tóxicos.
“Alcançaremos um equilíbrio com o qual todos se sintam confortáveis”, disse o professor assistente de direito da Universidade Drexel, que estudou governação e responsabilização da IA. “Simplesmente não temos certeza de como é esse ato de equilíbrio.”
