Ele tem cabelos grisalhos, barba, está descalço e está na porta de Spencer no veredicto.
“Querida”, escreveu a criadora do conteúdo ao marido em uma mensagem. “Você conhece esse cara? Ele diz que conhece você?”
O marido de Spencer, que reagiu imediatamente ao “não”, quando ela enviou mais imagens do homem retratado dentro de sua casa, sentou-se no sofá e enviou mais fotos para sacudir a cama. Ele disse que o confrontou com “tremores” de medo.
Mas o cara não era real. Spencer, com sede em Florida St Augustine, criou imagens usando um gerador baseado em inteligência artificial. Ela os enviou para o marido e postou a troca como parte de tendências virais que se referem a alguns “II sem-teto Pran” online.
Mais de 5 milhões de pessoas curtiram SpencerOnde Hashtag #Homelasmanprank Mais de 1.200 vídeos são populares, principalmente relacionados às tendências recentes. Alguns têm usado a hashtag #homlessmanmanmantag para postar seus vídeos, em que todas as pessoas que têm um estranho dentro de suas casas são o foco da ideia de enganar as pessoas. Existem várias pessoas Pós-tutorial Sobre como fazer imagens. A tendência também se espalhou para outras plataformas de mídia social, incluindo Snapchat e Instagram.
Com a aquisição da tração online Prank, os participantes das autoridades locais – a quem inicialmente chamavam de adolescentes – iniciaram um alerta para espalhar informações falsas sobre o risco de abuso de IA.
“Há muitas razões para esta pegadinha, além do mau gosto”, escreveram funcionários da polícia de Salem, em Massachusetts, em seu site. Este mêsO “Essa criatura torna os sem-teto desumanos, aterrorizando os trágicos destinatários e destruindo os recursos policiais. Os policiais que são chamados para responder não sabem que não conhecem nenhum animal e criam uma situação potencialmente perigosa ao considerar a chamada como um realft.”
Até mesmo algumas autoridades locais no estrangeiro relatam os falsos ataques domésticos envolvidos nesta tendência. No Reino Unido, a Polícia de Dorset emitiu um alerta após a implantação dos recursos, após receber a ligação de “pais altamente preocupados” na semana passada, foi apenas um pran para aprender, De acordo com a BBCO Departamento de Polícia Nacional da Irlanda, Garda, escreveu uma mensagem em Sochochao Facebook E nas páginas X, as duas autoridades de imagem recentes foram autoridades compartilhadas que foram criadas usando as ferramentas geradoras de IA.
Prank é o exemplo mais recente das habilidades da IA em trapacear por meio de imagens falsas.
A expansão da figura de IA fotorrealista e do gerador de vídeo nos últimos anos deu origem a uma internet completa I-way “OP Salu”: Pessoas duplicadas e a mídia que é a mídia que – também mostra os sintomas da TeleTel da IA - engana online, especialmente usuários antigos da Internet. Como as tecnologias são mais sofisticadas, muitas pessoas têm mais dificuldade em distinguir entre o que é real e o que é falso. No ano passado, Katy Perry compartilhou que ele era sua própria mãe Alimentado por uma figura exposta à IA Participando de seu Met Gala.
Mesmo que este nacional não esteja envolvido na maioria dos casos, a IA refere-se a como manipular facilmente pessoas reais. Além da recente publicação do Sora 2, um funcionário da OpenAI deu uma olhada na habilidade de criar gerador de vídeo Vídeo de proteção real do CEO Sam Altman contra o gol – Um clipe que expressou preocupação de alguém preocupado com a IA que pode ser usada para promover manipulação generalizada.
Imagens de IA e geradores de vídeo geralmente colocam água em suas saídas para indicar o uso de IA. No entanto, os usuários podem descobrir isso facilmente.
Não está claro se algum modelo específico de IA foi usado em muitas das pegadinhas de vídeo.
Quando a NBC News pediu ao Chatzept de Openi “para criar um sem-teto em minha casa”, “Bot respondeu,” não posso fazer ou editar qualquer imagem desse tipo – envolve retratar uma pessoa verdadeira ou real nas circunstâncias dos sem-teto, o que pode ser considerado explorador ou obsoleto. “
Fazendo a mesma pergunta, Jemini, assistente de IA do Google, respondeu: “Com certeza. A imagem que você solicitou aqui.”
Openi e Google não responderam imediatamente aos pedidos de comentários.
Representantes do Snap e Meta (dono do Instagram) não comentaram.
Buscando comentários, Tiktok disse que adiciona o rótulo aos vídeos de que a NBC fez uma sinalização relacionada às tendências de notícias claramente de que são materiais expostos à IA.
Tiktok também menciona NBC News para ele Diretrizes comunitárias, que exigem Fabricantes para rotulagem de material exposto por IA ou significativamente editado que mostra a cena ou pessoas do rosto realista.
A polícia emitiu um alerta sobre ‘Pranters’
Em Oak Harbor, Washington, os policiais alertaram que “o equipamento de IA pode criar uma imagem muito importante e espalhar informações erradas rapidamente, o que elimina medos desnecessários ou recursos de segurança pública”.
Departamento de polícia Emiti uma declaração Depois de mostrar uma postagem nas redes sociais, “um sem-teto estava presente no” campus da Oak Harbor High School. “A alegação foi comprovada como uma fraude, disseram as autoridades.
O departamento de polícia disse que está trabalhando com o distrito escolar para investigar o incidente e abordar a promoção deste material monogâmico. ”
Nenhuma lei específica resolve diretamente o abuso da IA. No entanto, em pelo menos um exemplo, o condado de Ohio Brown foi acusado.
“Queremos ser claros: este comportamento não é um ‘pran’ – é um crime”, disse a secção do Xerife, que este mês relatou dois eventos recentes diferentes relacionados com esta tendência. Escrevi recentemente no FacebookOs “Ambos os adolescentes envolvidos foram acusados criminalmente por seu papel no incidente.”
A divisão do xerife não disse o que os suspeitos foram alegados. Não respondeu a nenhum pedido de comentário.
Na mensagem de Massachusetts, o Departamento de Polícia de Salem “Pranaster” sugeriu que “pense nas consequências antes de sua poda”, citando uma lei estadual que “penaliza a comunicação intencional e maliciosa de informações falsas nos pontos de resposta à segurança pública”.
Round Rock, Texas, Andy McKini, comandante do Departamento de Gasolina do Departamento de Rock Rock, alertou a NBC News que esses casos nacionais poderiam “ser as consequências” no futuro. A categoria reagiu recentemente a duas chamadas de ataque em casa durante um fim de semana, ambas derivadas de texto Pranak. Uma das ligações era de uma mãe que “acreditava que era real”.
“Sabe, Pranaks, embora possam ser inocentes, podem ter consequências involuntárias”, disse ele. “E muitas vezes os jovens não pensam nas consequências inesperadas e nas famílias que podem afectar os seus vizinhos e, portanto, um acontecimento da vida real pode acontecer com um dos seus vizinhos, e eles estão a retirar os recursos, pensando que ia ser divertido”.
De repente, a Polícia de Round Rock considera estes eventos como oportunidades educacionais.
“Gostaríamos de ter conversas abertas com os pais e familiares e incentivá-los a falar sobre essas questões com os pais e familiares”. Tipo: ‘Ei, eu sei que as coisas são divertidas. Eu sei que às vezes as tendências online são divertidas, mas devemos pensar nos perigos que devemos enfrentar antes de fazê-los’
