É para garantir o cumprimento de uma diretiva governamental que cita preocupações de segurança nacional.
Antroico tem desabilitado Todos os seus clientes acessam Fable 5 e Mythos 5 para garantir o cumprimento de um pedido recebido do governo na sexta-feira, 12 de junho. Todos os seus outros modelos e seu chatbot em nuvem não são afetados. A empresa disse no seu anúncio que o governo dos EUA pretende suspender o acesso aos seus modelos de IA recém-lançados a todos os cidadãos estrangeiros, estejam eles dentro ou fora dos EUA e mesmo que sejam funcionários humanos, citando preocupações de segurança nacional.
Embora o governo dos EUA não tenha especificado essas preocupações, a Anthropic acredita que é porque o governo ouviu falar de um método para desbloquear o Fable 5. A empresa acaba de lançar o modelo Fable AI, projetado para levar muitas das habilidades do Mythos às massas, em 9 de junho. Qualquer modelo anterior introduzido pela Anthropic “sem” as capacidades do parceiro Fable. cai fora Pokémon Fogo Vermelho Durante o teste da empresa, por exemplo, quando Claude não consegue vencer pokémon vermelhoO jogo original foi baseado nele.
Em sua postagem, a Anthropologie listou as medidas tomadas para garantir a proteção de Fable. Ele disse que “introduziu fortes salvaguardas para reduzir o potencial de uso indevido do Fable para tarefas relacionadas à segurança cibernética” e acrescentou que suas “salvaguardas são tão fortes que muitos usuários reclamaram que são excessivamente amplas”. A empresa também explicou que nenhum provedor pode garantir resistência perfeita às tentativas de jailbreak e que cada modelo é vulnerável a jailbreaks projetados especificamente para ele. “Nosso objetivo é tornar a produção de jailbreaks restrita (no caso de jailbreaks não universais) ou muito cara (no caso de jailbreaks universais) e combinar isso com monitoramento completo para detectar e impedir rapidamente qualquer ataque bem-sucedido”, disse sobre sua estratégia de defesa.
O governo aparentemente deu provas orais à empresa para realizar uma fuga de presos potencialmente restrita e não pública que uma entidade não identificada compartilhou com as autoridades. A Anthropic prometeu compartilhar mais detalhes nas próximas 24 horas, mas deixou claro que não concorda que um potencial jailbreak deva ser motivo para retirar um modelo comercial.
“Como dissemos publicamente, acreditamos que os governos deveriam ter a capacidade de bloquear instalações inseguras como parte de um processo legal que seja transparente, justo, claro e baseado em factos técnicos”, escreveu a Anthropic, que tem sido vocal sobre as suas advertências sobre a necessidade de mais supervisão da IA. “Esta ação não está em conformidade com esses princípios.”
