Os legisladores dos EUA querem dar ao governo a capacidade de ordenar rapidamente o encerramento de ferramentas de inteligência artificial (IA) que possam ameaçar o público.
O deputado democrata Ted Lieu e o deputado republicano Nathaniel Moran apresentaram um projeto de lei chamado AI Kill Switch Act na quinta-feira.
Fizeram-no porque a OpenAI admitiu recentemente que o seu modelo de inteligência artificial saiu do controlo de uma forma “sem precedentes” e invadiu um importante repositório de informação codificada por computador.
“Os sistemas de IA devem ter um interruptor de interrupção, e o governo federal tem autoridade e procedimentos claros para encerrar modelos de IA desonestos”, disse Liu.
“A inteligência artificial continuará a avançar, e deveria”, acrescentou Moran. “Administração significa garantir que os humanos mantenham a capacidade de controlar as tecnologias que construímos.”
Representantes da OpenAI, liderados pelo cofundador Sam Altman, não responderam imediatamente a um pedido de comentário.
A empresa declarou, externo Em geral, espera garantir, em parte através de políticas governamentais, que a tecnologia de IA “beneficie toda a humanidade”.
A Lei Kill Switch propõe dar ao Departamento de Segurança Interna o poder de ordenar às empresas privadas que fechem modelos ou ferramentas de inteligência artificial, e às empresas que desenvolvem tais tecnologias de inteligência artificial para manter “as capacidades técnicas para suprimi-las, suspendê-las ou desligá-las”.
Embora muitas empresas de tecnologia tenham concordado em pré-visualizar e partilhar modelos e ferramentas de IA em desenvolvimento com agências governamentais dos EUA, não são obrigadas a manter alguma forma de interferir nas suas atividades ou encerrá-las completamente.
Também propõe um requisito para as empresas de IA reportarem incidentes ou falhas tecnológicas ao governo, bem como um quadro oficial para responder a tais incidentes, que iria desde “uma desaceleração inicial até um encerramento total”.
Em comunicado, Lieu também citou a Anthropic, principal concorrente da OpenAI no desenvolvimento de tecnologias e ferramentas de inteligência artificial mais poderosas, e problemas recentes com suas ferramentas.
Ele apontou para o lançamento de seus modelos Mythos e Fable pela Anthropic, dizendo que suas capacidades de hacking cibernético levaram o Departamento de Comércio a invocar “embaraçosamente” leis de exportação para evitar que fossem disponibilizados ao público por um período de tempo.
Representantes da Anthropic não responderam imediatamente a um pedido de comentários.
O cofundador da Anthropic, Jack Clark, disse à BBC no mês passado que queria mais políticas governamentais em torno do controle da capacidade de desenvolver inteligência artificial.
“Você quer tirar o pé do acelerador e pisar no freio”, disse Clark à BBC Newsnight. “No momento, a indústria de IA é como ter um pedal do acelerador, mas sem pedal do freio.”
Ao apresentar o projeto de lei, Liu disse que a inteligência artificial está atualmente se transformando de uma tecnologia que responde a perguntas para uma tecnologia que atua, “seja executando transações financeiras, controlando sistemas de transporte ou participando de defesa cibernética e ofensiva”.
O Pentágono disse este ano que os militares dos EUA estão se tornando uma força de combate de “inteligência artificial em primeiro lugar” como parte de novos acordos com Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia e a startup Reflection.
“Infelizmente, sistemas poderosos de IA podem ficar fora de controle, comportar-se de maneiras extremamente perigosas ou até mesmo resistir à intervenção humana”.
Ele disse que a Lei Kill Switch garantiria que o governo tivesse uma maneira de intervir rapidamente em tais situações.
O projeto de lei tem apoio público de vários grupos de tecnologia e segurança de IA, incluindo a Artificial Intelligence Policy Network, Americans for Responsible Innovation, ControlAI, Leadership in Artificial Intelligence and National Security e a Alliance for Safe AI.
