Qualquer um pode codificar usando IA. Mas pode ter um custo oculto.
Inscreva-se para ler esta história sem anúncios
Obtenha acesso ilimitado a artigos sem anúncios e conteúdo exclusivo.
No ano passado, os sistemas de IA avançaram tanto que usuários sem experiência significativa em codificação ou ciência da computação agora podem fazer sites ou aplicativos girarem instruindo chatbots.
No entanto, com o surgimento de sistemas de IA suficientemente poderosos para traduzir instruções em tomos de código, especialistas e engenheiros de software estão indecisos sobre se a tecnologia levará a uma explosão de software inchado e defeituoso ou, em vez disso, sobrecarregará os esforços de segurança, revisando o código de forma mais rápida e eficaz do que os humanos.
“Os sistemas de IA não digitam da mesma forma que nós digitamos”, disse David Locker, chefe de IA da CodeRabbit, uma empresa que ajuda engenheiros de software e organizações a revisar e melhorar a qualidade de seus códigos. “Mas eles cometem muitos erros em todos os aspectos, sendo o código principal deles a legibilidade e a facilidade de manutenção.”
A codificação sempre foi uma arte e uma ciência. desde o dia Codificação de sistema de computador por cartões perfurados Em meados do século 20, as instruções de computação tornaram-se um desafio de elegância e eficiência para os cientistas da computação.
Mas nas principais empresas de IA da atualidade, grande parte da codificação é realizada por sistemas de IA, com engenheiros de software humanos trabalhando mais como treinadores ou arquitetos de alto nível, em vez de mecânicos especializados. O chefe do Código Claude de Antropologia, Boris Cherney, X diz que a IA escreveu 100% do seu código Pelo menos desde dezembro. “Eu nem faço pequenas edições manualmente”, disse Cherney.
A ascensão da codificação assistida por IA – também chamada de vibração de codificação – está simultaneamente permitindo que pessoas que nunca codificaram antes liberem sua criatividade e permitindo que engenheiros de software experientes expandam drasticamente a quantidade de código que escrevem.
“O principal problema em tudo isso foi a produtividade do desenvolvedor”, disse Locker à NBC News. “Tratava-se de aumentar o rendimento em termos de criação de recursos, a capacidade de construir e enviar coisas rapidamente.”
Os sistemas de codificação de IA tornaram-se significativamente mais capazes, no entanto Mesmo a partir de novembroMuitas vezes eles não conseguem entender todo o repositório de código como desenvolvedores humanos experientes. Por exemplo, Loker diz: “Os sistemas de codificação de IA podem duplicar funcionalidades em vários locais diferentes porque não conseguem descobrir que essa função já existe, então eles a recriam continuamente”.
“Agora você acaba com um problema generalizado. Se você atualizar uma função em um lugar e não atualizá-la em outro, terá lógicas de negócios diferentes em áreas diferentes que não se alinham. Você se pergunta o que está acontecendo.”
Com sistema de codificação AI Gerando valores de código de superalimentaçãoOs especialistas se perguntam se o código será a próxima vítima de um ataque de IA. ideia O desperdício de IA foi originalmente popularizado em 2024 À medida que os sistemas de IA se tornam capazes e difundidos o suficiente para começar a produzir volumes de resultados de IA indesejados e de baixa qualidade – desde Imagens geradas por IA de Resultados de pesquisa inúteis com tecnologia de IA.
Por um lado, os sistemas de codificação de IA estão gerando grandes quantidades de código utilizável, mas imperfeito. Por outro lado, esses mesmos sistemas estão melhorando rapidamente na revisão do seu próprio código e na descoberta de vulnerabilidades de segurança.
como, No final de janeiro, o surgimento do código de IA é obrigatório Desenvolvedor líder Daniel Stenberg Para impedir uma tentativa popular de encontrar bugs em um sistema de software popular. Stenberg escreveu em seu blog Que “depósitos intermináveis de resíduos exigem um sério custo emocional para serem manuseados e, às vezes, muito tempo para serem desmascarados. Tempo e energia que são completamente desperdiçados e inibem nossa vontade de viver”.
Ainda na quinta-feira, Stenberg disse A inundação “passou de um tsunami de IA para um… simples tsunami de relatórios de segurança. Menos desleixado, mas com muitos relatórios. Muitos deles são realmente bons”.
As empresas estão percebendo rapidamente que o aumento da quantidade não aumenta automaticamente a qualidade – na verdade, muitas vezes o oposto é verdadeiro, de acordo com Jack Cable, CEO e cofundador da empresa de consultoria em segurança cibernética Corridor.
“Mesmo que (um modelo de linguagem grande) seja bom em escrever código linha por linha, se estiver escrevendo 20 vezes mais código do que um ser humano, há significativamente mais código para revisar”, disse Cable. “Criar toneladas e toneladas de código não é mais um desafio, mas as empresas, se estiverem fazendo seu trabalho corretamente, ainda terão que revisar esse código do ponto de vista da funcionalidade, da qualidade e da segurança.”
Os agentes de codificação de IA estão criando uma “explosão de complexidade”. “E se há uma coisa que sabemos sobre software é que com o aumento da complexidade vem o aumento das superfícies de ataque e vulnerabilidades.”
Em janeiro, o desenvolvedor e empresário Matt Schlicht disse que usou sistemas de codificação de IA para criar um Rede social para sistemas de IA chamada MoltbookAgora propriedade da Meta. No entanto, os investigadores de segurança rapidamente identificaram vulnerabilidades críticas de segurança no software do MoltBook que expunham as credenciais dos utilizadores humanos, que atribuíram às suas raízes codificadas pela IA.
Um desses hackers e pesquisadores éticos, Jamieson O’Reilly, disse à NBC News que a ascensão dos agentes de codificação de IA ameaça criar vulnerabilidades de segurança, dando aos novatos em codificação uma exposição pública significativa sem habilidades de segurança adequadas.
“As pessoas muitas vezes acreditam que os agentes de codificação de IA construirão coisas com os melhores padrões de segurança”, disse O’Reilly. “Não exatamente. A IA está derrubando silos de segurança que foram construídos para proteger os usuários durante décadas e, à medida que esses sistemas de IA evoluem, eles estão sendo negociados por conveniência.”
Daniel Kang, professor de ciência da computação na Universidade de Illinois Urbana-Champaign e especialista em vulnerabilidades de segurança criadas por agentes de codificação de IA, concordou que os sistemas de codificação de IA podem dar aos novos usuários uma falsa sensação de segurança.
“Mesmo se você assumir que a taxa de vulnerabilidades de segurança em qualquer parte do código é constante, o número de vulnerabilidades aumentará dramaticamente porque as pessoas que não sabem nada sobre segurança de computadores, mesmo programadores experientes que não consideram a segurança uma prioridade máxima, criarão mais código”, disse Kang.
Para tentar medir o fenômeno crescente, pesquisadores da Georgia Tech lançaram um Radar de segurança Vibe. Desde agosto, a equipe identificou mais de 70 vulnerabilidades críticas de software, provavelmente devido à codificação de IA, com um aumento significativo nos últimos dois meses. Uma startup de IA chamada Arcade foi lançada recentemente Uma ferramenta para desenvolvedores Para monitorar a negligência do código.
CodeRabbit também publicou um relatório em dezembro O código gerado por IA tem 70% mais erros do que o código escrito por humanos, e os erros gerados por IA são mais graves do que os erros gerados por humanos, embora Loker da CodeRabbit tenha alertado que esses resultados podem estar um tanto desatualizados, dada a rapidez com que os sistemas de IA estão evoluindo hoje.
Embora muitos softwares sejam proprietários e de “código fechado” ou ocultos da vista do público, muitos outros projetos, como o navegador Firefox da Mozilla ou o sistema operacional Linux, são de código aberto e dependem dos membros da comunidade para enviar sugestões para melhorar o software.
Ao reduzir as barreiras ao envio de sugestões para pacotes de software de código aberto, a codificação assistida por IA inundou muitas iniciativas lideradas pela comunidade com código de baixa qualidade nos últimos meses.
“Muitos mantenedores de pacotes com quem conversamos são inundados com lixo”, disse Loker. “Está completamente mal escrito. Não está nem bem pensado, não cabe e há muitas outras bobagens.”
Uma enxurrada de códigos mediados por IA está forçando o GitHub, um dos hosts de repositórios de código mais populares. Repense as práticas de manutenção de software de código aberto. E na sexta-feira, o diretor de operações da plataforma geral do GitHub disse A atividade está praticamente a caminho de crescer 14 vezes em 2026 acima do nível de 2025.
Ainda assim, como diz Steinberg, novos incêndios alimentados por IA podem ser melhor combatidos também com outros sistemas de IA, à medida que programas alimentados por IA para rever e refinar códigos estão a tornar-se cada vez mais populares.
Observando que os próprios sistemas da CodeRabbit são alimentados por IA, Locker disse: “Um sistema de revisão de código que automatiza é realmente necessário agora para a maioria das empresas que adotam esses sistemas.
Cherney, da Anthropic, aposta que melhorias rápidas nas capacidades de codificação dos sistemas de IA ajudarão a resolver os abismos emergentes de qualidade e confiabilidade do código. “Minha aposta é que não haverá erros porque o modelo ficará melhor em escrever códigos menos desleixados e resolver problemas de código existentes”, Cherney escreveu no final de janeiro.
Independentemente da crescente indústria artesanal de sistemas de revisão de código, Kang, da Universidade de Illinois, está convencido de que os codificadores – novos e antigos – podem proteger seus sistemas contra desperdícios de código, adotando fundamentos antigos de segurança cibernética. “Se você aplicar todas as melhores práticas e fizer todas as coisas certas, poderá realmente ser melhor do que antes com um sistema de IA”, disse ele.
No entanto, Kang está pessimista quanto à possibilidade de os usuários realmente adotarem as práticas de segurança adequadas que a Rabid AI adota. Como resultado, ele está preocupado com o impacto a longo prazo do desperdício de código: “Vai explodir. Definitivamente vai ser muito ruim.”
“A questão é como e quando, e é com isso que estou preocupado.”
