Como entusiasta da PNL, muitas vezes sou o primeiro a experimentar um novo modelo nativo quando ele é lançado, se não for de nível empresarial para clusters H100. O ritmo dos lançamentos acelerou a tal ponto que é muito fácil ignorar modelos capazes ou, pior, delegar as tarefas erradas à pessoa errada. Nem todo mundo terá tempo de examinar a documentação ou executar seus próprios benchmarks de desempenho para descobrir o que está faltando, e a diferença entre um modelo criado para a tarefa e outro que apenas a tolera é grande o suficiente para fazer diferença.
Depois de alguns meses experimentando (e bagunçando tudo), escolhi algumas coisas que superam consistentemente o resto da codificação, do brainstorming e do trabalho com o Home Assistant. Eles reduziram minha dependência de assinaturas de nuvem e, como são executados em meu próprio hardware, são totalmente privados e seguros. Aqui está o que eu uso.
Qwen3-Coder superou consistentemente meu benchmark
Não consegui encontrar um modelo de desenvolvimento nativo em Python melhor
Se você passou algum tempo experimentando padrões de codificação nativos nos últimos meses, o Qwen3-Coder não será uma grande surpresa. Ele rapidamente se tornou confiável e, depois de usá-lo para criar vários utilitários Python do zero, entendi o porquê. É o primeiro modelo que procuro sempre que inicio um novo projeto e, mais importante, tornou-se um dos poucos modelos locais que tende a produzir um primeiro rascunho limpo sem gastar os próximos vinte minutos depurando ou limpando.
Parte do seu apelo reside na disponibilidade de uma família de modelos dependendo das minhas necessidades e, claro, do meu hardware. Com Ollama (ou LM Studio), o Qwen3-Coder está disponível como um modelo de mistura de especialistas de 30B adequado para um grande buffer VRAM, enquanto uma versão massiva de 480B é destinada à implantação empresarial. O modelo de consumo é o que interessa à maioria das pessoas e é surpreendentemente compatível com uma ampla variedade de hardware. Embora tenha um total de 30 bilhões de parâmetros, ele ativa apenas 3,3 bilhões para cada token gerado, permitindo criar uma lógica de codificação sofisticada enquanto mantém o desempenho do RTX 4070 Ti Super. O Alibaba também o treinou extensivamente usando aprendizado de reforço em solicitações pull do GitHub, e isso certamente fica evidente em uso.
Se você está mais inclinado ao desenvolvimento front-end e interfaces React ou JavaScript únicas, recomendo manter o Qwen 3.5 mais recente junto com ele. Os dois se complementam perfeitamente quando usados juntos.
Finalmente encontrei um LLM nativo de código aberto que realmente compete com a IA da nuvem
O código aberto está chegando
Gemma 4 é a única parceira de brainstorming em quem confio
É como um ChatGPT privado e local
A maioria das pessoas confia no LLM para entender os dados e descobrir tendências que, de outra forma, levariam muito tempo ou seriam simplesmente difíceis de analisar manualmente. Essa dependência tem aumentado constantemente desde 2023, mas o problema é que nem todos os usuários confiam esses dados aos provedores de nuvem, especialmente se contiverem informações identificáveis que lhes causariam problemas se comprometidas. Pense em extratos bancários, relatórios de saúde, demonstrativos de fluxo de caixa de uma pequena empresa ou documentos legais. Embora existam provedores de serviços em nuvem que fornecem anonimato e cumprem os regulamentos de proteção de dados, eles são não imune a violações de dados. Portanto, uma maneira segura de proteger seus dados é garantir que eles nunca saiam do seu dispositivo.
Para isso, uso o Gemma 4. Para a maioria das tarefas cotidianas, seus recursos de raciocínio não estão muito longe do ChatGPT 4.0, e posso ficar tranquilo sabendo que posso entregar documentos confidenciais, como extratos bancários, capturas de tela de despesas mensais, faturas em PDF e até notas manuscritas, sem me perguntar onde elas vão parar.
O suporte multimodal nativo fornecido pelo modelo aberto do Google destaca a família Gemma. Em vez de ter que extrair os dados através de uma camada de OCR antes de fazer perguntas, posso simplesmente arrastar qualquer documento disponível e começar a consultá-lo. Eu o usei para coletar relatórios, notas e assinaturas recorrentes que aparecem em meu extrato mensal sem que nenhum arquivo chegue ao servidor em nuvem. A janela de contexto de 256K no Gemma 4 26B (A4B) significa que quase toda a coleção pode permanecer na memória de trabalho para continuidade.
Usei Gemma 4 e Qwen 3.5 para as mesmas tarefas locais e um estava quilômetros à frente
Colocá-los uns contra os outros para descobrir o que funciona melhor para meu fluxo de trabalho
Qwen3 4B Instruct é perfeito para a maioria das automação residencial inteligente
O modelo mais leve que faz o trabalho mais útil
Quando se trata de integração do Home Assistant, existe um modelo Qwen construído para esse fim. O Qwen3 4B Instruct é um modelo leve que suporta chamada de ferramenta nativa, um requisito não negociável que exclui a maioria dos modelos de uso geral. Sem ele, o LLM pode “discutir” sua casa inteligente, mas não pode fazer nada que exija ação. Cerca de 3 GB de VRAM deixam bastante espaço para hardware pequeno durante a quantização do quarto trimestre, e a latência faz com que as respostas pareçam instantâneas ao executar vários comandos.
A razão para escolher o modelo 4B mais compacto em vez do modelo 30B maior é o fato de que os assistentes domésticos recompensam a velocidade, a confiabilidade e as respostas previsíveis muito mais do que o raciocínio profundo ou as habilidades de pensamento. É por esta razão que o Qwen3 4B Instruct também evita o comportamento do modo “pensamento” que pode interromper as interações, contando o raciocínio por trás da ação antes que ela ocorra. Ele recebe as instruções e realiza o trabalho, e 90% das vezes isso é tudo que você precisa.
Este é o melhor momento para executar IA nativa
O ecossistema nativo de IA ainda pode parecer desorganizado para iniciantes, embora ferramentas como Ollama e LM Studio tornem a implantação muito mais fácil do que costumava ser. A barreira de entrada tanto para software quanto para conhecimento nunca foi tão baixa. Isso também significa que há uma boa chance de você ainda não ter encontrado o modelo que melhor se adapta ao seu fluxo de trabalho ou caso de uso. À medida que os modelos abertos continuam a melhorar, é mais provável do que nunca encontrar um modelo que possa substituir, ou pelo menos complementar, as suas subscrições de IA na nuvem.
