Modelos nativos universais são o que a maioria das pessoas busca, inclusive eu. Eles lidam com tudo que não é código, o que basicamente dura o dia todo se você não for um desenvolvedor. Na maioria das vezes, tudo que preciso é apenas um bate-papo, uma pesquisa rápida, um brainstorming em voz alta, uma síntese de documentos, etc.
Mas depois de meses girando os mesmos dois ou três modelos, começa a parecer um pouco obsoleto, como comer o mesmo almoço todos os dias. E não era só todos os dias, comecei a notar que faltavam em determinados lugares. O design Vibe foi na verdade uma área onde começou a surgir. Meus modelos genéricos podiam falar bem sobre o design, mas quando os conectei a uma ferramenta de design nativa e solicitei o resultado real, os resultados foram difíceis. Os modelos de codificação lidaram com isso significativamente melhor. Isso me interessou em tempo integral.
Quer se manter atualizado sobre as últimas IA? O boletim informativo XDA AI Insider é publicado semanalmente com análises aprofundadas, recomendações de ferramentas e informações práticas que você não encontrará em nenhum outro lugar do site. Assine alterando suas preferências de boletim informativo!
Por que o modelo de codificação faz sentido
Para quem não codifica
Se você leu algum dos meus artigos relacionados a IA, sabe que não sei muito sobre código ou fluxos de trabalho de desenvolvedor. Nunca escrevi um script, não conheço muito a linguagem e, na metade das vezes, quando os rastreamentos de pilha aparecem, simplesmente coloco-o em algum lugar e espero pelo melhor. Há muitas coisas no meu computador que são criadas como código. Então, aqui estou falando sobre coisas como o pré-requisito YAML em minhas notas do Obsidian, os arquivos de configuração JSON para cada ferramenta de IA ser executada, a tag que precisa permanecer formatada de uma determinada maneira, a estranha impressão de log quando algo no Docker se recusa a iniciar, coisas assim.
Tudo isso tem regras: os recuos devem corresponder e as chaves e os valores devem corresponder. No modelo geral de chat, as regras são tratadas como sugestões porque são otimizadas para parecerem úteis. O modelo de codificação vê as regras como tudo.
O Qwen 2.5 Coder foi treinado em 5,5 trilhões de tokens, mas apenas cerca de 45% deles eram código-fonte. O resto da linguagem era natural, então não é um bot que só fala Python. Além do lado do código, o que também é importante aqui é que o Qwen 2.5 foi adaptado especificamente para saída estruturada como JSON e para execução de instruções, já que o Coder herda dele. Depois, há o lado do design, que realmente me surpreendeu. Os modelos personalizados para codificação apenas comprimem melhor o código do componente utilizável quando estou trabalhando em uma ferramenta nativa de design de vibração, e eu não iria continuar fingindo que Gemma estava cortando isso.
Eu escolhi o Qwen 2.5 Coder 3B Instruct. É de novembro de 2024, o que é um pouco antigo na época da IA. Para Q4_K_M é cerca de 1,9 GB, o que significa que meu RTX 3070 com 8 GB de VRAM pode descarregar tudo e ainda ter espaço para contexto. A versão GGUF suporta contexto de 32K pronto para uso, e o modelo em si é ajustado para as mesmas tarefas estruturadas pelas quais o carro-chefe de 32B é conhecido, apenas reduzido. O melhor uso para variantes pequenas é exatamente o que eu procurava. Tarefas locais que exigem mais precisão do que profundidade e um processo rápido de entrada estruturada.
O que eu realmente faço com o Qwen Coder 2.5
Pequenas tarefas irritantes, principalmente
Eu não o uso para scripts ou desenvolvimento de software, mas principalmente para as coisas irritantes que ocupam o dia no computador. O melhor exemplo são os arquivos de configuração. Quase todas as ferramentas de IA que usei funcionam com algum tipo de configuração, seja um arquivo JSON dos servidores Claude Desktop MCP, configurações do LM Studio ou arquivos de script que coletei de vários experimentos auto-hospedados. Quando preciso adicionar um novo servidor, alterar um caminho ou consertar algo quebrado copiando e colando, transfiro o arquivo e o limpo. Isso garante que nenhuma vírgula seja eliminada e que não haja explicações tagarelas sobre as alterações.
O frontmatter Obsidian é outro. Meu repositório vem crescendo há algum tempo e o YAML no topo das minhas notas nunca foi consistente; alguns tinham tags, datas e campos que eu havia esquecido. A padronização em massa ou a adição de uma nova propriedade a um lote é exatamente o tipo de coisa que o modelo de codificação trata rapidamente.
Depois, há a categoria “algo quebrou”. Pode ser um contêiner que não inicia, ou uma ferramenta Python que lança rastreamentos de pilha, ou um arquivo de log que tem três mil linhas e apenas uma delas é a razão pela qual tudo não está funcionando. Colei e perguntei o que estava acontecendo. Ele lê o caos estruturado para ganhar a vida, então realmente encontra a coisa. Uma pequena limpeza de dados também está incluída aqui. Exportações estranhas de CSV, uma resposta de API que quero transformar em uma tabela legível, esse tipo de coisa.
Um código legítimo usa círculos em alguns dos meus trabalhos de design. Ultimamente tenho testado ferramentas nativas como Open Design e Open CoDesign e elas permitem adicionar modelos nativos. Esse fluxo de trabalho de design de vibração é a coisa mais próxima de “escrever” código e, mesmo assim, não sou eu quem o escreve, estou apenas descrevendo o que quero.
Onde Gemma 4 ainda recebe a conta
Não é uma mudança completa, mas um acréscimo
Não pretendo afastar Gemma. Ainda está no meu carro e ainda é o que procuro na maioria dos dias, mas não para as coisas estruturadas, pois percebi que esse não é o seu ponto forte. A conversa real é onde ela vence. Por exemplo, pensar em algo ou desenvolver um ângulo de ideia. Aquelas idas e vindas em que você ainda não está procurando uma resposta, você está apenas tentando descobrir o que está sendo perguntado. Os modelos de codificação são uma péssima empresa para isso.
A visão é o segundo grande problema. O codificador Qwen 2.5 é somente texto, portanto não há entrada de imagem. Gemma 4 processa imagens nativamente, o que é muito importante para mim porque estou constantemente extraindo informações de capturas de tela, desde a captura de uma interface do usuário que preciso descrever ou de um diagrama que desejo resumir até algo que observei e sobre o qual desejo feedback.
Conhecimentos gerais e estudos de luz também permanecem do lado de Gemma. É mais amplo, mais falador e se eu quiser aprender rapidamente algo sobre o qual não sei muito, é uma primeira parada melhor. E especificamente sobre o código, quero ser honesto. Não é ruim para Gemma, simplesmente não foi projetado para isso. Para a pergunta “o que esta linha faz”, tudo bem. Mas para algo mais estruturado, Qwen Coder é uma escolha melhor.
Não é um modelo que eu esperava manter
Desde que comecei a usar o código de Claude, trabalhar com coisas com sabor de código pareceu menos intimidante, então experimentar localmente um modelo amigável à codificação foi o próximo passo bastante natural. E acabou sendo muito adequado, quase como uma versão nativa do código de Claude para análise e tarefas estruturadas. O tamanho 3B também funciona bem no meu computador, o que é outro motivo pelo qual ele está travado.
