Desde que comecei a hospedar grandes modelos de linguagem em meu laboratório doméstico, descobri muitos aplicativos que podem aproveitar suas excelentes capacidades de raciocínio. Scanners OCR como Paperless-GPT funcionam muito bem com meus LLMs, e o mesmo vale para Open Notebook, Blinko e outros programas de produtividade que suportam análise RAG. No entanto, é nas cargas de trabalho do desenvolvedor que esses modelos realmente brilham, e digo isso como alguém que usa o VS Code com a extensão llama-vscode para tudo, desde refatoração de código até depuração e análise de vulnerabilidade.
Mas nas últimas semanas comecei a pesquisar equipamentos de agentes, ferramentas que podem usar o LLM para inferir meus prompts, gerar instruções e executar toda a série de ações de forma autônoma. O Pi é uma dessas máquinas de agente e é meu aplicativo de IA preferido para DevOps, codificação e tarefas regulares de personalização – desde que eu use uma determinada extensão pré-configurada para contornar sua maior desvantagem.
As duas GPUs antigas que salvei fazem mais trabalho de IA do que uma placa nova de US$ 2.000, e não irei atualizar tão cedo.
Eu construí uma configuração de IA nativa a partir de duas GPUs antigas à venda por um preço barato e é melhor do que uma única placa nova
O design básico do Pi o torna ótimo para configurações auto-hospedadas
Foi assim que consegui no meu Raspberry Pi
Ao contrário do Pi, os agentes de codificação típicos normalmente têm uma variedade de ferramentas, fluxos de trabalho, regras e exemplos que, em última análise, alimentam a janela de contexto. Em LLMs baseados em nuvem, capazes de contextualizar centenas de milhares de marcadores, aspectos adicionais do agente podem parecer triviais. Mas se você tiver um servidor LLM auto-hospedado com uma janela de contexto limitada, você desejará minimizar ao máximo a entrada do agente. E isso antes de falar sobre o emparelhamento de servidores MCP com esses agentes, porque suas ferramentas geralmente ocupam ainda mais comprimento de contexto. Para sua informação, tenho um RTX 3080 Ti desatualizado executando Qwen3.6-35B-A3B usando descarregamento MoE, então prefiro ser extremamente seletivo sobre quais conjuntos de agentes colocam na janela de contexto limitada do meu servidor lhama.
Substituí ChatGPT e Claude por este poderoso LLM nativo e economizei mais de US$ 20 por mês enquanto obtive controle total
Qwen3.6 roda na minha GPU antiga e faz o que o ChatGPT faz de graça
É aqui que o Pi brilha com sua abordagem minimalista aos fluxos de trabalho dos agentes. Em vez de lançar dezenas de entradas extras na janela de contexto do meu servidor lhama, as funções Pi leem, escrevem, editam e bash comandos para evitar assumir o controle dos recursos de computação da máquina de hospedagem LLM. Todo o resto, sejam fluxos de trabalho, ferramentas ou recursos adicionais, podem ser incluídos por meio de extensões personalizadas e são criados por ninguém menos que os LLMs conectados ao Pi. É basicamente uma ferramenta de codificação que pode modificar meu design para evoluir de acordo com as necessidades do desenvolvedor.
É claro que emparelhar o Pi com clankers fracos pode resultar em expansões pouco funcionais. Mas com produtos como o Qwen3.6-35B-A3B Pi, expansões extremamente eficientes podem ser desenvolvidas. Na verdade, meu combo lhama-server + Pi conseguiu fazer a extensão Proxmox funcionar na primeira tentativa, enquanto a maioria dos repositórios GitHub que tentei explorar não conseguiram conectar meus LLMs à plataforma de virtualização. Isso significa que o design leve e a personalização infinita do Pi têm uma grande desvantagem que pode potencialmente quebrar o host…
Infelizmente, faltam guarda-corpos essenciais
Um comando mal traduzido e meu ambiente de desenvolvimento fica ruim
Além dos LSPs, das pontes MCP e das ferramentas usuais, o Pi também ignora as regras de segurança normalmente aplicadas aos chicotes de agentes concorrentes. A falta de uma postura de segurança adequada significa que o Pi funciona no modo YOLO, o que é um pouco intimidante para um instrumento vinculado ao LLM. Combine isso com uma nova instalação do Pi que tenha acesso total aos comandos do shell sem nenhuma proteção ou pop-up de confirmação, e um prompt mal interpretado é tudo o que o Pi precisa para destruir minha máquina de codificação.
Para sua informação, até mesmo Qwen3.6-35B-A3B falhou ao tentar verificar o ambiente Podman usando a extensão Docker quando pedi para verificar o status de meus contêineres sem me informar qual extensão usar. Agora, isso pode não ter causado nenhum dano ao meu sistema, mas não é difícil imaginar um cenário em que um clunker de baixa especificação pudesse excluir acidentalmente pastas importantes ou substituir arquivos de projeto se não entendesse o prompt.
Com o volumoso modelo 35B, posso reduzir ainda mais o potencial de erros catastróficos
Embora o Pi não seja fornecido com recursos de segurança, ainda é possível adicioná-los por meio de pacotes complementares. Embora existam algumas extensões pré-configuradas realmente úteis (pi-web-access, pi-subagents e pi-hermes-memory, para citar algumas), eu não chamaria minha configuração do Pi de pronta para a batalha sem o sistema de permissão pi.
Esta extensão não apenas protege arquivos confidenciais do sistema para conversão no Pi, mas também usa correspondência de padrão curinga para verificar se os comandos bash destinados a serem executados pelo meu LLM correspondem às regras de permissão, solicitação ou negação. Melhor ainda, posso personalizar livremente as regras do bash e as permissões de caminho no arquivo de configuração do sistema pi-permission. Por exemplo, configurei os comandos mv, rm, chown e chmod para solicitar permissões, o que significa que Qwen3.6-35B-A3B terá que pedir minha aprovação antes de fazer qualquer modificação/destruição. Além disso, também bloqueei os diretórios críticos do sistema por trás de uma regra de rejeição para não travar o sistema depois que meu LLM criar uma cadeia destrutiva de instruções.
