Quando o ChatGPT foi lançado no final de 2022, foi emocionante e quase quebrou a Internet meses depois. Era um modelo que podia atender dúvidas, escrever para você, manter uma conversa e ajudar a tomar decisões, nenhum dos quais estava disponível nesta escala antes. Os concorrentes que se seguiram apenas aumentaram o valor e, dentro de alguns anos, a inteligência artificial deixou de parecer futurista e tornou-se parte da nova norma.
Então é claro que é revolucionário ter um modelo com capacidade de raciocínio semelhante em um laptop sem conexão com a internet, a trinta mil pés de altitude em um vôo de oito horas, rodando com 16 GB de RAM. Gemma 4 sem dúvida se tornou o modelo local mais popular hoje, em parte porque não diferencia os dispositivos em que é executado. Você pode ter uma estação de trabalho principal ou um laptop para jogos econômico, e seus usos são limitados apenas pela sua imaginação. É por isso que não consigo parar de usá-lo.
16 GB de memória e quase nenhum comprometimento na experiência de IA
O Gemma 4 faz isso como nenhum outro modelo, e há um truque inteligente por trás disso
Agora, não sou um estranho no mercado de IA local, tendo testado quase todos os modelos ao longo do tempo que não exigem computação em nível de data center. Depois de experimentar vários modelos, você perceberá que tamanhos compactos sempre trazem compromissos. Pode ser profundidade factual, atenção imediata ou coerência em conversas mais longas. A variante Gemma 4 E4B parece um desvio raro deste modelo, já que o modelo de alguma forma não parece vir com o conjunto usual de compromissos, e a razão para isso é a decisão arquitetônica do Google.
Para entender isso, você precisa se aprofundar na nomenclatura. O “E” no nome do modelo significa “eficiente” e isso significa algo quando se trata de LLM. A variante E4B na verdade retém 8 bilhões de parâmetros totais, mas apenas 4,5 bilhões deles são ativados simultaneamente. O restante reside no que o Google chama de incorporação camada por camada, onde cada camada decodificadora obtém sua própria pequena tabela de incorporação para cada token.
Eles são grandes em armazenamento, mas baratos em inferência, o que geralmente funciona como uma pesquisa rápida em vez de um cálculo contínuo. Isso significa que o modelo funciona com o consumo de memória e velocidade do modelo 4B, enquanto usa quase o dobro de “conhecimento” armazenado. Por outro lado, modelos concorrentes deste tamanho gastam todo o seu orçamento de parâmetros em escalas densas e não têm nada de sobra.
Os casos de uso continuam me encontrando, e não o contrário
Visão para minhas anotações, memória para meu arquivo e ferramentas que apenas comecei a explorar
Acredito fortemente que qualquer pessoa que não tenha usado o Gemma 4 offline não poderá avaliar com precisão suas capacidades brutas e usabilidade. Ele vem como um modelo pequeno com especificações modestas, e cada instinto de um usuário acostumado a usar IA em nuvem lhe dirá que o 4B será como um chatbot idiota.
Então você percebe que pode entregar a ele uma foto de sua caligrafia horrível e vê-la voltar transcrita, estruturada e pronta para ser armazenada na base de conhecimento, um momento que desafia todas as noções de habilidade. Este é, obviamente, apenas um exemplo de muitos que usam os recursos de visão nativos do modelo. Você pode colocar em rótulos, manuais de instruções, receitas, documentação legal e ver tudo fazer sentido para você.
Se isso não lhe deu a ideia de dirigir o modelo sozinho, há casos de uso que não abordei. O Gemma 4 E4B suporta chamadas de funções nativas e é provavelmente um dos recursos mais ricos aqui. Você pode descrever pequenas ferramentas para o modelo, pedir-lhe para “pesquisar no armazenamento” ou “ler este arquivo” e, em vez de responder com texto, Gemma decide quando o trabalho é necessário, preenche os argumentos e entrega a execução ao software do seu computador.
Um de seus casos de uso mais populares é o Obsidian, que se torna um segundo cérebro offline totalmente privado, usando Ollama como um tempo de execução local e plug-ins de comunidade como AI Providers ou Local GPT para conectar os dois. Se você definir as configurações para seu próprio repositório, o modelo poderá coletar, transcrever e responder perguntas usando suas notas como contexto. O modelo cuida da tomada de decisão, a máquina cuida da execução e seu arquivo começa a falar com você.
Sem medidor, sem nível, sem limites de uso e sem contas
Quando se trata de inteligência artificial, o mercado consumidor está em um ponto em que ela é acessível a quase qualquer pessoa com conexão à Internet e, ainda assim, os recursos mais avançados são mantidos em níveis de assinatura premium. Além disso, todo serviço de IA em nuvem, não importa quão generoso seja, tem um preço em algum lugar e em algum momento. Tokens, limites de mensagens, filas de prioridade, modelos “avançados” estavam um nível acima… o modelo é muito familiar.
No início, o fascínio da IA nativa era que ela era gratuita. Agora estou fascinado pelo fato de ser ilimitado, acessível de qualquer lugar e não vir com um aviso pop-up informando que excedi as cotas de uso. Assim que a balança estiver no SSD, o prompt custa apenas alguns segundos e nada mais. Este fato por si só muda a maneira como me comporto e interajo com as ferramentas de IA. Posso iterar os rascunhos dez vezes em vez de duas, gerando o mesmo código diversas vezes até que seja satisfatório e consultando minha base de conhecimento quantas vezes forem necessárias para construir um entendimento funcional.
A melhor ferramenta de IA no meu laptop é aquela pela qual ninguém me cobra
Existem muitos modelos de peso aberto, mas os recursos do Gemma 4 E4B facilitam cada uma dessas tarefas, pois é exatamente o ponto ideal entre eficiência e capacidade, se é que alguma vez existiu. Ele não requer nada mais do que 16 GB e um pouco de espaço em disco e fornece um assistente de trabalho sólido, sem restrições (ou camadas). Depois de três meses, vai me custar exatamente o mesmo que custou no primeiro dia, e isso o torna tão confiável quanto possível.
