Eu uso meu LLM local para dividir meu e-mail todas as manhãs, mas ainda não deixo ele enviar respostas

Resumo

  • Eu uso o Gemma 4 LLM local para classificar e organizar meu e-mail, reduzindo o cansaço das decisões matinais.

  • Tudo funciona localmente através do Ollama e da minha GPU, para que nenhum e-mail saia do meu computador – a privacidade é fundamental.

  • Apenas resume e categoriza; Eu ainda escrevo as respostas – a configuração local requer esforço extra.

Ler meu e-mail não é um hábito que tenho há anos. As únicas vezes que o abro é nas raras ocasiões em que estou usando um OTP baseado em e-mail ou apenas enviando coisas para mim mesmo de um dispositivo para outro. Fora isso, não tive vontade de examinar dezenas de e-mails não lidos todos os dias. Basta dizer que ler minha correspondência não era algo que eu pensei que de repente se tornaria uma parte do meu dia pela qual eu ansiaria ativamente.

Eu sabia que poderia usar Claude para vasculhar minha correspondência e apresentá-la para mim, mas a ideia de permitir que um serviço de nuvem acessasse minha correspondência pessoal nunca foi algo com que me senti confortável. Então, usei o Ollam para hospedar o modelo local de IA, com apenas uma ajudinha de Claude, e agora meu LLM local classifica e categoriza todos os meus e-mails enquanto eu passo o dia.

Ollama ainda é a maneira mais fácil de iniciar LLMs locais, mas a pior maneira de mantê-los funcionando

Ollama é ótimo para começar… só não perca tempo.

Isto é triagem de e-mail, não automação

Eu queria menos decisões pela manhã, não outro aplicativo de produtividade

Abrir o Gmail todas as manhãs significa tomar dezenas de pequenas decisões antes de ter a chance de acordar adequadamente. Tenho que decidir o que é importante, o que pode esperar, o que é apenas mais uma newsletter e quais entregas posso esperar hoje. O Gmail em si não é o problema, mas nem a classificação integrada nem a parede de e-mails não lidos todas as manhãs ajudam muito a começar o dia com o pé direito. Eu não queria automatizar o e-mail, mas queria que alguém ou algopara fazer essa categorização inicial para mim e me dar uma visão geral de cada e-mail que recebo.

É aqui que entra em ação minha instância local do Google Gemma 4. Quando volto da cozinha com meu café da manhã, ele já realizou cerca de 90% do trabalho que eu faria sozinho. Em vez de ficar olhando para uma caixa de entrada desordenada, sou recebido com e-mails bem categorizados que me dizem o que realmente merece minha atenção, o que pode esperar com segurança e se há alguma entrega que posso esperar naquele dia. Melhor ainda, cada e-mail também recebe um breve resumo. Em vez de clicar no e-mail intitulado “Sua atualização de remessa” para descobrir o que mudou, Gemma lê o e-mail para informar que meu pacote foi enviado. O mesmo vale para e-mails de trabalho, cheques, assinaturas e qualquer outra coisa que de outra forma exigiria minha atenção com um único clique.

É por isso que esse fluxo de trabalho funciona tão bem para mim. Claro, não é pura “automação de e-mail” no sentido tradicional, mas essa é a melhor parte. Gemma não exclui mensagens nem responde em meu nome. Simplesmente reduz o cansaço da tomada de decisões ao abrir uma caixa de entrada cheia de e-mails não lidos todas as manhãs. Depois que essa sobrecarga mental passa, verificar o e-mail deixa de parecer uma tarefa árdua e se torna uma rápida olhada de dois minutos antes de prosseguir com o resto do dia.

Estou usando uma Gemma 4 (26B) com uma GPU de 10 anos e é confiável o suficiente para substituir a nuvem

No entanto, a configuração foi um pouco complicada

Criar esta secretária de leitura de e-mail foi surpreendentemente fácil

Este é o único onde Claude ajudou

O aplicativo real foi criado com uma pequena ajuda de Claude, que me ajudou a codificar um programa simples em Python que poderia se conectar ao Gmail. Tive que transferir a senha do Google app de cada uma das minhas contas de e-mail (uma chave exclusiva de dezesseis caracteres que funciona como uma chave de acesso ao meu e-mail) para uma instância local do Gemma 4:e4b em execução no Ollama. Inicialmente, processei apenas 15 e-mails enquanto criava um fluxo de trabalho solicitando ao modelo que classificasse cada mensagem em uma das seis categorias: Urgente, Ação necessária, Assinaturas, Suprimentos, Atualizações bancáriase Atualizações do Reddit. Minha primeira tentativa começou lendo os e-mails mais antigos que já recebi, em vez dos mais recentes. Imagine minha surpresa quando o primeiro e-mail que Gemma decidiu ler e categorizar era sobre um velho amigo que me adicionou no Google+. Corrigir essa lógica tornou-se prioridade uno antes de mais nada.

Para criar uma senha de aplicativo para seu aplicativo AI, sua Conta do Google deve ter a autenticação de dois fatores ativada.

Também tomei uma decisão consciente de não comprometer o contexto. Em vez de apenas alimentar o modelo com uma linha de assunto ou algumas centenas de caracteres, deixei-o ler cerca de 2.000 caracteres de cada e-mail antes de pedir para resumi-lo e categorizá-lo. É claro que isso significou um tempo de inferência mais longo, com minha GPU demorando cerca de 15 segundos por e-mail, mas os resumos significativamente melhores fizeram a espera extra valer a pena.

Para falar a verdade, fiz todo esse experimento com os modelos Qwen 3.5 4b e 9b. Ambos os modelos passaram por todo o processo de raciocínio para gerar tokens adicionais antes de resumir, e o tempo de espera tornou-se insuportável ao executar tarefas de e-mail em massa. Pensar mal piorou a classificação, então mudei para Gemma 4:e4b, que me deu o melhor dos dois mundos, a qualidade de classificação de Qwen 3.5:9b em uma fração do tempo.

O novo assistente OpenClaw da Microsoft fará ligações, lerá seus e-mails e gerenciará sua agenda

A Microsoft também torna a implantação de agentes em ambientes empresariais muito menos intimidante.

A IA nativa é a única razão pela qual este experimento aconteceu

A privacidade é fundamental aqui, não apenas um recurso extra

Por mais que eu saiba que Claude ou ChatGPT provavelmente poderiam fazer algo semelhante e melhor, nunca me senti confortável em entregar toda a minha caixa de entrada aos servidores de outra pessoa. Meu e-mail contém anos de recibos, OTPs, conversas de trabalho, confirmações de viagens e inúmeros outros dados pessoais. Se esse projeto dependesse de enviar tudo para a nuvem, eu simplesmente não o teria construído.

Então a IA nativa mudou tudo para mim. Entre GPUs de consumidor, como a GeForce RTX 4070 Ti, e um modelo de código aberto como Gemmae uma ferramenta auto-hospedada como Ollama que faz todo o trabalho pesado no meu PC, cada e-mail fica exatamente onde deveria. Nada sai do meu computador e ainda tenho a conveniência de um assistente de IA vasculhando minha caixa de entrada antes mesmo de pensar em abrir o Gmail. Tal fluxo de trabalho não era prático para muitas pessoas há apenas alguns anos.

Mais importante ainda, tornou meu e-mail pessoal e de trabalho verdadeiramente utilizável novamente. O spam fica em segundo plano, as assinaturas teimosas permanecem em sua própria categoria para que eu possa ignorá-las facilmente, e as mensagens que realmente importam sobem ao topo, claramente codificadas por cores de acordo com sua urgência. Em vez de me sentir sobrecarregado por uma parede de e-mails não lidos todas as manhãs, simplesmente recebo alguns que merecem minha atenção primeiro, enquanto todo o resto espera sua vez.

A IA pode ler minha caixa de entrada, mas nunca falará por mim

Coletar meus e-mails é uma coisa; respondê-las é outra bem diferente

O engraçado é que deixar Gemma escrever respostas teria sido um dos recursos mais fáceis de adicionar, mas não pensei em fazer isso. A IA pode absolutamente soldar e-mails e, em muitos casos, pode até fazer um trabalho meio decente. No entanto, isso não significa que fale como eu. No momento em que uma resposta sai da minha caixa de entrada, ela reflete meus pensamentos, meu tom e intenções, e esse é um limite que não ultrapasso. Ler e-mail é administrativo tarefa ao responder uma é comunicaçãoe essas duas coisas não são a mesma coisa.

Portanto, estou perfeitamente feliz com o fluxo de trabalho que terminei. O trabalho do meu assistente local de IA é simplesmente me dizer o que precisa da minha atenção e fornecer contexto suficiente para decidir se vale a pena abrir. Se algo for realmente importante, ainda leio o e-mail inteiro, escrevo uma resposta e tomo as medidas necessárias. Gemma cuida do trabalho intenso e tudo o mais que me define é de minha exclusiva responsabilidade. Eu não aceitaria de outra maneira.

Lançado

3 de julho de 2023

Desenvolvedor(es)

Jeffrey Morgan e Michael Chiang

Modelo de preço

Gratuito

Ollama é uma plataforma para baixar e executar vários Large Language Models (LLM) de código aberto em seu computador local.


Troquei minha cara assinatura do Claude Pro por esses modelos nativos e minha produtividade não diminuiu

Codificação local de primeira vibração

Gostei muito da reformulação deste programa

A IA local exige mais graxa do que os serviços em nuvem, mas tenho controle total sobre meus dados.

Provavelmente gastei muito mais tempo otimizando este pequeno projeto do que alguém deveria. Experimentei modelos diferentes, menores e mais rápidos, comparei a velocidade do marcador, mudei de pensamento e raciocínio várias vezes e examinei os mesmos e-mails várias vezes para determinar a qualidade da tarefa em si. Além disso, continuei adicionando novas categorias com novas cores conforme achei adequado e necessário, chegando a seis categorias das três originais.

O script agora é a primeira coisa que executo antes de preparar meu café da manhã, então, de qualquer maneira, fica a cinco minutos da minha mesa. Até criei uma segunda versão que simplesmente lista os 30 e-mails mais recentes da minha caixa de entrada, independentemente do status de leitura, proporcionando uma visão geral rápida no final do dia, antes de desligar o computador.

Essa é provavelmente a maior lição que aprendi com este projeto. A IA nativa requer um pouco mais de graxa do que simplesmente fazer login na nuvem e mais alguns minutos para tarefas especializadas. No entanto, em troca recebo algo que valorizo ​​muito mais do que conveniência: controle total sobre meus dados. Minha caixa de entrada nunca sai do meu computador, nenhuma empresa consegue descobrir anos de minha correspondência pessoal e ainda adoro o assistente de IA que faz com que uma das minhas tarefas diárias menos favoritas pareça quase fácil.

Link da fonte