Um NAS começa como um grande projeto, mas depois que seus clusters de armazenamento estão configurados e todos os serviços estão funcionando perfeitamente, é apenas uma caixa parada silenciosamente em um canto fazendo seu trabalho. O meu começou a se misturar com os móveis e a única vez que pensei nisso foi quando quis adquirir um novo serviço ou o disco rígido falhou.
A máquina que hospedava meus dados mais importantes, executava o Plex para toda a minha família e cuidava dos meus backups não sabia me dizer como estavam indo essas tarefas. Se eu quiser saber, preciso analisar os arquivos de log ou clicar no painel da web para encontrar uma mensagem de status importante. Achei que tornaria minha vida muito mais fácil se eu pudesse perguntar ao meu NAS o que está consumindo tanto espaço em disco ou como foi o trabalho de backup na noite passada.
Meu servidor é uma plataforma de jogos convertida que impressionou há dez anos. Ele não pode mais rodar os títulos mais recentes, mas é o suficiente para rodar um pequeno LLM local. Instalei o Ollama, apontei algumas coisas que já estavam em execução na máquina e agora, o mais importante, minha caixa de rede pode me dizer o que está acontecendo nela.
O LLM de autoatendimento elevou meu sistema de gestão de conhecimento pessoal para o próximo nível
Aprimorei meu segundo cérebro com inteligência totalmente localizada.
Meu NAS pode finalmente responder
Precisava de uma forma de interpretar os dados que já existiam
Parte do motivo pelo qual essa configuração funciona tão bem é que o LLM local reside na mesma máquina sobre a qual estou perguntando. Por exemplo, quando pergunto algo sobre minha biblioteca Plex, ele não precisa usar uma API ou consultar o serviço remoto porque só funciona a partir de arquivos locais. Essa simplicidade é uma grande parte do motivo pelo qual a configuração ainda é viável em hardware mais antigo.
Ollama está fazendo o lado do LLM. A configuração é tão simples quanto instalar o programa, extrair o modelo e executar o serviço para começar a escutar no host local. Estou usando o Llama 3, que reconhecidamente não é muito bom, mas é suficiente para esta configuração e tem poucos recursos, o que é perfeito para um sistema antigo. A WebUI aberta fica na frente dele como uma interface de bate-papo do navegador, o que significa que posso acessá-la de qualquer dispositivo na minha rede local.
A maioria dos aplicativos grava arquivos de log ou pode ser configurada para isso. Na minha configuração, o TrueNAS possui seus próprios arquivos de log e o Plex mantém um registro detalhado do histórico de reprodução. Por serem arquivos somente de texto, eles podem ser pesquisados usando ferramentas já existentes no sistema. Um pequeno script Python lê os logs, passa o conteúdo para a API do Ollama e o LLM local os interpreta.
O que você pode realmente perguntar
Ele lê o texto que você não quer ler
Toda esta configuração é baseada em um resumo de log. TrueNAS é detalhado, portanto, coisas como verificações SMART, limpezas e tentativas de montagem malsucedidas são escritas em detalhes e não são fáceis de ler à primeira vista. Uma das maneiras mais úteis de tirar o máximo proveito disso é pedir ao modelo para resumir as últimas 24 horas. Ele lerá todos os logs e sinalizará qualquer coisa que pareça um aviso, facilitando a localização de informações importantes.
Também gosto de usar o modelo para aprender mais sobre o Plex. O Plex armazena seus logs em um banco de dados SQLite, que é apenas um arquivo em disco. Meu script Python despeja seu conteúdo para mover as faixas de reprodução para um arquivo de texto. A partir daí, posso perguntar a uma modelo local o que meus amigos assistiram esta semana ou se viram algo novo que eu não vi. Ele lerá o dump, analisará os títulos e nomes de usuário e me dará um resumo rápido de como todos usaram o Plex ao longo da semana.
Não funcionará bem em um Synology ou em uma caixa ARM de baixo consumo de energia
A IA nativa simplesmente usa muita RAM e CPU para alguns sistemas
Se o seu NAS foi construído apenas para hospedar arquivos e não fazer quase mais nada, ou se o seu sistema tiver de 4 a 8 GB de RAM, essa configuração não será possível. Mesmo um modelo mais antigo e leve como o Llama 3 precisa de uma quantidade razoável de RAM. Acho que muitos profissionais de laboratórios domésticos transformaram seus antigos equipamentos de jogos em equipamentos NAS, como eu fiz, e são eles que vão adorar essa configuração.
Como estou apenas pedindo ao modelo para ler os arquivos de log e me dizer se encontrar algo relacionado, isso não sobrecarrega tanto o hardware. Tarefas complexas e solicitações de codificação dariam resultados muito diferentes e não são para isso que um NAS deve ser usado. Como ninguém está ansioso pelos resultados SMART da noite passada, obter respostas mais lentas não é uma compensação, mas ainda requer especificações razoáveis do sistema para funcionar.
O servidor que conecta sua rede deve ser mais inteligente
Meu NAS realmente parece ter um cérebro agora. Em vez de armazenar tudo, ele pode me fornecer informações detalhadas sobre suas atividades e me alertar sobre problemas que causam o registro. Se você já está executando um servidor x86 decente, não custa nada, exceto um pouco de RAM extra. Ollama, Open WebUI e um script Python simples são gratuitos e levam apenas uma tarde para começar a funcionar.
