Minha GTX 1080 pode ter 10 anos, mas você pode arrancá-la de minhas mãos mortas e frias

Ser capaz de reutilizar componentes antigos em vez de penhorá-los por alguns dólares tem sido um destaque da minha jornada no laboratório doméstico, especialmente com o apocalipse da RAM causando preços descontrolados de hardware de PC. Veja bem, ao contrário do que muitos novatos pensam, hardware desatualizado e máquinas dinossauros são mais do que suficientes para executar alguns convidados virtuais.

Isso também se aplica a componentes individuais, pois você pode recuperar tudo, desde processadores obsoletos até discos rígidos usados, e colocá-los em bom uso em um nó de servidor temporário. Mas se eu tivesse que escolher um periférico desatualizado do qual me recuso terminantemente a me desfazer, seria minha GTX 1080 de 10 anos. Mesmo que a Nvidia abandone o suporte de driver para a série Pascal em dezembro de 2025, pretendo continuar usando esta GPU em meu laboratório doméstico até que ela literalmente se torne obsoleta. E não apenas porque paguei um bom dinheiro por isso quando era um adolescente falido, mas porque essa besta de GPU ainda é boa o suficiente para minha hospedagem LLM e tarefas apoiadas por ML.

Eu uso principalmente minha GTX 1080 para executar LLMs nativos

Com um descarregamento EM, ele pode executar modelos de 26 B com uma taxa de geração de token decente

Antes de cair na grande toca do coelho dos modelos de linguagem, eu estava convencido de que era necessária uma quantidade incrível de VRAM para executar modelos que não alucinavam como lunáticos bêbados quando eu lhes perguntava algo remotamente complexo. No entanto, o LLM Mixture-of-Experts me fez perceber que meu companheiro de jogo idoso ainda pode executar modelos de alto parâmetro com “apenas” 8 GB de VRAM e zero núcleos Tensor.

Graças a um recurso chamado descarregamento de MoE, posso transferir com segurança o peso dos especialistas para a CPU e RAM do meu computador, deixando os pesados ​​blocos de foco para minha placa da era Pascal. E como os modelos EM ativam alguns especialistas por token, não preciso me preocupar com penalidades de desempenho quando a rede de retransmissão especializada é descarregada para os componentes mais lentos do meu servidor.

Para referência, minha GTX 1080 está conectada a um Proxmox LXC armado com os pacotes llama.cpp e, contanto que eu forneça ao contêiner 24 GB + RAM, minha GPU aparentemente dinossauro pode caber em um formato tão volumoso quanto o Gemma-4-26B-A4B. Claro, não é tão rápido quanto as novas placas da série RTX 50, mas a capacidade de acionar o Gemma-4 a 14 chips por segundo o torna um ótimo complemento para meu laboratório doméstico. Até agora, combinei-o com Paperless-GPT, Paperless AI, Open Notebook, Home Assistant (com os plug-ins certos, é claro), Blinko, Karakeep e alguns outros aplicativos que podem tirar proveito das excelentes habilidades de raciocínio do Gemma 4 e contanto que eu permaneça dentro da janela de 150k no GTX8, não tenho problemas. acompanhar as solicitações de inferência do meu arsenal auto-hospedado.

Mas também pode lidar com cargas de trabalho pesadas em GPU em certos aplicativos FOSS

A transcodificação de vídeo e as tarefas aceleradas por ML ainda são um jogo justo para esta placa Pascal

Embora eu use meu GTX 1080 principalmente com o servidor lhama LXC, ele também é útil para outros serviços que podem usar diretamente seus recursos de processamento. Há um Immich LXC responsável por gerenciar todas as minhas fotos e capturas de tela e usa minha GPU de dez anos para fazer reconhecimento facial acelerado por hardware e tarefas de pesquisa inteligente.

Antes de mover meu kit fragata para meu Raspberry Pi 5 e seu kit de IA, configurei minha GPU Pascal para lidar com tarefas de detecção de objetos, inferência de padrões e reconhecimento facial para todas as minhas câmeras de segurança. Da mesma forma, agora posso usar o Intel Quick Sync em meu sistema Jellyfin N100 (para que minha GPU possa se concentrar em tarefas baseadas em LLM), mas há muito tempo uso minha GTX 1080 para lidar com tarefas de transcodificação de vídeo em meu servidor de mídia.

Caramba, eu uso isso ocasionalmente para executar minha VM de jogo remota

Ele pode executar a maior parte da minha biblioteca Steam a uma taxa de quadros respeitável

Até agora, observei apenas casos de uso em que minha GPU está emparelhada com meus aplicativos em contêineres. No entanto, às vezes desativo temporariamente a passagem de GPU em meus LXCs e, em vez disso, entrego-o a uma máquina virtual de jogos remota – uma que transmite jogos Steam para meu smartphone via Parsec. Embora pareça um pouco complicado, fornecer acesso à placa gráfica às VMs é muito fácil, e eu mantenho a maioria dos arquivos de configuração em minha máquina remota, caso eu queira voltar para uma configuração de passagem somente LXC.

E por mais estranho que pareça, esta placa gráfica de 10 anos ainda se compara aos títulos de hoje. Com resolução de 1080p, ele pode lidar com tudo, desde Hades 2, Céu sem sole outros títulos independentes Cyberpunk 2077 (com configurações gráficas médias altas, é claro), O Bruxa 3, Espaço Morto (Remake), Céu de ninguéme outros jogos com gráficos intensos. Os únicos títulos em que houve algumas falhas foram os jogos multijogador com anti-trapaça de nível básico (embora Helldiver 2 é uma exceção) que também se recusou a concorrer Claro-escuro: Expedição 33onde tive que diminuir um pouco a resolução para chegar mais perto de 60 fps. Caso contrário, não tenho problemas em transmitir a maior parte da minha biblioteca Steam para um smartphone a 1080p.

Pretendo continuar usando minha GPU até que ela finalmente quebre

Como se meus experimentos atuais com servidores domésticos não fossem suficientes, submeti minha GTX 1080 a projetos ainda mais selvagens no passado. Antes de atualizar para o RTX 3080 Ti, armei-o com um suporte de montagem NZXT Kraken G12 + refrigerador líquido X52 para que não derretesse sob meus overclockers. Para uma placa gráfica de 10 anos (e considerando todos os experimentos estranhos que fiz com ela), ela está funcionando muito bem e, considerando o quão útil ainda é para minhas tarefas de hospedagem LLM, não pretendo aposentá-la tão cedo.