Distribuição da carga de trabalho: colocando sua IA onde estão seus dados
As soluções de implantação de carga de trabalho raramente são estáticas. À medida que as organizações de saúde amadurecem no uso da IA, elas frequentemente reexaminam onde os aplicativos funcionam com base nas mudanças nas estruturas de custos, nas necessidades de desempenho e nas necessidades de desempenho. requisitos de gestão.
“A implantação da carga de trabalho levará em consideração aspectos como latência e disponibilidade”, diz Erin Brodsky, líder de práticas de servidor e armazenamento da CDW. “As organizações precisam pensar sobre quais resultados de IA desejam usar os dados. Você precisa ter acesso rápido a eles, mas também precisa ter certeza de ter acesso apropriado a eles.”
Esse ato de equilíbrio geralmente resulta em movimento entre ambientes ao longo do tempo. Muitas organizações estão iniciando sua jornada de IA na nuvem, atraídas por sua flexibilidade e acesso à computação em larga escala. Mas à medida que as cargas de trabalho se estabilizam e os custos se tornam mais claros, alguns transferem essas cargas de trabalho de volta para os seus próprios ambientes.
“Não é incomum vermos clientes que começam na nuvem, o que acontece com a maioria dos nossos clientes, e depois trazem esses aplicativos de volta para o local. Chamamos isso de repatriação”, diz Brodsky. “Eles estão trazendo essas cargas de trabalho de volta para o local porque precisam considerar o custo de manter esses aplicativos e essas cargas de trabalho na nuvem versus o custo de poder investir na arquitetura para suportá-los”.
DESCOBRIR: Veja como planejar uma infraestrutura de IA escalável com computação acelerada.
A otimização de custos é apenas uma parte da equação. O desempenho e a eficiência também desempenham um papel importante, especialmente à medida que as cargas de trabalho de IA aumentam e exigem infraestrutura mais especializada.
“O que procuramos é o menor custo por recurso ou o menor custo por token”, diz Gutierrez. “Aproveitar todas as otimizações disponíveis – seja por meio de energia e refrigeração, infraestrutura acelerada, melhores canais de dados, melhor posicionamento de dados – é realmente importante para alcançar os resultados desejados, reduzir a latência e obter as informações que os usuários precisam, quando precisam.”
Essas otimizações dependem cada vez mais de quão bem as organizações alinham seus recursos computacionais com as necessidades específicas das cargas de trabalho de IA. Em particular, a relação entre CPU e GPU tornou-se um fator crítico no design moderno de data centers.
“Avanços na computação acelerada são realmente importantes quando pensamos no data center do futuro”, diz Gutierrez. “Existem certos aplicativos e certos processos no data center que funcionam melhor em GPUs. Portanto, compreender a relação GPU-CPU em seu data center e quais cargas de trabalho ou tarefas você pode atribuir a cada uma é realmente importante para otimizar sua infraestrutura.”
Como o Microsoft Azure Local está ajudando organizações de saúde com IA
À medida que os sistemas de saúde navegam por estas soluções, as plataformas que unificam a gestão entre ambientes tornam-se cada vez mais valiosas. Azure da Microsoft O Local oferece uma dessas opções, permitindo que as organizações construam e dimensionem a infraestrutura de IA enquanto mantêm a flexibilidade na execução de cargas de trabalho.
“As organizações precisam de infraestrutura que possa crescer de acordo com suas necessidades, e com o Azure Local você pode fazer isso”, afirma Caro. “Você pode começar pequeno e depois adicionar modularmente para atender às necessidades de sua IA.”
Uma vantagem fundamental Local do Azure é a sua capacidade de fornecer gerenciamento consistente em todos ambientes híbridos. Com a supervisão centralizada, as equipes de TI podem controlar mais facilmente os recursos, aplicar políticas e garantir que as cargas de trabalho sejam executadas nos locais mais eficientes.
“O controle centralizado através do Azure Arc nos dará uma maneira de gerenciar nossas GPUs, nossas políticas e nossas cargas de trabalho no local e na nuvem”, afirma Caro. “Isso torna mais fácil para as equipes de TI dimensionar a IA de forma consistente, sem problemas operacionais, porque monitoramos tudo no mesmo painel.”
