Este artigo foi publicado originalmente no HELP NET SECURITYA aceleração da rede GenAI requer otimização prévia da WAN Como os modelos de GenAI usados para processamento de linguagem natural, geração de imagens e outras tarefas complexas geralmente dependem de grandes conjuntos de dados que devem ser transmitidos entre locais distribuídos, incluindo data centers e dispositivos de borda, a otimização da WAN é essencial para a implantação robusta de aplicativos de GenAI em escala.
A otimização da WAN pode aprimorar significativamente a aceleração da IA, melhorando as velocidades de transferência de dados, reduzindo a latência e otimizando o uso de recursos de rede, garantindo assim tempos de resposta mais rápidos. imagem

Figura 1: Otimização de WAN que impulsiona a aceleração da rede GenAI

Reduzir a latência: Os aplicativos GenAI exigem processamento de dados em tempo real ou quase em tempo real.
Reduzir o tempo de transmissão de dados e diminuir a latência usando técnicas de otimização de TCP e de cache.
Obtenha aceleração de aplicativos otimizando protocolos para reduzir a sobrecarga. Exemplo: Um sistema de IA distribuído coleta dados de vários recursos, garantindo a agregação e o processamento mais rápidos dos dados.Acelere a transferência de dados: Transferências de dados mais rápidas são cruciais para aplicativos de IA que dependem de grandes conjuntos de dados, como modelos de aprendizagem profunda, que devem mover grandes quantidades de dados entre armazenamento, unidades de processamento e ferramentas de análise.
A otimização do protocolo permite que a transferência de dados seja mais eficiente.
Além disso, a paralelização maximiza o rendimento ao dividir as transferências de dados em fluxos paralelos. Exemplo: Treinamento de modelos de IA usando dados de várias localizações geográficas; a otimização de WAN pode acelerar a transferência de dados entre os data centers, reduzindo o tempo total de treinamento: As cargas de trabalho de IA consomem muita largura de banda devido à troca frequente de grandes conjuntos de dados entre os componentes da infraestrutura de IA.
Com a compactação de dados, minimize o consumo de largura de banda reduzindo o tamanho dos dados antes da transmissão.
Ative a deduplicação para eliminar transferências de dados redundantes enviando pedaços de dados exclusivos. Exemplo: A compactação e a deduplicação de dados podem otimizar significativamente o tamanho dos dados que precisam ser transferidos durante a fase de treinamento de um modelo de IA (dados de treinamento do armazenamento para os nós de computação), acelerando, assim, o processo de treinamento: Os aplicativos de IA geralmente exigem acesso consistente e confiável aos dados.
Interrupções na rede ou perdas de pacotes podem prejudicar o desempenho da IA ou até mesmo levar a imprecisões no modelo.
Implemente a correção de erros de encaminhamento para reduzir o impacto da perda de pacotes e garantir a integridade dos dados.
Com o failover e o balanceamento de carga, distribua o tráfego por vários caminhos e forneça recursos de failover para manter a conectividade durante problemas de rede. Exemplo: Para sistemas de negociação financeira orientados por IA que dependem de feeds de dados em tempo real, a confiabilidade aprimorada garante a entrada contínua e precisa de dados, mantendo a integridade dos algoritmos de negociação.Otimize a utilização de recursos: O uso eficiente dos recursos de rede pode reduzir os custos operacionais e melhorar o desempenho geral dos sistemas de IA, garantindo que os recursos computacionais não fiquem ociosos enquanto aguardam os dados.
Com a modelagem de tráfego e a Qualidade de Serviço (QoS), a priorização do tráfego de dados críticos de IA garante que as operações essenciais não sejam atrasadas.
Implemente o monitoramento e a análise da rede para obter insights sobre o desempenho da rede e os padrões de uso para otimizar a alocação de recursos. Exemplo: Em um serviço de IA baseado em nuvem em que os recursos de computação são provisionados sob demanda, a otimização da WAN garante que esses recursos sejam efetivamente utilizados, reduzindo os tempos ociosos e os custos operacionais. A otimização da WAN oferece vários outros benefícios que podem ajudar a acelerar os aplicativos GenAI:

  • Ele aprimora o desempenho das soluções de computação de borda, que são cada vez mais usadas em IA para processar dados mais próximos da fonte.
  • Ele melhora o acesso aos serviços de IA baseados na nuvem, garantindo a transferência e o processamento eficientes de dados entre ambientes locais e na nuvem.
  • Ele permite o processamento remoto eficiente e o acesso a modelos e dados de IA centralizados, dando suporte ao desenvolvimento e à implementação de IA distribuída.
  • Ele otimiza os recursos de rede alocados dinamicamente para atender às demandas variáveis das cargas de trabalho de IA.
  • Ele oferece suporte à criptografia para proteger os dados durante o trânsito, o que é essencial para trocas seguras de dados de IA.
  • Ele reduz a carga na infraestrutura de rede, prolongando sua vida útil e reduzindo os custos de manutenção associados à execução de aplicativos GenAI.

SASE unificado como um serviço para o resgate

O processo de otimização da WAN envolve vários procedimentos essenciais:

  • Uma avaliação abrangente da infraestrutura de rede existente e das cargas de trabalho de IA, para identificar gargalos e áreas que exigem melhorias.
  • Implementação de técnicas de compactação e deduplicação de dados, para reduzir significativamente o volume de dados transmitidos.
  • Integração da computação de borda à infraestrutura da WAN, para aprimorar os recursos de processamento de IA.

Ao usar o SASE unificado como serviço, as organizações podem garantir que as otimizações para cargas de trabalho de IA sejam implementadas com segurança, combinando funções de segurança de rede, como gateways da Web seguros, firewalls e acesso à rede de confiança zero com recursos de WAN.
O SASE unificado também permite o dimensionamento dinâmico, garantindo que as cargas de trabalho de IA possam acessar a capacidade de processamento adequada conforme necessário.
O monitoramento contínuo e o gerenciamento adaptativo da rede usando o SASE unificado como serviço ajudam a manter o desempenho ideal, resolver rapidamente quaisquer problemas emergentes e ajustar a alocação de recursos em resposta às mudanças nas demandas de carga de trabalho de IA.
Essa abordagem abrangente permite que as empresas maximizem o desempenho de seus sistemas de IA e, ao mesmo tempo, mantenham a segurança e a conformidade robustas.

Conclusão

Com a otimização da WAN, as organizações podem economizar custos ao maximizar os recursos de rede existentes e reduzir a necessidade de atualizações caras da infraestrutura.
Em última análise, isso apoia o crescimento sustentável e a implantação de tecnologias avançadas de GenAI.