A CoreWeave e seus parceiros entregaram a primeira implantação na nuvem do sistema GB300 NVL72 da NVIDIA no mundo, proporcionando treinamento mais rápido, latência mais baixa e infraestrutura mais eficiente para AI em tempo real.
Uma orquestra aclamada não é apenas uma coleção de músicos exepcionais; é uma entidade singular onde cada seção (sopro, cordas, percussão) é cronometrada e afinada com precisão para oferecer uma apresentação perfeita.
Quando se trata de infraestrutura para IA, os mesmos princípios se aplicam. A performance da IA de missão crítica não é apenas adicionar mais placas de vídeo. Trata-se de coordenar computação, energia, resfriamento e rede para que operem como um sistema, uma unidade.
É exatamente isso que a Vertiv, a CoreWeave e seus parceiros estão planejando com o sistema NVIDIA GB300 NVL72. Isso não é um conceito ou algo customizado feito para uma só vez. É uma infraestrutura unificada criada para IA em escala.
Um novo padrão de infraestrutura para IA
A CoreWeave, o Hyperscaler de IA para computação na nuvem e GPUs, está realizando a primeira implantação do NVIDIA GB300 NVL72 dentro do sistema de rack integrado da Dell. (Explore a arquitetura)
A CoreWeave está na vanguarda da infraestrutura de IA na nuvem, com implantações anteriores das plataformas NVIDIA HGX H100 e H200. Sua implantação do NVIDIA GB300 NVL72 continua com essa tendência.
Os ganhos de performance falam por si mesmos:
- Aumento de até 50× na saída de inferência para cargas de trabalho de raciocínio vs. Hopper
- 10× de melhoria na capacidade de resposta do usuário
- 5× mais rendimento por watt
- Performance 1,5× maior do FP4 (ponto flutuante de 4 bits) em comparação com Blackwell
- 1,5× mais memória para até 21TB de memória de GPU por rack vs. Blackwell
- Largura de banda NVIDIA Quantum InfiniBand de 2× por placa de vídeo em comparação com sistemas da geração anterior
Infraestrutura que escala junto com o silício
Para executar sistemas nessa escala, o resfriamento e a alimentação de energia precisam ser projetados tão deliberadamente quanto a computação. Com carga total, cada rack NVIDIA GB300 NVL72 consumirá ~140 kW e será resfriado a líquido. É aqui onde a contribuição da Vertiv é fundamental.
As unidades de distribuição de líquido (CDUs) Vertiv™ CoolChip são feitas especificamente para essas condições. O sistema entrega:
- 121 kW de rejeição de calor líquido-líquido, dimensionado e otimizado para o gabinete NVIDIA GB300 NVL72
- Compatibilidade com as temperaturas da água de entrada da ASHRAE W5
- Bombas redundantes e trocadores de calor duplos para tolerância a falhas
- Controle de circuito automatizado para operação em estado estacionário
Os recursos da Vertiv também incluem serviços que simplificam a implantação e otimizam a eficiência, incluindo:
- Modelagem de CFD (Dinâmica dos Fluidos Computacional) e simulação térmica para otimizar o fluxo de ar e evitar refazer designs nas etapas tardias
- Espaço de produção e planejamento de integração para alinhar resfriamento, energia e controle de circuito com o layout do rack
- Monitoramento em tempo real e controle de circuito para estabilizar a performance sob cargas dinâmicas de GPU
- Designs de referência e ativos SimReady para os sistemas NVIDIA GB200 e GB300, possibilitando a validação digital antes da construção
Visão frontal de um rack NVIDIA GB300 NVL72 implantado pela CoreWeave, mostrando a infraestrutura da GPU de alta performance respaldada pelo sistema de resfriamento líquido Vertiv™ CoolChip CDU (Unidade de Distribuição de Líquido) projetado para lidar com cargas térmicas extremas. (Foto cortesia da Switch)
Execução de IA em alta velocidade — juntos
Entregar a próxima geração de infraestrutura para IA não é apenas sobre o que está dentro do rack. Trata-se de se mover rapidamente do design à implantação e do quão fortemente alinhados seus parceiros estão ao longo desse processo.
A implantação do NVIDIA GB300 NVL72 pela CoreWeave mostra esse processo na prática: um esforço colaborativo para colocar on-line uma plataforma de IA em escala de rack, feita para cargas de ~140 kW, resfriadas a líquido e cargas de trabalho de inferência densas e sempre ativas.
Como a CoreWeave, usando uma analogia esportiva em vez de musical, coloca:
“Pioneirizar o futuro da infraestrutura de IA é um esporte em equipe. Nossa colaboração conjunta com a Dell, a Switch e a Vertiv nesta implantação do NVIDIA GB300 NVL72 é fundamental para nossa velocidade e agilidade, proporcionando o suporte crítico de que precisamos para transformar a tecnologia inovadora em realidade para nossos clientes em um ritmo sem precedentes."
A Vertiv deu suporte à implantação com sistemas de resfriamento líquido pré-validados e com expertise em engenharia, dando à CoreWeave e à Dell o alinhamento de infraestrutura necessário para se mover na velocidade da luz.
Para onde a infraestrutura está indo
A implantação do NVIDIA GB300 NVL72 pela CoreWeave e pela Dell, com suporte da Vertiv, marca uma mudança na forma como a infraestrutura para IA é projetada e entregue. Dada a taxa de mudanças na IA, uma comparação mais apropriada seria a música eletrônica em vez da clássica. Mas, seja qual for a forma, a analogia de uma orquestra ou grupo unido, em vez de uma reunião de jogadores solos, ainda permanece. A verdadeira integração, cooperação e codesenvolvimento são fundamentais para uma performance sinfônica da IA.
Descubra como integrar energia, resfriamento e computação para obter a performance ideal da IA no hub de IA da Vertiv.
