Aplicações de caixas para servidores com GPU em tarefas de IA e de computação

Um gabinete para servidor de GPU, também denominado chassis para servidor de GPU, é um invólucro pronto para montagem em rack, concebido para integrar unidades de processamento gráfico com a CPU, a placa-mãe, o armazenamento, as componentes de rede, de refrigeração e de alimentação. Proporciona a densidade de GPU, o fluxo de ar, o fornecimento de energia, a capacidade de expansão e a configuração específica para cada carga de trabalho necessárias para um processamento acelerado fiável.

Aplicações de casos de servidores GPU

O que é um chassis especializado para GPU?

Trata-se de um gabinete especializado para a construção de um sistema destinado a tarefas exigentes de gráficos, simulação, computação acelerada ou computação de alto desempenho. Ao contrário de um gabinete de computador padrão ou de um gabinete de servidor para montagem em rack de uso geral, este deve garantir um fluxo de ar substancial, espaço físico suficiente, ligações PCIe cuidadosamente espaçadas, distribuição de energia estável e suporte mecânico para placas aceleradoras de grandes dimensões.

O chassis coordena as dimensões da GPU, a plataforma da CPU, o layout da placa-mãe, a arquitetura de expansão, a parede de ventoinhas, as fontes de alimentação, os compartimentos de armazenamento e os adaptadores de rede. O invólucro faz parte do design do sistema, não sendo simplesmente uma estrutura metálica.

Qual é o tamanho de chassis adequado para a carga de trabalho?

O formato adequado equilibra a densidade do rack com a capacidade de refrigeração, a facilidade de manutenção, a expansão e as necessidades das aplicações. Um chassis de 1U ou 2U é adequado para implementações compactas; um design de 4U ou 5U oferece mais espaço para placas de altura total, fluxo de ar, armazenamento e cablagem; uma plataforma de 8U ou superior suporta aceleradores de alta densidade, refrigeração de alta capacidade, alimentação redundante e manutenção à escala da infraestrutura.

A capacidade real da GPU nunca é determinada apenas pela altura. Depende da disposição interna, do comprimento da GPU e da largura do slot, do design da placa, da topologia do riser, do sistema térmico, das fontes de alimentação e da localização dos slots de expansão.

Aplicações de casos de servidores GPU
Aplicações de casos de servidores GPU

Onde é que os servidores com GPU de 1U e 2U se enquadram?

Os servidores com GPU de 1U e 2U são normalmente adequados para cargas de trabalho em que a densidade do rack e a implementação eficiente são mais importantes do que o maior número possível de GPUs de tamanho normal. As aplicações típicas incluem:

Um servidor com GPU compacto permite colocar o processamento acelerado próximo dos utilizadores, das câmaras ou das máquinas, ao mesmo tempo que poupa capacidade no rack do servidor. O dimensionamento final depende ainda das dimensões da GPU, do modo de refrigeração, do armazenamento e da disponibilidade de energia.

Por que é que o 4U é comum no treino de IA e na renderização?

Um chassis 4U é amplamente utilizado em sistemas multi-GPU de alto desempenho, uma vez que oferece espaço prático para aceleradores, ventoinhas, encaminhamento PCIe, armazenamento e acesso para manutenção. As aplicações comuns do formato 4U incluem formação em IA, desenvolvimento de modelos de linguagem de grande escala (LLM) e IA generativa, aprendizagem profunda, renderização 3D, animação, visualização arquitetónica, simulações científicas, modelação financeira, processamento de big data e HPC convencional.

Algumas plataformas 4U devidamente concebidas podem acomodar até oito GPUs de tamanho normal, dependendo da plataforma, do sistema de refrigeração, do layout da placa e do tipo de GPU. Os atuais modelos de servidores de montagem em rack 4U variam entre placas de ligação direta e placas-base da classe HGX.

Um gabinete de 4U não é automaticamente adequado para todas as placas gráficas. A pressão do ventilador, a temperatura de entrada, o espaçamento entre as placas, a cablagem de alimentação, o percurso dos cabos e o arrefecimento ativo ou passivo devem ser todos verificados.

Aplicações de casos de servidores GPU
Aplicações de casos de servidores GPU

Quando é que faz sentido utilizar sistemas com GPUs de 8U ou maiores?

Os sistemas de GPU de 8U ou superiores fazem sentido quando a densidade dos aceleradores, a capacidade de refrigeração, a redundância, a conectividade entre GPUs e a facilidade de manutenção se sobrepõem à eficiência do espaço no rack. Empresas, universidades, instituições de investigação, laboratórios nacionais, operadores de centros de dados e fornecedores de infraestruturas de IA utilizam estas plataformas para clusters de IA generativa, desenvolvimento de modelos fundamentais, supercomputação empresarial, computação científica, infraestruturas de GPU com vários nós, aceleradores empresariais de alta densidade e outras implementações exigentes.

As plataformas da classe HGX combinam várias GPUs com interconexões de alta velocidade para cargas de trabalho de IA em escala vertical e de computação acelerada. Os sistemas de maior dimensão também oferecem espaço para o hardware de refrigeração, redes, armazenamento e uma fonte de alimentação redundante; as plataformas comerciais de 8U apresentam integração com amplas possibilidades de expansão e vários compartimentos para unidades de 2,5 polegadas.

Que casos de utilização de servidores com GPU correspondem a cada tamanho de chassis?

Para os compradores que estão a comparar servidores com GPU para IA, estas relações constituem pontos de partida úteis, e não limites universais:

Aplicação Tamanho comum do chassis Prioridade principal do projeto
VDI, jogos na nuvem, gráficos remotos 1U ou 2U Densidade dos racks e implementação eficiente
Inferência na periferia, análise de vídeo, processamento de sensores 1U ou 2U Computação local, fluxo de ar, integração compacta
Formação de modelos de IA, renderização, computação de alto desempenho generalizada 4U Capacidade para várias GPUs, refrigeração, expansão
Grandes clusters de IA generativa, supercomputação 8U ou superior Densidade do acelerador, ligações, redundância

Como se deve avaliar uma caixa para GPU?

Avalie o chassis como parte integrante do sistema completo da GPU. Confirme estes fatores antes da compra:

Aplicações de casos de servidores GPU

O que são calhas de guia do chassis?

Para que serve uma caixa de servidor para GPU?

Um gabinete de servidor para GPU aloja uma ou mais GPUs, juntamente com a CPU, a placa-mãe, os componentes de armazenamento, rede, refrigeração e alimentação necessários para cargas de trabalho aceleradas. Em comparação com um gabinete de servidor de uso geral, este foi concebido tendo em conta o espaço livre para as GPUs, a emissão concentrada de calor, a conectividade PCIe, a distribuição de energia e o acesso para manutenção. As aplicações típicas incluem treino de IA, inferência de IA, renderização, estações de trabalho virtuais, análise de vídeo, computação científica e HPC.

Escolha o formato de acordo com a carga de trabalho, as dimensões da GPU, os requisitos de refrigeração, as necessidades de expansão e o espaço disponível no rack. Um chassis de 1U ou 2U é normalmente utilizado para implementações compactas de inferência, VDI, análise de vídeo ou gráficos remotos. Uma plataforma de 4U é frequentemente selecionada para treino de IA com múltiplas GPUs, renderização e HPC convencional, enquanto os sistemas de 8U e superiores são geralmente considerados para plataformas de aceleradores densas e clusters de IA à escala de infraestrutura. Estas são orientações e não limites fixos; os portfólios atuais de servidores incluem designs de 4U, 5U, 8U e 10U para diferentes arquiteturas de IA e HPC.

Alguns sistemas 4U suportam até oito GPUs, mas esta capacidade depende da plataforma específica, do tipo de GPU, da topologia PCIe, da disposição da placa-mãe, do design térmico e do sistema de alimentação. Por exemplo, as plataformas 4U atuais da Supermicro incluem configurações concebidas para até oito GPUs PCIe de ligação direta, mas essa especificação não deve ser aplicada a todos os chassis 4U. Verifique sempre a configuração completa do sistema, em vez de se basear apenas na altura do rack.

Confirme primeiro o comprimento, a altura, a largura do slot, o método de arrefecimento e os requisitos de alimentação da GPU. Em seguida, analise a geração PCIe e a atribuição de pistas, o design do riser, a compatibilidade com a CPU e a placa-mãe, a capacidade das ventoinhas, a direção do fluxo de ar, os conectores de alimentação, as opções de alimentação redundante, os compartimentos de armazenamento, a profundidade do rack, o encaminhamento dos cabos e o acesso para manutenção. A qualificação do fabricante é especialmente útil, uma vez que avalia em conjunto os requisitos térmicos, mecânicos, de alimentação e de integridade do sinal.

Uma plataforma da classe HGX é mais adequada quando a carga de trabalho requer uma arquitetura multi-GPU fortemente integrada, comunicação de alta velocidade entre GPUs, redes empresariais e capacidade de IA ou HPC em escala vertical. A NVIDIA descreve a HGX como uma plataforma que combina GPUs, NVLink, redes e software otimizado, pelo que difere de um chassis convencional equipado com placas gráficas PCIe independentes. A escolha correta depende do tamanho do modelo, dos padrões de comunicação, do design do cluster, da infraestrutura de refrigeração, da disponibilidade de energia e do orçamento.

Configure o chassis de GPU adequado para a sua carga de trabalho

O chassis adequado protege o valor de todo o servidor de GPU, ao harmonizar a compatibilidade do acelerador, a conectividade, a refrigeração, a alimentação, o armazenamento e o acesso à manutenção com a aplicação pretendida.

Indique as suas GPUs preferidas, a quantidade de GPUs, o modelo da placa-mãe, a plataforma da CPU, os requisitos de armazenamento, os limites de espaço no rack, os requisitos de refrigeração, o ambiente de alimentação e a carga de trabalho pretendida (IA, renderização, inferência ou computação de alto desempenho).