Contactez notre Châssis de serveur Ingénieurs et équipe commerciale
24 000 abonnés
Indiquez-nous votre application, le type de châssis, la hauteur du rack, la carte mère, la carte graphique, les baies de disques, l'alimentation, le système de refroidissement, les ports d'E/S et la quantité commandée. Nos ingénieurs et notre équipe commerciale vous proposeront un modèle standard ou une configuration OEM/ODM adaptée à votre projet.
Une armoire IA à haute densité doit être conçue en tenant compte de l'architecture complète (GPU, CPU, carte mère, bloc d'alimentation, réseau, stockage et refroidissement), et non pas uniquement en fonction des unités de rack.
NVIDIA présente les plateformes d'IA à l'échelle de rack actuelles, dont les besoins en énergie dépassent largement les 100 kW, illustrant ainsi à quel point les infrastructures d'IA ont dépassé les hypothèses traditionnelles en matière de densité des serveurs.
L'espace libre autour du GPU n'est que le premier critère mécanique à vérifier. L'espacement des cartes, leur fixation, le rayon de courbure des câbles, les connecteurs d'alimentation, la résistance à la circulation d'air et l'accès pour la maintenance sont tout aussi importants.
L'architecture du système de refroidissement doit être définie avant que l'agencement interne du châssis ne soit finalisé.
Une densité maximale de cartes graphiques n'est pas nécessairement synonyme de bonne conception technique. Un châssis légèrement plus grand peut offrir de meilleures performances de calcul en continu et faciliter considérablement les interventions sur site.
Les essais sur prototype doivent reproduire, avant la production en série, les conditions réelles en matière de charge thermique, de comportement des ventilateurs, d'acheminement des câbles, de poids du GPU, de configuration du bloc d'alimentation et de procédures d'entretien prévues.
Le matériel dédié à l'IA a redéfini la notion de “ haute densité ”.”
Il y a quelques années, la conception d’un boîtier de serveur commençait généralement par la définition des dimensions de la carte mère, des baies de disques, des emplacements PCIe, du format du bloc d’alimentation et de la hauteur du rack. Ces paramètres restent importants. Mais un projet de calcul IA ajoute une difficulté supplémentaire : de multiples accélérateurs haute puissance regroupés dans un volume réduit, une demande en courant très élevée, des cartes lourdes, des faisceaux de câbles denses, des dissipateurs thermiques encombrants, des réseaux à haut débit et du matériel de refroidissement qui se disputent les mêmes millimètres d’espace.
Cela change complètement la donne.
La question n'est plus simplement :, “ Peut-on installer huit cartes graphiques dans ce boîtier ? ”
Une meilleure question serait :
“ Pouvons-nous intégrer l'ensemble du système dans ce châssis et le faire fonctionner à pleine charge de manière continue sans rencontrer de problèmes thermiques, électriques, structurels ou liés à la maintenance ? ”
C'est là la philosophie de conception qui sous-tend un véritable Châssis de serveur IA sur mesure.
La densité des baies d'IA est désormais d'un tout autre niveau
Les plateformes d'IA à l'échelle du rack actuelles montrent pourquoi il faut accorder davantage d'attention à la conception des baies.
L'architecture de référence GB300 NVL72 de NVIDIA intègre 72 GPU Blackwell Ultra et 36 CPU Grace. NVIDIA précise que le rack est refroidi par liquide, utilise huit baies d'alimentation de 33 kW et peut nécessiter jusqu'à 142 kW pour une armoire complète.
Ce n'est pas une densité habituelle pour une salle de serveurs.
La documentation spécifique de NVIDIA relative à la gestion de l'alimentation « Mission Control » indique une puissance nominale du rack de 120 kW pour le GB200 NVL72 et 135 kW pour le GB300 NVL72, avec des budgets énergétiques maximaux par nœud d’environ 6,7 kW et 7,5 kW respectivement. Ces chiffres s’inscrivent dans le cadre d’une gestion du budget énergétique ; ils ne doivent donc pas être considérés comme interchangeables avec toutes les spécifications maximales des baies, mais ils illustrent la même réalité technique : les systèmes de calcul modernes basés sur l’IA peuvent consommer une puissance considérable tout en occupant un encombrement physique très réduit.
Point de référence
Illustration publiée
Ce que cela implique pour la conception des boîtiers
NVIDIA GB300 NVL72
72 GPU + 36 processeurs Grace
Une configuration extrêmement dense en termes de ressources de calcul, de réseau, d'alimentation électrique et de circulation du liquide de refroidissement
Configuration complète du rack GB300 NVL72
Jusqu'à 142 kW
L'architecture thermique et énergétique ne peut pas être une réflexion après coup
Exemple d'alimentation de rack GB300 conçue selon la norme NVIDIA PRS
135 kW
La distribution de l'alimentation et la marge de manœuvre doivent être prises en compte au niveau du système
Puissance maximale par nœud de 300 GB dans l'exemple PRS
7,5 kW
Chaque bac informatique peut supporter une charge thermique importante
Croissance accélérée de la consommation d'électricité des serveurs selon l'AIE
~30% par an dans le scénario de base
Le calcul accéléré à haute densité devrait se généraliser
La tendance générale va dans le même sens. L'analyse « Énergie et IA » de l'Agence internationale de l'énergie prévoit que la consommation électrique mondiale des centres de données atteindra environ 945 TWh d'ici 2030 dans son scénario de référence. La consommation d'électricité des serveurs accélérés, principalement due à l'adoption de l'IA, devrait augmenter d'environ 30% par an, contre environ 91 TP6T pour les serveurs classiques.
Pour les concepteurs de boîtiers et les acheteurs OEM, c'est un élément important.
Le développement de matériel toujours plus performant entraîne une multiplication des projets dans lesquels la densité de puissance, la charge des GPU, la capacité de refroidissement, la gestion des câbles et l'accès pour la maintenance deviennent des exigences mécaniques primordiales.
Commencez par la charge de travail, pas par la tôle
L'un des moyens les plus rapides de faire échouer un projet de boîtier sur mesure consiste à lancer la conception CAO avant que l'architecture informatique ne soit stabilisée.
Ne fais pas ça.
Avant de finaliser la géométrie du châssis, l'équipe d'ingénieurs doit connaître la charge de travail prévue et les principaux composants qui devraient être intégrés au système.
Au minimum, verrouillez :
Modèle et quantité des GPU
Dimensions du GPU et largeur de l'emplacement
Emplacement du connecteur d'alimentation du GPU
Modèle et schéma de la carte mère
Plateforme CPU et géométrie du refroidisseur
Hauteur des barrettes DIMM et zones interdites
Riser PCIe ou architecture de commutation
NVMe et exigences en matière de stockage
Cartes réseau et interconnexions
Type, nombre et redondance des blocs d'alimentation
Puissance maximale prévue du système
Dimensions du ventilateur, épaisseur, pression requise et méthode de régulation
Stratégie de refroidissement par air ou par liquide
Exigences relatives au radiateur, au collecteur, à l'unité de refroidissement (CDU) ou aux flexibles, le cas échéant
Ports d'entrée/sortie avant et arrière
Profondeur du rayonnage
Disposition des rails
Consignes d'entretien
Quantité de production visée
Un Boîtier pour serveur d'IA doit être conçu autour de cet ensemble. La modification ultérieure d'un élément peut entraîner une réaction en chaîne sur l'ensemble de la conception.
Changer de carte graphique ?
L'emplacement du connecteur peut changer.
Changer le bloc d'alimentation ?
La composition du faisceau de câbles change.
Ajouter une autre carte réseau ?
La géométrie de la colonne monte désormais change.
Augmenter l'épaisseur du ventilateur ?
Tout à coup, le câble d'alimentation de la carte graphique n'a plus d'endroit pratique où se plier.
Les millimètres s'accumulent vite.
L'adéquation d'un GPU ne se résume pas à la longueur × la hauteur × la largeur
Cela peut sembler évident, mais cela entraîne des erreurs qui coûtent cher.
Le fait qu'une carte graphique puisse s'installer dans le boîtier ne signifie pas pour autant qu'elle fonctionne à l'intérieur de celui-ci.
Lorsqu'on évalue un Châssis de serveur GPU, il faut ne pas se limiter aux dimensions nominales de la carte et vérifier l'enveloppe d'installation réelle.
Cela comprend le corps de la carte, le dissipateur thermique, le connecteur d'alimentation, le rayon de courbure du connecteur, l'espace libre par rapport aux cartes adjacentes, la position de l'emplacement sur la carte mère, les éléments de fixation, l'emplacement du riser, la paroi du ventilateur, le câblage et la direction dans laquelle un technicien doit retirer la carte.
Les accélérateurs puissants posent un autre problème : la gravité.
Les cartes longues peuvent exercer une pression importante sur le connecteur PCIe et la zone de fixation arrière. Les vibrations liées au transport aggravent encore ce phénomène. Un GPU qui fonctionne correctement à l'arrêt sur un banc d'essai de laboratoire peut se comporter de manière très différente après un transport international, une installation en rack, des cycles d'entretien répétés ou les vibrations générées par des ventilateurs à grande vitesse.
Pour les systèmes compacts, le système de fixation du GPU devrait faire partie intégrante de la structure du châssis — et non pas un accessoire dont on se souvient deux jours avant l'expédition.
L'architecture du système de refroidissement doit être définie dès le début
La chaleur se moque bien de la qualité du dessin CAO.
Un serveur à haute densité peut être parfait sur le plan mécanique, mais catastrophique sur le plan thermique.
Dans le cas des systèmes à refroidissement par air, le châssis doit être conçu pour assurer un circuit de pression bien défini. L'air doit entrer à l'endroit prévu par le matériel, traverser les composants à haute résistance, puis sortir du boîtier sans circuler de manière répétée dans les zones chaudes.
Ça a l'air simple.
Ce n'est pas le cas.
Les câbles gênent le passage. Les cages de disques durs gênent le passage. Les boîtiers d'alimentation gênent le passage. Les barrettes DIMM hautes, les risers, les poutres structurelles, les supports de radiateur, les connecteurs, les filtres, les fonds de panier et même les brides en tôle mal positionnées peuvent réduire la pression dans le circuit d'aération.
A Rack IA haute densité ne peut donc pas être conçu en se basant uniquement sur le nombre de positions des ventilateurs.
“ Six fans ”, ça ne m'apprend presque rien.
Je souhaite connaître les dimensions des ventilateurs, leurs courbes de débit, la pression statique, la perte de charge, la température d'entrée, le circuit d'échappement, la stratégie de régulation, l'impédance des composants, ainsi que les conséquences en cas d'arrêt d'un ventilateur.
Ce sont des questions pertinentes.
Refroidissement par air ou par liquide ?
Facteur de conception
Refroidissement par air
Refroidissement par liquide
Complexité mécanique
Plus bas
Plus élevé
Dépendance vis-à-vis du flux d'air au niveau du châssis
Très élevé
Réduit pour les composants à refroidissement par liquide
Intégration des installations
Généralement plus simple
Peut nécessiter une unité de distribution de combustible (CDU), un collecteur, des flexibles et un raccordement au réseau d'eau de l'installation
Exigence en matière de gestion des fuites
Pas de circuit de refroidissement
Oui
Procédures d'entretien
Bien connu de la plupart des techniciens
Nécessite des procédures d'entretien tenant compte du liquide de refroidissement
Adéquation à mesure que la densité thermique augmente
De plus en plus difficile
Souvent plus pratique
Concours d'architecture d'intérieur
Ventilateurs et conduits
Plaques de refroidissement, tuyauteries, collecteurs, raccords
Planification en cas de défaillance
Redondance des ventilateurs et perte de débit d'air
Scénarios relatifs aux pompes, aux unités de traitement de condensats (CDU), aux fuites, au débit et aux boucles d'installation
Le technicien doit disposer de suffisamment d'espace pour déconnecter et reconnecter une boucle sans avoir à retirer du matériel non concerné ni à mouiller les composants électroniques.
L'architecture GB300 NVL72 de NVIDIA intègre elle-même des systèmes de détection des fuites au niveau des racks et des plateaux, ainsi qu'un refroidissement par liquide, ce qui rappelle utilement que la gestion du liquide de refroidissement fait partie intégrante de l'architecture du système, et ne se résume pas à une simple plaque de refroidissement vissée sur un GPU.
La densité de puissance modifie la configuration mécanique
La distribution d'électricité est souvent considérée comme un sujet relevant du domaine de l'électricité.
Dans un environnement très confiné, c'est aussi une question essentiellement mécanique.
Une alimentation à courant élevé implique des connecteurs plus volumineux, davantage de câbles, des contraintes de courbure plus strictes, des considérations supplémentaires concernant les barres omnibus, des températures plus élevées au niveau des connecteurs et une plus grande difficulté à acheminer le câblage dans l’espace restant une fois les composants “ importants ” installés.
L'architecture énergétique a besoin d'un espace physique.
Réservez-le.
Un châssis conçu pour accueillir plusieurs accélérateurs peut nécessiter des alimentations redondantes, une distribution de courant à haute intensité, des connecteurs facilement accessibles, une séparation sécurisée des câbles, une circulation d'air autour de la zone des blocs d'alimentation, ainsi que suffisamment d'espace pour remplacer un module défectueux sans avoir à démonter le serveur.
C'est là qu'un Châssis de serveurs haute densité des problèmes peuvent survenir même lorsque la liste des composants semble parfaitement compatible sur le papier.
Tout s'emboîte parfaitement.
Rien n'est en état de marche.
L'histoire de ce rack de 30 à 40 kW qui a bouleversé ma conception de la densité
Récemment, en passant en revue les discussions du secteur, je suis tombé sur un ancien fil de discussion de r/sysadmin consacré au refroidissement des racks à haute densité, qui m'a marqué.
L’auteur du message initial disposait de plusieurs systèmes NVIDIA DGX ainsi que d’équipements de stockage et cherchait à savoir comment intégrer environ 30 à 40 kW dans une seule armoire. Un participant a expliqué qu’il exploitait des armoires pouvant atteindre environ 36 kW et a précisé que la marge en cas de défaillance du système de refroidissement pouvait être extrêmement réduite : environ 20 secondes avant l’arrêt thermique pour de nombreux systèmes dans ce déploiement spécifique. D'autres ingénieurs intervenant dans le fil de discussion ont soulevé à plusieurs reprises les mêmes préoccupations : la disponibilité du refroidissement, la puissance électrique du site, l'arrêt d'urgence, la plomberie, l'expertise en maintenance et les risques liés à la concentration d'une telle quantité de chaleur dans une seule armoire.
Cette discussion a retenu mon attention, car les acheteurs lancent parfois un projet d'IA sur mesure en posant une question séduisante :
Quelle puissance de calcul peut-on caser dans cet espace ?
La première question n'est pas la bonne.
La meilleure version est la suivante :
Quelle charge de calcul ce boîtier peut-il prendre en charge de manière continue, en toute sécurité et de façon opérationnelle dans les conditions réelles de l'installation ?
Un châssis peut avoir fière allure sur un écran de CAO. Tous les composants s'emboîtent parfaitement. Chaque unité de rack est occupée.
Et c'est là que la charge de travail commence.
Rampe d'accès pour les supporters.
La température des câbles augmente.
L'air évacué par le GPU entre en collision avec une autre source de chaleur.
Un régulateur de débit.
Un technicien tente de retirer une carte et s'aperçoit que trois câbles et un collecteur l'en empêchent.
Ce n'est pas de l'ingénierie à haute densité.
C'est ce qu'on appelle un conditionnement à haute densité.
Il y a une différence.
Voici ce que beaucoup d'acheteurs n'aiment pas entendre
Une densité maximale de composants constitue souvent un mauvais objectif de conception pour un boîtier d'IA sur mesure.
Oui, je l'ai dit.
“ Huit GPU dans un format 4U ”, ça fait très bonne impression dans un tableau comparatif.
“ Puissance de calcul maximale par unité de rack ” : ça fait très bonne impression dans une présentation sur les achats.
Mais un GPU supplémentaire ne sert à rien si son ajout entraîne une mauvaise circulation de l'air, un ralentissement dû à la surchauffe, des connecteurs inaccessibles, un circuit d'alimentation surchargé, des réparations sur site difficiles ou une marge nulle lorsque les conditions ambiantes s'écartent des hypothèses idéales de laboratoire.
L'enclos gagnant n'est pas forcément le plus petit.
Pour de nombreux projets, je préfère construire un boîtier légèrement plus grand, offrant un flux d'air prévisible, un bon maintien de la carte graphique, une distribution électrique soignée, un acheminement logique des câbles, des ventilateurs accessibles et suffisamment d'espace pour que les techniciens puissent travailler, plutôt que de remporter un concours de densité qui rendrait le système final pénible à utiliser.
Le meilleur boîtier à haute densité est celui qui est capable de supporter la charge de travail.
Pas celui qui gagne au Tetris.
La facilité d'entretien doit être intégrée dès la conception
Posez une question simple lors de la révision des plans CAO :
Qu'est-ce qui tombe en panne en premier, et comment le remplacer ?
Ensuite, simulez concrètement la réponse.
Le technicien peut-il remplacer un ventilateur sans démonter les cartes graphiques ?
Est-ce que le bloc d'alimentation peut être retiré par l'arrière ?
Est-il possible d'accéder à une carte réseau sans déconnecter les flexibles de refroidissement ?
Peut-on retirer une carte graphique à la verticale ou à l'horizontale sans débrancher les câbles qui ne lui sont pas liés ?
Est-il possible d'effectuer des opérations de maintenance sur le panneau avant sans devoir retirer le serveur dans son intégralité ?
Peut-on accéder rapidement à un raccord qui fuit ?
Est-il possible de remplacer un disque de démarrage défectueux sans toucher à la partie calcul ?
Ces questions n'ont rien de très glamour.
Ils font des économies.
Pour un intégrateur de systèmes qui assemble 50, 100 ou 500 machines, quelques minutes supplémentaires de temps d’intervention par unité représentent un coût opérationnel réel. Une séquence d’accès mal conçue augmente également le risque que les techniciens endommagent des câbles, des connecteurs, des cartes ou des tuyaux situés à proximité alors qu’ils effectuent une réparation sans rapport avec le problème initial.
Les ingénieurs de production le construisent une seule fois.
Votre client pourra l'entretenir pendant des années.
La conception structurelle prend de plus en plus d'importance à mesure que les GPU gagnent en puissance
Les serveurs d'IA sont très gourmands en ressources.
Parfois extrêmement lourd.
Le châssis doit supporter cette charge lors du montage, du transport, de l'insertion dans le rack, du fonctionnement normal et de la maintenance. Les cartes graphiques longues, les blocs d'alimentation multiples, les cartes mères de grande taille, les dissipateurs thermiques en cuivre, les radiateurs, les collecteurs et les systèmes de stockage à haute densité peuvent tous modifier le centre de gravité.
Vérifier :
Épaisseur de la tôle
Géométrie de la courbure
Renforcement local
Supports pour cartes graphiques
Prise en charge des blocs d'alimentation
Emplacements de fixation sur rail
Manutentionner des charges
Forces d'insertion dans le rack
Affaissement du châssis
Rigidité en torsion
Orientation de l'expédition
Risques liés aux chutes et aux vibrations
Pris isolément, un support peut sembler insignifiant.
Multipliez cette infime déformation sur une carte longue et lourde, ajoutez-y les vibrations liées au transport, puis répétez l'opération sur l'ensemble d'un lot de production.
Maintenant, ça compte.
Les tests de prototypes doivent viser à remettre en cause vos hypothèses
Un prototype n'est pas simplement un échantillon en métal servant à vérifier si les trous de vis sont bien alignés.
Utilisez-le sans retenue.
Installez la carte mère proprement dite.
Installez les cartes graphiques.
Utilisez des câbles d'alimentation de qualité équivalente à ceux utilisés en production.
Installez les mêmes supports de montage, disques durs, cartes réseau, ventilateurs, radiateurs, tuyaux, blocs d'alimentation, rails et ensembles de façade que ceux qui seront présents sur le serveur une fois assemblé.
Ensuite, testez les conditions « laides ».
Validation mécanique
Vérifiez l'installation des composants, le maintien des cartes, l'acheminement des câbles, l'accès aux connecteurs, la rigidité du châssis, l'enclenchement des rails, l'ajustement du couvercle et la séquence d'intervention.
Validation thermique
Exécuter des charges de travail représentatives. Mesurer les températures d'entrée et de sortie, les températures des composants, le comportement des ventilateurs, les zones de surchauffe et les performances dans les conditions ambiantes prévues.
Validation de la puissance
Vérifier la charge des blocs d'alimentation, le comportement en matière de redondance, la température des câbles et des connecteurs, la distribution de l'alimentation ainsi que le comportement au démarrage.
Validation des défaillances
Que se passe-t-il lorsqu’un ventilateur s’arrête ?
Que se passe-t-il lorsqu'une pompe de refroidissement ou une boucle de l'installation présente un problème ?
Que se passe-t-il lorsqu'un bloc d'alimentation tombe en panne ?
Que se passe-t-il si un filtre est partiellement obstrué ?
Que se passe-t-il lorsque la température ambiante augmente ?
Validation de l'expédition
Une machine qui réussit un test thermique mais dont les cartes graphiques sont mal positionnées à l'intérieur du châssis reste un modèle défectueux.
Tester l'emballage, la stabilité, la résistance aux vibrations, les supports, les fixations et le maintien des composants lourds avant l'expédition en série.
Que doit contenir l'appel d'offres ?
Un appel d'offres mal formulé donne lieu à des hypothèses.
Les hypothèses donnent lieu à des révisions.
Les révisions prennent du temps.
Pour un projet de châssis IA sur mesure, fournissez au fournisseur suffisamment d'informations pour qu'il puisse évaluer l'architecture complète du système, plutôt que de lui demander un devis pour une simple coque métallique vide.
Un dossier d'appel d'offres utile devrait comprendre :
Données relatives à l'appel d'offres
Informations à fournir
Facteur de forme
Dimensions de la cible : hauteur, largeur, profondeur
Carte mère
Modèle, dimensions, plans, emplacements de montage
GPU
Modèle exact, quantité, dimensions, largeur de fente, puissance
UNITÉ CENTRALE
Plateforme, quantité, glacière
Mémoire
Configuration des modules DIMM et exigences en matière d'espace libre
Stockage
Type de disque, quantité, exigence de remplacement à chaud
Mise en réseau
Modèle et quantité de la carte réseau (NIC) / unité de traitement de données (DPU)
PCIe
Plan des fentes, colonnes montantes, commutateurs, exigences en matière de bifurcation
Puissance
Type d'alimentation, redondance, puissance totale visée
Refroidissement
Air/liquide, caractéristiques du ventilateur, exigences relatives au radiateur et au collecteur
E/S
Exigences relatives aux ports avant et arrière
Structure
Fixation du GPU, poignées, rails, renforts
Service
Composants nécessitant un accès sans outil ou rapide
L'image de marque
Logo, couleur, sérigraphie, étiquettes
Production
Nombre de prototypes, volume annuel, calendrier prévisionnel
Marché
Pays de destination et exigences en matière de conformité
Plus les données fournies sont complètes, plus il est possible de détecter rapidement les conflits mécaniques.
Détecter un jeu de 12 mm dans un fichier CAO ne coûte pas cher.
En revanche, le retrouver après les étapes d'outillage, de fabrication, d'assemblage et d'expédition à l'international n'est pas chose aisée.
Concevez en fonction de la puissance de calcul durable, et non d’un simple chiffre de densité
Les systèmes d'IA à haute densité imposent de réunir en un seul boîtier l'ingénierie mécanique, thermique, électrique et des installations.
C'est pourquoi un Châssis de serveur IA sur mesure ne devrait jamais être déterminée uniquement en fonction de la hauteur du rack et du nombre de cartes graphiques.
Commencez par la nomenclature complète.
Modéliser la chaleur.
Prévoir un espace pour l'alimentation électrique.
Prise en charge des cartes graphiques.
Planifiez le tracé des câbles.
Définissez dès le début l'architecture de refroidissement.
Concevez l'accès de manière à faciliter l'intervention sur les pièces les plus susceptibles de nécessiter un entretien.
Réalisez ensuite un prototype du système proprement dit — et non d'un simple boîtier vide.
La densité de calcul de l'IA ne cessera d'augmenter. Les prévisions de l'AIE concernant l'augmentation de la consommation électrique des serveurs, ainsi que les architectures de racks actuelles de plus de 100 kW, vont déjà dans ce sens.
Les fabricants et les intégrateurs de systèmes qui sauront bien gérer cette densité ne seront pas ceux qui se contenteront de produire des boîtiers plus petits.
Ce sont eux qui comprendront ce qui doit se passer à l'intérieur de ces boîtes lorsque la charge de travail atteint 100%.
FAQ
Qu'est-ce qu'un châssis de serveur IA sur mesure ?
Réponse courte : Un châssis de serveur IA sur mesure est un boîtier conçu autour d'une combinaison spécifique de GPU, de processeurs, de cartes mères, de systèmes de stockage, d'équipements réseau, d'alimentation, de refroidissement et d'exigences en matière de montage en rack.
Contrairement à un boîtier de serveur standard, son agencement interne peut être optimisé pour l'espacement des accélérateurs, le soutien structurel, la circulation de l'air, le refroidissement par liquide, l'acheminement des câbles, l'alimentation redondante et l'accès pour la maintenance.
Qu'est-ce qui caractérise un châssis de serveur “ haute densité ” ?
Réponse courte : Un châssis de serveur haute densité permet d'intégrer une grande quantité de matériel de calcul, de stockage ou d'accélération dans un espace de rack limité, tout en garantissant une alimentation électrique, un refroidissement, un soutien structurel et un accès à la maintenance adéquats.
La densité doit être évaluée en fonction des performances réelles et durables, et non pas uniquement en fonction du nombre de composants.
Le format 4U est-il toujours préférable au 5U ou au 6U pour les serveurs GPU ?
Réponse courte : Non. Un châssis plus petit peut améliorer la densité de montage en rack, mais les modèles 5U ou 6U peuvent offrir de meilleures capacités de refroidissement, un meilleur espacement entre les GPU, un meilleur acheminement des câbles, de meilleures possibilités d'extension et un meilleur accès pour la maintenance.
Le format approprié dépend du type de GPU, de sa puissance, de la stratégie de refroidissement, de la disposition de la carte mère et des exigences opérationnelles.
Dans quels cas un serveur d’IA doit-il recourir au refroidissement par liquide ?
Réponse courte : Le refroidissement par liquide devient une solution intéressante lorsque la densité thermique, la puissance des accélérateurs, la densité des racks, les limites sonores ou les contraintes de circulation d'air rendent difficile la gestion efficace du refroidissement par air classique.
La décision doit également tenir compte de l'alimentation en eau de l'installation, des exigences relatives aux unités de condensation (CDU), des collecteurs, de la gestion des fuites, des procédures d'entretien et de la redondance.
De quelles informations un fabricant de châssis a-t-il besoin avant de concevoir un boîtier pour IA ?
Réponse courte : Veuillez indiquer le GPU, la carte mère, le processeur, le bloc d'alimentation, le stockage, la connectivité réseau, les emplacements PCIe, le système de refroidissement, les dimensions du rack, les E/S, les exigences en matière de rails, le volume de production et le marché cible.
Des schémas précis des composants sont bien plus utiles que des descriptions génériques telles que “ serveur IA à 8 GPU ”.”
Pourquoi la rétention des GPU est-elle importante dans un serveur à haute densité ?
Réponse courte : Les cartes graphiques lourdes peuvent exercer des contraintes mécaniques sur les emplacements PCIe, les supports et la structure du châssis pendant leur fonctionnement, leur transport et leur maintenance.
Un système de retenue adéquat permet de contrôler les mouvements de la carte, de répartir la charge mécanique et de réduire le risque d'endommagement du connecteur ou de la carte.
Le nombre maximal de GPU devrait-il constituer l'objectif principal de la conception ?
Réponse courte : En général, non. L'objectif à privilégier est la densité de calcul la plus élevée possible qui permette de garantir les performances thermiques, une alimentation électrique fiable, la stabilité structurelle et un accès acceptable pour la maintenance.
Un GPU supplémentaire ne présente aucun intérêt si le système qui en résulte subit des limitations de performances ou devient difficile à entretenir.
Mark Lee - Fondateur et spécialiste des châssis de serveurs (OEM/ODM)
Mark Lee est le fondateur d'ISTONECASE et possède 20 ans d'expérience dans le secteur des châssis de serveurs. Il est spécialisé dans les solutions OEM/ODM pour les châssis GPU et IA, les châssis montés en rack, industriels, muraux, NAS, Mini-ITX et à nœuds multiples. Son expertise permet de mener à bien des projets matériels sur mesure destinés aux centres de données, au calcul IA, au stockage d’entreprise, à l’edge computing, aux réseaux et aux applications industrielles.