لقد غيّرت أجهزة الذكاء الاصطناعي معنى مصطلح “الكثافة العالية”.”
قبل بضع سنوات، كان مشروع تصميم حاوية الخادم يبدأ عادةً بأبعاد اللوحة الأم، وفتحات محركات الأقراص، وفتحات PCIe، وشكل وحدة تزويد الطاقة (PSU)، وارتفاع الرف. ولا تزال هذه العوامل مهمة. لكن مشروع الحوسبة القائمة على الذكاء الاصطناعي يضيف مستوىً آخر من الصعوبة: وجود عدة مسرعات عالية الطاقة محشورة في حجم صغير، وطلب شديد على التيار الكهربائي، وبطاقات ثقيلة، وحزم كابلات كثيفة، ومبددات حرارة مقيدة، وشبكات سريعة، وأجهزة تبريد تتنافس على نفس المليمترات من المساحة.
هذا يغير طبيعة العمل تمامًا.
لم يعد السؤال يقتصر على مجرد،, “هل يمكننا تركيب ثماني وحدات معالجة رسومات (GPU) في هذا الهيكل؟”
والسؤال الأفضل هو:
“هل يمكننا تركيب النظام بأكمله داخل هذا الهيكل والحفاظ على تشغيله تحت عبء عمل مستمر دون التسبب في أي مشاكل حرارية أو كهربائية أو هيكلية أو متعلقة بالصيانة؟”
هذه هي فلسفة التصميم الكامنة وراء منتج جاد هيكل خادم مخصص للذكاء الاصطناعي.
تُظهر منصات الذكاء الاصطناعي الحالية التي تعمل على نطاق الحامل (rack-scale) الأسباب التي تجعل هندسة العلب تحتاج إلى مزيد من الاهتمام.
تضم البنية المرجعية GB300 NVL72 من NVIDIA 72 وحدة معالجة رسومات (GPU) من طراز Blackwell Ultra و36 وحدة معالجة مركزية (CPU) من طراز Grace. وتشير NVIDIA إلى أن الحامل مزود بنظام تبريد سائل، ويستخدم ثمانية أرفف طاقة بقدرة 33 كيلوواط لكل منها، وقد يتطلب تصل إلى 142 كيلوواط للحامل الكامل.
هذه ليست الكثافة المعتادة لغرفة الخوادم.
تُدرج وثائق إدارة الطاقة الخاصة بـ «Mission Control» من NVIDIA الطاقة التصميمية للحامل عند 120 كيلوواط لطراز GB200 NVL72 و135 كيلوواط لطراز GB300 NVL72, ، حيث تبلغ الميزانيات القصوى للطاقة لكل عقدة حوالي 6.7 كيلوواط و7.5 كيلوواط على التوالي. تُعرض هذه الأرقام في سياق تخطيط ميزانية الطاقة، لذا لا ينبغي اعتبارها قابلة للتبادل مع كل مواصفات الرفوف القصوى، لكنها توضح نفس الحقيقة الهندسية: يمكن لحوسبة الذكاء الاصطناعي الحديثة توفير طاقة هائلة من خلال مساحة مادية صغيرة جدًّا.
| نقطة مرجعية | الشكل المنشور | ماذا يعني ذلك بالنسبة لتصميم الحاويات؟ |
|---|---|---|
| NVIDIA GB300 NVL72 | 72 وحدة معالجة رسومات + 36 وحدة معالجة مركزية من طراز Grace | توزيع شديد الكثافة لأنظمة الحوسبة والشبكات والطاقة وتوزيع سائل التبريد |
| متطلبات الحامل الكامل لطراز GB300 NVL72 | ما يصل إلى 142 كيلوواط | لا يمكن أن تكون البنية الحرارية وبنية الطاقة مجرد أمر ثانوي |
| قدرة الطاقة المصممة للحامل GB300 في مثال NVIDIA PRS | 135 كيلوواط | يجب مراعاة توزيع الطاقة والهامش على مستوى النظام |
| GB300: الحد الأقصى لطاقة العقدة في مثال PRS | 7.5 كيلوواط | يمكن أن تتحمل كل صينية حوسبة على حدة حملًا حراريًا كبيرًا |
| نمو استهلاك الكهرباء في الخوادم السريعة وفقًا لوكالة الطاقة الدولية | ~30% سنويًّا في السيناريو الأساسي | من المرجح أن تصبح الحوسبة المتسارعة عالية الكثافة أكثر انتشارًا |
ويشير الاتجاه العام إلى نفس الاتجاه. ويتوقع تحليل «الطاقة والذكاء الاصطناعي» الصادر عن وكالة الطاقة الدولية أن يصل استهلاك مراكز البيانات العالمية للكهرباء إلى حوالي 945 تيراواط/ساعة بحلول عام 2030 في السيناريو الأساسي. ومن المتوقع أن ينمو استهلاك الكهرباء الناتج عن الخوادم ذات الأداء المعزز — والذي يعزى بشكل رئيسي إلى اعتماد الذكاء الاصطناعي — بنسبة تقارب 30% سنويًّا, ، مقارنةً بحوالي 9% في الخوادم التقليدية.
وهذا أمر مهم لمصممي العلب ومشتري المعدات الأصلية.
كلما زادت سرعة الأجهزة، زاد عدد المشاريع التي تصبح فيها كثافة الطاقة، وحمل وحدة معالجة الرسومات (GPU)، وقدرة التبريد، وتنظيم الكابلات، والوصول لأغراض الصيانة، متطلبات ميكانيكية ذات أولوية قصوى.
من أسرع الطرق التي قد تؤدي إلى إفشال مشروع تصميم حاوية مخصصة هي البدء في استخدام برنامج CAD قبل أن تصبح بنية النظام الحاسوبي مستقرة.
لا تفعل ذلك.
قبل تثبيت تصميم هيكل السيارة، يجب أن يكون فريق الهندسة على دراية بحجم العمل المتوقع والمكونات الرئيسية التي من المقرر تضمينها في النظام.
على الأقل، قم بتأمين ما يلي:
أن حاوية خادم الذكاء الاصطناعي يجب أن يتم تصميمه بناءً على هذه الحزمة المتكاملة. فقد يؤدي تغيير أحد أجزائه لاحقًا إلى سلسلة من التغييرات المتتالية في بقية أجزاء التصميم.
هل نستبدل وحدة معالجة الرسومات (GPU)؟
قد يتغير موقع الموصل.
هل يجب تغيير وحدة تزويد الطاقة؟
تتغير حزمة الكابلات.
هل أضيف بطاقة شبكة أخرى؟
والآن تتغير هندسة الأنبوب الصاعد.
زيادة سماكة المروحة؟
فجأة، لم يعد هناك مكان ملائم لثني كابل طاقة وحدة معالجة الرسومات (GPU).
تتراكم المليمترات بسرعة.
قد يبدو هذا أمراً بديهياً، لكنه يؤدي إلى أخطاء مكلفة.
إن وجود بطاقة رسومات (GPU) داخل الهيكل لا يعني أنها تعمل داخل الهيكل.
عند تقييم... هيكل خادم وحدة معالجة الرسومات, ، علينا ألا نكتفي بالنظر إلى الأبعاد الاسمية للبطاقة، بل أن نتحقق من المساحة الفعلية المتاحة للتركيب.
ويشمل ذلك هيكل البطاقة، ومبدد الحرارة، وموصل الطاقة، ونصف قطر انحناء الموصل، والمسافة الفاصلة بين البطاقة والبطاقات المجاورة، وموضع الفتحة في اللوحة الأم، ومكونات التثبيت، وموقع الموسع، وجدار المروحة، وتوصيلات الكابلات، والاتجاه الذي يجب على الفني اتباعه لإزالة البطاقة.
تثير المسرعات الثقيلة مشكلة أخرى: الجاذبية.
يمكن للبطاقات الطويلة أن تفرض ضغطًا كبيرًا على وصلة PCIe ومنطقة التثبيت الخلفية. وتؤدي اهتزازات الشحن إلى تفاقم هذه المشكلة. فقد تتصرف وحدة معالجة الرسومات (GPU) التي تتحمل التشغيل الثابت على منضدة المختبر بشكل مختلف تمامًا بعد الشحن الدولي، أو تركيبها في حامل، أو دورات الصيانة المتكررة، أو الاهتزازات الناتجة عن المراوح عالية السرعة.
بالنسبة للأنظمة عالية الكثافة، يجب أن يكون نظام تثبيت وحدة معالجة الرسومات (GPU) جزءًا من هيكل الهيكل نفسه — وليس مجرد ملحق يتذكره أحدهم قبل يومين من الشحن.
لا تهتم شركة «هيت» بمدى جمال مظهر الرسم الهندسي باستخدام برنامج CAD.
قد يكون الخادم ذو الكثافة العالية مثاليًا من الناحية الميكانيكية، لكنه سيئ للغاية من الناحية الحرارية.
بالنسبة للأنظمة المبردة بالهواء، يحتاج الهيكل إلى مسار ضغط محدد بدقة. يجب أن يدخل الهواء من المكان الذي تتوقعه الأجهزة، ويمر عبر المكونات عالية المقاومة، ويخرج من العلبة دون أن يدور مرارًا وتكرارًا عبر المناطق الساخنة.
يبدو هذا بسيطًا.
ليس كذلك.
تعيق الكابلات مسار الهواء. كما تعيق أقفاص محركات الأقراص مسار الهواء. وتعيق أغلفة وحدات تزويد الطاقة (PSU) مسار الهواء. كما أن وحدات ذاكرة DIMM الطويلة، والموصلات الارتفاعية، والعوارض الهيكلية، وحوامل المبردات، والموصلات، والمرشحات، واللوحات الخلفية، وحتى الحواف المعدنية الموضوعة بشكل غير صحيح، كلها عوامل يمكن أن تقلل من ضغط الهواء في مسار تدفقه.
A حامل الذكاء الاصطناعي عالي الكثافة وبالتالي لا يمكن تصميمها بالاعتماد على عدد مواقع المراوح وحدها.
“عبارة ”ستة مشجعين» لا تعني لي شيئًا تقريبًا.
أريد معرفة أبعاد المروحة، ومنحنيات المروحة، والضغط الساكن، ومقاومة التدفق، ودرجة حرارة المدخل، ومسار العادم، واستراتيجية التحكم، ومقاومة المكونات، وما يحدث عند توقف إحدى المراوح.
هذه أسئلة مفيدة.
| عامل التصميم | التبريد الهوائي | التبريد السائل |
|---|---|---|
| التعقيد الميكانيكي | أقل | أعلى |
| اعتماد تدفق الهواء على الهيكل | عالية جداً | مصممة خصيصًا للمكونات المبردة بالسائل |
| تكامل المرافق | عادةً ما تكون أبسط | قد يتطلب وحدة التوزيع المركزي (CDU)، وموزع الهواء، والخراطيم، ووصلة مياه المنشأة |
| متطلبات إدارة التسربات | لا توجد دائرة تبريد | نعم |
| إجراءات الخدمة | مألوف لدى معظم الفنيين | يتطلب إجراءات صيانة تراعي سائل التبريد |
| المدى الملائم مع ارتفاع كثافة الحرارة | يزداد صعوبةً | غالبًا ما تكون أكثر عملية |
| مسابقة التصميم الداخلي | المراوح والقنوات | الألواح الباردة، والأنابيب، والمشعبات، والموصلات |
| التخطيط لمواجهة الأعطال | تكرار المراوح وفقدان تدفق الهواء | سيناريوهات المضخات، ووحدات معالجة الغاز (CDU)، والتسرب، والتدفق، ودوائر المنشأة |
الانتقال إلى هيكل خادم مبرد بالسائل لا يلغي ذلك أعمال التصميم الميكانيكي، بل يغير طبيعة هذه الأعمال.
الآن أصبحت مسارات الخراطيم مهمة.
تعد إمكانية الوصول السريع إلى الوصلات أمرًا مهمًا.
كشف التسربات أمر مهم.
نصف قطر الانحناء الأدنى له أهمية.
موقع المشعبات مهم.
يحتاج الفني إلى مساحة كافية لفصل حلقة ما وإعادة توصيلها دون الحاجة إلى إزالة الأجهزة غير ذات الصلة أو تعريض الأجزاء الإلكترونية للبلل.
تستخدم بنية GB300 NVL72 من NVIDIA نفسها نظامًا للكشف عن التسرب على مستوى الرف وعلى مستوى الدرج، إلى جانب التبريد السائل، وهو ما يُعد تذكيرًا مفيدًا بأن إدارة سائل التبريد تُعد جزءًا من بنية النظام، وليست مجرد لوحة تبريد مثبتة بمسامير على وحدة معالجة الرسومات (GPU).
غالبًا ما يُنظر إلى توزيع الطاقة على أنه موضوع كهربائي.
داخل غلاف كثيف، يُعد هذا الأمر أيضًا موضوعًا ميكانيكيًا بامتياز.
تتطلب الطاقة عالية التيار استخدام موصلات أكبر حجمًا، وعددًا أكبر من الكابلات، وقيودًا أكثر صرامة على انحناء الكابلات، واعتبارات إضافية تتعلق بقضبان التوصيل، وارتفاع درجات حرارة الموصلات، فضلاً عن انخفاض حرية توجيه الأسلاك عبر أي مساحة متبقية بعد تركيب المكونات “المهمة”.
تحتاج بنية السلطة إلى أراضٍ ملموسة.
احجزه.
قد يحتاج الهيكل المصمم لاستيعاب عدة وحدات تسريع إلى مصادر طاقة احتياطية، ونظام توزيع تيار كهربائي عالي، وموصلات يسهل الوصول إليها، وفصل آمن للكابلات، وتدفق هواء حول منطقة وحدة تزويد الطاقة، ومساحة كافية لاستبدال الوحدة المعطلة دون الحاجة إلى تفكيك الخادم.
هذا هو المكان هيكل خادم عالي الكثافة قد تحدث مشكلات حتى عندما تبدو قائمة المكونات متوافقة تمامًا على الورق.
كل شيء متناسق.
لا شيء صالح للاستخدام.
مؤخرًا، وأثناء استعراض المناقشات الدائرة في هذا المجال، عثرت على موضوع قديم في منتدى r/sysadmin حول تبريد الحوامل عالية الكثافة، وقد لفت انتباهي بشكل خاص.
كان صاحب المنشور الأصلي يمتلك عدة أنظمة NVIDIA DGX بالإضافة إلى معدات التخزين، وكان يبحث عن طريقة لتضمين ما يقارب 30–40 كيلوواط في رف واحد. ووصف أحد المشاركين تشغيل الخزانات بقدرة تصل إلى حوالي 36 كيلوواط، وقال إن الهامش المتاح في حالة تعطل التبريد قد يكون ضئيلاً للغاية — حوالي 20 ثانية قبل الإغلاق الحراري للعديد من الأنظمة في هذا النشر المحدد. وأثار مهندسون آخرون في سلسلة المناقشة هذه نفس المخاوف مرارًا وتكرارًا: توفر التبريد، وطاقة المنشأة، والإغلاق في حالات الطوارئ، وأنظمة السباكة، والخبرة في الصيانة، والمخاطر الناجمة عن تركيز مثل هذه الكمية الكبيرة من الحرارة في خزانة واحدة.
لقد لفتت تلك المناقشة انتباهي لأن المشترين يبدؤون أحيانًا مشروعًا مخصصًا في مجال الذكاء الاصطناعي بطرح سؤال واحد مغري:
ما مقدار القدرة الحاسوبية التي يمكننا استيعابها في هذه المساحة؟
السؤال الأول خاطئ.
والأفضل هو:
ما هو حجم الحوسبة الذي يمكن لهذا الغلاف أن يدعمه بشكل مستمر وآمن وقابل للصيانة في ظل الظروف الفعلية للمنشأة؟
قد يبدو الهيكل رائعًا على شاشة برنامج التصميم بمساعدة الحاسوب (CAD). فكل مكون في مكانه الصحيح، وكل وحدة رف مشغولة.
ثم يبدأ عبء العمل.
منحدر المشجعين.
ترتفع درجات حرارة الكابلات.
يتصادم هواء العادم الصادر عن وحدة معالجة الرسومات مع مصدر حرارة آخر.
مكون واحد يحد من السرعة.
يحاول أحد الفنيين إزالة بطاقة ما، فيكتشف أن ثلاثة كابلات وموزعًا يعيقانها.
هذه ليست هندسة عالية الكثافة.
هذا ما يُعرف بالتعبئة عالية الكثافة.
هناك فرق.
غالبًا ما تكون الكثافة القصوى للمكونات هدفًا تصميميًا غير ملائم لعلبة مخصصة للذكاء الاصطناعي.
نعم، لقد قلت ذلك.
“تبدو عبارة ”ثماني وحدات معالجة رسومات في 4U» رائعة في جدول المقارنة.
“تبدو عبارة ”القدرة الحاسوبية القصوى لكل وحدة رف» رائعة في عرض تقديمي خاص بالمشتريات.
لكن إضافة وحدة معالجة رسومات (GPU) أخرى لا فائدة منها إذا أدى ذلك إلى ضعف تدفق الهواء، أو حدوث تباطؤ حراري، أو صعوبة الوصول إلى الموصلات، أو تحميل زائد على مسارات تزويد الطاقة، أو صعوبة في إجراء الإصلاحات الميدانية، أو انعدام الهامش عندما تختلف ظروف الغرفة عن الافتراضات المختبرية المثالية.
ليس بالضرورة أن يكون الحظيرة الفائزة هي الأصغر حجماً.
في العديد من المشاريع، أُفضل بناء هيكل أكبر قليلاً يتميز بتدفق هواء يمكن التنبؤ به، ودعم قوي لوحدة معالجة الرسومات (GPU)، وتوزيع نظيف للطاقة، ومسارات منطقية للكابلات، ومراوح يسهل الوصول إليها، ومساحة كافية للفنيين للعمل، بدلاً من الفوز بمسابقة الكثافة التي تجعل تشغيل النظام النهائي أمراً مزعجاً.
أفضل حاوية عالية الكثافة هي تلك التي يمكنها تحمل عبء العمل.
ليس الشخص الذي يفوز بلعبة «تتريس».
اطرح سؤالاً بسيطاً أثناء مراجعة تصميمات CAD:
ما الذي يتعطل أولاً، وكيف نستبدله؟
ثم قم بمحاكاة الإجابة عمليًّا.
هل يمكن للفني استبدال مروحة دون إزالة وحدات معالجة الرسومات؟
هل يمكن إخراج وحدة تزويد الطاقة من الجزء الخلفي؟
هل يمكن الوصول إلى محول الشبكة دون المساس بخراطيم سائل التبريد؟
هل يمكن إزالة وحدة معالجة الرسومات (GPU) عموديًا أو أفقيًّا دون فصل الكابلات غير ذات الصلة؟
هل يمكن صيانة اللوحة الأمامية دون الحاجة إلى إخراج الخادم بالكامل؟
هل يمكن الوصول بسرعة إلى الوصلة التي تتسرب منها السوائل؟
هل يمكن استبدال محرك أقراص التمهيد المعطل دون المساس بقسم المعالجة؟
هذه الأسئلة ليست مثيرة للاهتمام.
إنهم يوفرون المال.
بالنسبة لشركة تكامل الأنظمة التي تقوم بتركيب 50 أو 100 أو 500 جهاز، فإن بضع دقائق إضافية من وقت الصيانة لكل وحدة تمثل تكلفة تشغيلية حقيقية. كما أن تسلسل الوصول غير السليم يزيد من احتمال قيام الفنيين بإتلاف الكابلات أو الموصلات أو البطاقات أو الأنابيب المجاورة أثناء إصلاح مشكلة لا علاقة لها بذلك.
ولهذا السبب فإن حاوية مخصصة للتركيب على حامل يجب أن تُصمم بحيث لا تقتصر على التجميع فحسب، بل تشمل التفكيك أيضًا.
يقوم مهندسو الإنتاج بتصميمه مرة واحدة.
قد يستمر عميلك في صيانتها لسنوات.
خوادم الذكاء الاصطناعي تستهلك موارد كبيرة.
أحيانًا يكون وزنها ثقيلًا للغاية.
يجب أن يتحمل الهيكل هذا الحمل أثناء التجميع والنقل وتركيب الرفوف والتشغيل العادي والصيانة. فبطاقات GPU الطويلة، ووحدات تزويد الطاقة المتعددة، واللوحات الأم الكبيرة، ومبددات الحرارة النحاسية، والمشعات، والمشعبات، ووحدات التخزين عالية الكثافة — كلها عوامل يمكن أن تؤدي إلى تغيير مركز الكتلة.
تحقق من ذلك:
قد يبدو القوس غير مهم إذا نظرنا إليه بمفرده.
اضرب هذا الانحراف الضئيل في طول البطاقة الطويلة الثقيلة، وأضف إليه اهتزازات الشحن، ثم كرر ذلك على دفعة الإنتاج بأكملها.
الآن أصبح الأمر مهمًا.
النموذج الأولي ليس مجرد عينة معدنية للتحقق من محاذاة فتحات البراغي.
استخدمه بشكل مكثف.
قم بتركيب اللوحة الأم الفعلية.
قم بتركيب وحدات معالجة الرسومات (GPU) الفعلية.
استخدم كابلات كهربائية مطابقة لمعايير الإنتاج.
قم بتركيب نفس الدعامات، ومحركات الأقراص، ومحولات الشبكة، والمراوح، والمبردات، والأنابيب، ووحدات تزويد الطاقة، والقضبان، ومجموعات اللوحة الأمامية التي من المتوقع وجودها في الخادم النهائي.
ثم اختبر الشروط الصعبة.
تحقق من تركيب المكونات، وتثبيت البطاقات، وتوجيه الكابلات، وإمكانية الوصول إلى الموصلات، وصلابة الهيكل، وتثبيت القضبان، وملاءمة الغطاء، وتسلسل الصيانة.
تشغيل أحمال عمل تمثيلية. قياس درجات حرارة الهواء الداخل والخارج، ودرجات حرارة المكونات، وأداء المراوح، والمناطق الساخنة، والأداء في ظل الظروف المحيطة المتوقعة.
تحقق من حمل وحدة تزويد الطاقة (PSU)، وسلوك نظام التكرار، ودرجات حرارة الكابلات، ودرجات حرارة الموصلات، وتوزيع الطاقة، وسلوك التشغيل.
ماذا يحدث عندما يتوقف أحد المشجعين؟
ماذا يحدث عندما تتعرض مضخة سائل التبريد أو دائرة المنشأة لمشكلة؟
ماذا يحدث في حالة تعطل أحد مزودات الطاقة؟
ماذا يحدث إذا انسدّ المرشح جزئيًّا؟
ماذا يحدث عندما ترتفع درجة الحرارة المحيطة؟
إن الجهاز الذي يجتاز الاختبار الحراري، لكنه يصل ووحدات معالجة الرسومات (GPU) فيه في وضع غير صحيح داخل الهيكل، يظل تصميمًا فاشلاً.
اختبار التغليف، والتثبيت، ومقاومة الاهتزاز، والحوامل، والمثبتات، ودعم المكونات الثقيلة قبل الشحن بكميات كبيرة.
إن طلب عرض الأسعار غير الدقيق يؤدي إلى افتراضات.
الافتراضات تؤدي إلى إجراء تعديلات.
تستغرق عمليات المراجعة وقتًا.
بالنسبة لمشروع هيكل مخصص للذكاء الاصطناعي، يرجى إرسال معلومات كافية إلى المورد لتقييم بنية النظام بالكامل، بدلاً من طلب عرض أسعار لهيكل معدني فارغ.
ينبغي أن تتضمن حزمة طلب عرض الأسعار المفيدة ما يلي:
| بيانات طلب عرض الأسعار | المعلومات المطلوب تقديمها |
|---|---|
| عامل الشكل | القيم المستهدفة للارتفاع والعرض والعمق |
| اللوحة الأم | الطراز، الأبعاد، الرسومات، مواقع التركيب |
| وحدة معالجة الرسوميات | الطراز الدقيق، الكمية، الأبعاد، عرض الفتحة، القدرة |
| وحدة المعالجة المركزية | Platform, quantity, cooler |
| الذاكرة | DIMM configuration and clearance requirements |
| التخزين | Drive type, quantity, hot-swap requirement |
| الربط الشبكي | NIC/DPU model and quantity |
| PCIe | Slot map, risers, switches, bifurcation requirements |
| الطاقة | PSU type, redundancy, total target power |
| التبريد | Air/liquid, fan specification, radiator/manifold requirements |
| الإدخال/الإخراج | Front and rear port requirements |
| Structure | GPU retention, handles, rails, reinforcement |
| الخدمة | Components requiring tool-less or rapid access |
| العلامة التجارية | Logo, color, silk screen, labels |
| Production | Prototype quantity, annual volume, target schedule |
| Market | Destination countries and compliance requirements |
The more complete the input, the earlier mechanical conflicts can be found.
Finding a 12 mm interference in CAD is cheap.
Finding it after tooling, fabrication, assembly, and international shipping is not.
High-density AI systems force mechanical, thermal, electrical, and facility engineering to meet in one box.
ولهذا السبب فإن هيكل خادم مخصص للذكاء الاصطناعي should never be specified by rack height and GPU count alone.
Start with the complete bill of materials.
Model the heat.
Reserve space for power.
Support the GPUs.
Plan the cable paths.
Decide the cooling architecture early.
Design access around the parts most likely to need service.
Then prototype the actual system—not an empty enclosure.
AI compute density will keep rising. The IEA’s projections for accelerated-server electricity use and today’s 100 kW-plus rack architectures already point in that direction.
The manufacturers and system integrators that handle that density well will not be the ones who simply make smaller boxes.
They will be the ones who understand what has to happen inside those boxes when the workload hits 100%.
Short answer: A custom AI server chassis is an enclosure engineered around a specific combination of GPUs, CPUs, motherboard, storage, networking, power, cooling, and rack requirements.
Unlike a generic server case, its internal layout can be optimized for accelerator spacing, structural support, airflow, liquid cooling, cable routing, redundant power, and maintenance access.
Short answer: A high-density server chassis places a large amount of compute, storage, or accelerator hardware into a limited rack space while maintaining adequate power delivery, cooling, structural support, and service access.
Density should be evaluated by usable sustained performance, not component count alone.
Short answer: No. A smaller chassis can improve rack density, but 5U or 6U may provide better cooling capacity, GPU spacing, cable routing, expansion, and maintenance access.
The correct form factor depends on GPU type, power, cooling strategy, motherboard layout, and operational requirements.
Short answer: Liquid cooling becomes attractive when heat density, accelerator power, rack density, noise limits, or airflow restrictions make conventional air cooling difficult to manage efficiently.
The decision must also consider facility water, CDU requirements, manifolds, leak management, service procedures, and redundancy.
Short answer: Provide the GPU, motherboard, CPU, PSU, storage, networking, PCIe, cooling, rack dimensions, I/O, rail requirements, production volume, and target market.
Exact component drawings are far more useful than generic statements such as “8-GPU AI server.”
Short answer: Heavy GPUs can place mechanical stress on PCIe slots, brackets, and chassis structures during operation, shipping, and maintenance.
Proper retention controls card movement, distributes mechanical load, and reduces the risk of connector or board damage.
Short answer: Usually not. The better target is the highest practical compute density that can maintain thermal performance, reliable power delivery, structural stability, and acceptable service access.
One extra GPU is not valuable if the resulting system throttles or becomes difficult to maintain.
مارك لي هو مؤسس شركة ISTONECASE، ويتمتع بخبرة تمتد إلى 20 عامًا في صناعة هياكل الخوادم. وهو متخصص في حلول OEM/ODM الخاصة بوحدات معالجة الرسومات (GPU) والذكاء الاصطناعي (AI)، بالإضافة إلى الهياكل المخصصة للتركيب على الرفوف، والهياكل الصناعية، والهياكل المثبتة على الحائط، وأجهزة التخزين الشبكية (NAS)، وهياكل Mini-ITX، والهياكل متعددة العقد. وتساهم خبرته في دعم مشاريع الأجهزة المخصصة لمراكز البيانات، وحوسبة الذكاء الاصطناعي، وتخزين البيانات المؤسسية، والحوسبة الطرفية، والشبكات، والتطبيقات الصناعية.
التعليقات
