ينبغي تصميم حاوية الذكاء الاصطناعي عالية الكثافة بحيث تراعي البنية الكاملة لوحدة معالجة الرسومات (GPU) ووحدة المعالجة المركزية (CPU) واللوحة الأم ومصدر الطاقة (PSU) والشبكات والتخزين ونظام التبريد — وليس فقط وحدات الرف.
تسرد NVIDIA منصات الذكاء الاصطناعي الحالية على نطاق الرف التي تتجاوز متطلباتها من الطاقة 100 كيلوواط بكثير، مما يوضح مدى تجاوز البنية التحتية للذكاء الاصطناعي للافتراضات التقليدية المتعلقة بكثافة الخوادم.
يُعد الفراغ المحيط بوحدة معالجة الرسومات (GPU) مجرد الفحص الميكانيكي الأول. فمسافات التباعد بين البطاقات، وتثبيتها، ونصف قطر انحناء الكابلات، وموصلات الطاقة، ومقاومة تدفق الهواء، وسهولة الوصول لإجراء الصيانة، كلها عوامل لا تقل أهمية.
ينبغي تحديد بنية التبريد قبل إقرار التصميم الداخلي للهيكل بشكل نهائي.
لا تعني الكثافة القصوى لوحدات معالجة الرسومات (GPU) بالضرورة أنها تصميم هندسي جيد. فقد يوفر الهيكل الأكبر حجمًا قليلاً أداءً حاسبيًّا مستمرًّا أفضل، كما يسهّل الصيانة الميدانية بشكل كبير.
يجب أن يحاكي اختبار النموذج الأولي الحمل الحراري الواقعي، وسلوك المروحة، ومسار الكابلات، ووزن وحدة معالجة الرسومات (GPU)، وتكوين وحدة تزويد الطاقة (PSU)، وإجراءات الصيانة المتوقعة قبل بدء الإنتاج بكميات كبيرة.
لقد غيّرت أجهزة الذكاء الاصطناعي معنى مصطلح “الكثافة العالية”.”
قبل بضع سنوات، كان مشروع تصميم حاوية الخادم يبدأ عادةً بأبعاد اللوحة الأم، وفتحات محركات الأقراص، وفتحات PCIe، وشكل وحدة تزويد الطاقة (PSU)، وارتفاع الرف. ولا تزال هذه العوامل مهمة. لكن مشروع الحوسبة القائمة على الذكاء الاصطناعي يضيف مستوىً آخر من الصعوبة: وجود عدة مسرعات عالية الطاقة محشورة في حجم صغير، وطلب شديد على التيار الكهربائي، وبطاقات ثقيلة، وحزم كابلات كثيفة، ومبددات حرارة مقيدة، وشبكات سريعة، وأجهزة تبريد تتنافس على نفس المليمترات من المساحة.
هذا يغير طبيعة العمل تمامًا.
لم يعد السؤال يقتصر على مجرد،, “هل يمكننا تركيب ثماني وحدات معالجة رسومات (GPU) في هذا الهيكل؟”
والسؤال الأفضل هو:
“هل يمكننا تركيب النظام بأكمله داخل هذا الهيكل والحفاظ على تشغيله تحت عبء عمل مستمر دون التسبب في أي مشاكل حرارية أو كهربائية أو هيكلية أو متعلقة بالصيانة؟”
هذه هي فلسفة التصميم الكامنة وراء منتج جاد هيكل خادم مخصص للذكاء الاصطناعي.
كثافة حوامل أجهزة الذكاء الاصطناعي قد انتقلت إلى مستوى آخر
تُظهر منصات الذكاء الاصطناعي الحالية التي تعمل على نطاق الحامل (rack-scale) الأسباب التي تجعل هندسة العلب تحتاج إلى مزيد من الاهتمام.
تضم البنية المرجعية GB300 NVL72 من NVIDIA 72 وحدة معالجة رسومات (GPU) من طراز Blackwell Ultra و36 وحدة معالجة مركزية (CPU) من طراز Grace. وتشير NVIDIA إلى أن الحامل مزود بنظام تبريد سائل، ويستخدم ثمانية أرفف طاقة بقدرة 33 كيلوواط لكل منها، وقد يتطلب تصل إلى 142 كيلوواط للحامل الكامل.
هذه ليست الكثافة المعتادة لغرفة الخوادم.
تُدرج وثائق إدارة الطاقة الخاصة بـ «Mission Control» من NVIDIA الطاقة التصميمية للحامل عند 120 كيلوواط لطراز GB200 NVL72 و135 كيلوواط لطراز GB300 NVL72, ، حيث تبلغ الميزانيات القصوى للطاقة لكل عقدة حوالي 6.7 كيلوواط و7.5 كيلوواط على التوالي. تُعرض هذه الأرقام في سياق تخطيط ميزانية الطاقة، لذا لا ينبغي اعتبارها قابلة للتبادل مع كل مواصفات الرفوف القصوى، لكنها توضح نفس الحقيقة الهندسية: يمكن لحوسبة الذكاء الاصطناعي الحديثة توفير طاقة هائلة من خلال مساحة مادية صغيرة جدًّا.
نقطة مرجعية
الشكل المنشور
ماذا يعني ذلك بالنسبة لتصميم الحاويات؟
NVIDIA GB300 NVL72
72 وحدة معالجة رسومات + 36 وحدة معالجة مركزية من طراز Grace
توزيع شديد الكثافة لأنظمة الحوسبة والشبكات والطاقة وتوزيع سائل التبريد
متطلبات الحامل الكامل لطراز GB300 NVL72
ما يصل إلى 142 كيلوواط
لا يمكن أن تكون البنية الحرارية وبنية الطاقة مجرد أمر ثانوي
قدرة الطاقة المصممة للحامل GB300 في مثال NVIDIA PRS
135 كيلوواط
يجب مراعاة توزيع الطاقة والهامش على مستوى النظام
GB300: الحد الأقصى لطاقة العقدة في مثال PRS
7.5 كيلوواط
يمكن أن تتحمل كل صينية حوسبة على حدة حملًا حراريًا كبيرًا
نمو استهلاك الكهرباء في الخوادم السريعة وفقًا لوكالة الطاقة الدولية
~30% سنويًّا في السيناريو الأساسي
من المرجح أن تصبح الحوسبة المتسارعة عالية الكثافة أكثر انتشارًا
ويشير الاتجاه العام إلى نفس الاتجاه. ويتوقع تحليل «الطاقة والذكاء الاصطناعي» الصادر عن وكالة الطاقة الدولية أن يصل استهلاك مراكز البيانات العالمية للكهرباء إلى حوالي 945 تيراواط/ساعة بحلول عام 2030 في السيناريو الأساسي. ومن المتوقع أن ينمو استهلاك الكهرباء الناتج عن الخوادم ذات الأداء المعزز — والذي يعزى بشكل رئيسي إلى اعتماد الذكاء الاصطناعي — بنسبة تقارب 30% سنويًّا, ، مقارنةً بحوالي 9% في الخوادم التقليدية.
وهذا أمر مهم لمصممي العلب ومشتري المعدات الأصلية.
كلما زادت سرعة الأجهزة، زاد عدد المشاريع التي تصبح فيها كثافة الطاقة، وحمل وحدة معالجة الرسومات (GPU)، وقدرة التبريد، وتنظيم الكابلات، والوصول لأغراض الصيانة، متطلبات ميكانيكية ذات أولوية قصوى.
ابدأ بحجم العمل، لا بالصفائح المعدنية
من أسرع الطرق التي قد تؤدي إلى إفشال مشروع تصميم حاوية مخصصة هي البدء في استخدام برنامج CAD قبل أن تصبح بنية النظام الحاسوبي مستقرة.
لا تفعل ذلك.
قبل تثبيت تصميم هيكل السيارة، يجب أن يكون فريق الهندسة على دراية بحجم العمل المتوقع والمكونات الرئيسية التي من المقرر تضمينها في النظام.
على الأقل، قم بتأمين ما يلي:
طراز وحدة معالجة الرسومات (GPU) وعددها
أبعاد وحدة معالجة الرسومات (GPU) وعرض الفتحة
موقع موصل الطاقة الخاص بوحدة معالجة الرسومات (GPU)
طراز اللوحة الأم ورسمها
منصة وحدة المعالجة المركزية (CPU) وهندسة المبرد
ارتفاع شرائح الذاكرة (DIMM) ومناطق الحظر
موصلات PCIe المرتفعة أو بنية التبديل
متطلبات NVMe والتخزين
محولات الشبكة ووسائل التوصيل
نوع وحدة التغذية الكهربائية (PSU) وعددها وتكرارها
القدرة القصوى المتوقعة للنظام
حجم المروحة، وسماكتها، ومتطلبات الضغط، وطريقة التحكم
استراتيجية التبريد بالهواء أو بالسائل
متطلبات المشعاع، أو المشعب، أو وحدة التحكم المركزية (CDU)، أو الخراطيم، حسب الاقتضاء
منافذ الإدخال/الإخراج الأمامية والخلفية
عمق الرف
ترتيب القضبان
إرشادات الصيانة
الكمية المستهدفة للإنتاج
أن حاوية خادم الذكاء الاصطناعي يجب أن يتم تصميمه بناءً على هذه الحزمة المتكاملة. فقد يؤدي تغيير أحد أجزائه لاحقًا إلى سلسلة من التغييرات المتتالية في بقية أجزاء التصميم.
هل نستبدل وحدة معالجة الرسومات (GPU)؟
قد يتغير موقع الموصل.
هل يجب تغيير وحدة تزويد الطاقة؟
تتغير حزمة الكابلات.
هل أضيف بطاقة شبكة أخرى؟
والآن تتغير هندسة الأنبوب الصاعد.
زيادة سماكة المروحة؟
فجأة، لم يعد هناك مكان ملائم لثني كابل طاقة وحدة معالجة الرسومات (GPU).
تتراكم المليمترات بسرعة.
حجم وحدة معالجة الرسومات (GPU) لا يقتصر على طول × ارتفاع × عرض
قد يبدو هذا أمراً بديهياً، لكنه يؤدي إلى أخطاء مكلفة.
إن وجود بطاقة رسومات (GPU) داخل الهيكل لا يعني أنها تعمل داخل الهيكل.
عند تقييم... هيكل خادم وحدة معالجة الرسومات, ، علينا ألا نكتفي بالنظر إلى الأبعاد الاسمية للبطاقة، بل أن نتحقق من المساحة الفعلية المتاحة للتركيب.
ويشمل ذلك هيكل البطاقة، ومبدد الحرارة، وموصل الطاقة، ونصف قطر انحناء الموصل، والمسافة الفاصلة بين البطاقة والبطاقات المجاورة، وموضع الفتحة في اللوحة الأم، ومكونات التثبيت، وموقع الموسع، وجدار المروحة، وتوصيلات الكابلات، والاتجاه الذي يجب على الفني اتباعه لإزالة البطاقة.
تثير المسرعات الثقيلة مشكلة أخرى: الجاذبية.
يمكن للبطاقات الطويلة أن تفرض ضغطًا كبيرًا على وصلة PCIe ومنطقة التثبيت الخلفية. وتؤدي اهتزازات الشحن إلى تفاقم هذه المشكلة. فقد تتصرف وحدة معالجة الرسومات (GPU) التي تتحمل التشغيل الثابت على منضدة المختبر بشكل مختلف تمامًا بعد الشحن الدولي، أو تركيبها في حامل، أو دورات الصيانة المتكررة، أو الاهتزازات الناتجة عن المراوح عالية السرعة.
بالنسبة للأنظمة عالية الكثافة، يجب أن يكون نظام تثبيت وحدة معالجة الرسومات (GPU) جزءًا من هيكل الهيكل نفسه — وليس مجرد ملحق يتذكره أحدهم قبل يومين من الشحن.
ينبغي تجميد تصميم نظام التبريد في مرحلة مبكرة
لا تهتم شركة «هيت» بمدى جمال مظهر الرسم الهندسي باستخدام برنامج CAD.
قد يكون الخادم ذو الكثافة العالية مثاليًا من الناحية الميكانيكية، لكنه سيئ للغاية من الناحية الحرارية.
بالنسبة للأنظمة المبردة بالهواء، يحتاج الهيكل إلى مسار ضغط محدد بدقة. يجب أن يدخل الهواء من المكان الذي تتوقعه الأجهزة، ويمر عبر المكونات عالية المقاومة، ويخرج من العلبة دون أن يدور مرارًا وتكرارًا عبر المناطق الساخنة.
يبدو هذا بسيطًا.
ليس كذلك.
تعيق الكابلات مسار الهواء. كما تعيق أقفاص محركات الأقراص مسار الهواء. وتعيق أغلفة وحدات تزويد الطاقة (PSU) مسار الهواء. كما أن وحدات ذاكرة DIMM الطويلة، والموصلات الارتفاعية، والعوارض الهيكلية، وحوامل المبردات، والموصلات، والمرشحات، واللوحات الخلفية، وحتى الحواف المعدنية الموضوعة بشكل غير صحيح، كلها عوامل يمكن أن تقلل من ضغط الهواء في مسار تدفقه.
أريد معرفة أبعاد المروحة، ومنحنيات المروحة، والضغط الساكن، ومقاومة التدفق، ودرجة حرارة المدخل، ومسار العادم، واستراتيجية التحكم، ومقاومة المكونات، وما يحدث عند توقف إحدى المراوح.
هذه أسئلة مفيدة.
التبريد الهوائي مقابل التبريد السائل
عامل التصميم
التبريد الهوائي
التبريد السائل
التعقيد الميكانيكي
أقل
أعلى
اعتماد تدفق الهواء على الهيكل
عالية جداً
مصممة خصيصًا للمكونات المبردة بالسائل
تكامل المرافق
عادةً ما تكون أبسط
قد يتطلب وحدة التوزيع المركزي (CDU)، وموزع الهواء، والخراطيم، ووصلة مياه المنشأة
متطلبات إدارة التسربات
لا توجد دائرة تبريد
نعم
إجراءات الخدمة
مألوف لدى معظم الفنيين
يتطلب إجراءات صيانة تراعي سائل التبريد
المدى الملائم مع ارتفاع كثافة الحرارة
يزداد صعوبةً
غالبًا ما تكون أكثر عملية
مسابقة التصميم الداخلي
المراوح والقنوات
الألواح الباردة، والأنابيب، والمشعبات، والموصلات
التخطيط لمواجهة الأعطال
تكرار المراوح وفقدان تدفق الهواء
سيناريوهات المضخات، ووحدات معالجة الغاز (CDU)، والتسرب، والتدفق، ودوائر المنشأة
الانتقال إلى هيكل خادم مبرد بالسائل لا يلغي ذلك أعمال التصميم الميكانيكي، بل يغير طبيعة هذه الأعمال.
الآن أصبحت مسارات الخراطيم مهمة.
تعد إمكانية الوصول السريع إلى الوصلات أمرًا مهمًا.
كشف التسربات أمر مهم.
نصف قطر الانحناء الأدنى له أهمية.
موقع المشعبات مهم.
يحتاج الفني إلى مساحة كافية لفصل حلقة ما وإعادة توصيلها دون الحاجة إلى إزالة الأجهزة غير ذات الصلة أو تعريض الأجزاء الإلكترونية للبلل.
تستخدم بنية GB300 NVL72 من NVIDIA نفسها نظامًا للكشف عن التسرب على مستوى الرف وعلى مستوى الدرج، إلى جانب التبريد السائل، وهو ما يُعد تذكيرًا مفيدًا بأن إدارة سائل التبريد تُعد جزءًا من بنية النظام، وليست مجرد لوحة تبريد مثبتة بمسامير على وحدة معالجة الرسومات (GPU).
تؤدي كثافة الطاقة إلى تغيير التصميم الميكانيكي
غالبًا ما يُنظر إلى توزيع الطاقة على أنه موضوع كهربائي.
داخل غلاف كثيف، يُعد هذا الأمر أيضًا موضوعًا ميكانيكيًا بامتياز.
تتطلب الطاقة عالية التيار استخدام موصلات أكبر حجمًا، وعددًا أكبر من الكابلات، وقيودًا أكثر صرامة على انحناء الكابلات، واعتبارات إضافية تتعلق بقضبان التوصيل، وارتفاع درجات حرارة الموصلات، فضلاً عن انخفاض حرية توجيه الأسلاك عبر أي مساحة متبقية بعد تركيب المكونات “المهمة”.
تحتاج بنية السلطة إلى أراضٍ ملموسة.
احجزه.
قد يحتاج الهيكل المصمم لاستيعاب عدة وحدات تسريع إلى مصادر طاقة احتياطية، ونظام توزيع تيار كهربائي عالي، وموصلات يسهل الوصول إليها، وفصل آمن للكابلات، وتدفق هواء حول منطقة وحدة تزويد الطاقة، ومساحة كافية لاستبدال الوحدة المعطلة دون الحاجة إلى تفكيك الخادم.
هذا هو المكان هيكل خادم عالي الكثافة قد تحدث مشكلات حتى عندما تبدو قائمة المكونات متوافقة تمامًا على الورق.
كل شيء متناسق.
لا شيء صالح للاستخدام.
قصة حامل الخادم بسعة 30–40 كيلوواط التي غيرت طريقة تفكيري بشأن الكثافة
مؤخرًا، وأثناء استعراض المناقشات الدائرة في هذا المجال، عثرت على موضوع قديم في منتدى r/sysadmin حول تبريد الحوامل عالية الكثافة، وقد لفت انتباهي بشكل خاص.
كان صاحب المنشور الأصلي يمتلك عدة أنظمة NVIDIA DGX بالإضافة إلى معدات التخزين، وكان يبحث عن طريقة لتضمين ما يقارب 30–40 كيلوواط في رف واحد. ووصف أحد المشاركين تشغيل الخزانات بقدرة تصل إلى حوالي 36 كيلوواط، وقال إن الهامش المتاح في حالة تعطل التبريد قد يكون ضئيلاً للغاية — حوالي 20 ثانية قبل الإغلاق الحراري للعديد من الأنظمة في هذا النشر المحدد. وأثار مهندسون آخرون في سلسلة المناقشة هذه نفس المخاوف مرارًا وتكرارًا: توفر التبريد، وطاقة المنشأة، والإغلاق في حالات الطوارئ، وأنظمة السباكة، والخبرة في الصيانة، والمخاطر الناجمة عن تركيز مثل هذه الكمية الكبيرة من الحرارة في خزانة واحدة.
لقد لفتت تلك المناقشة انتباهي لأن المشترين يبدؤون أحيانًا مشروعًا مخصصًا في مجال الذكاء الاصطناعي بطرح سؤال واحد مغري:
ما مقدار القدرة الحاسوبية التي يمكننا استيعابها في هذه المساحة؟
السؤال الأول خاطئ.
والأفضل هو:
ما هو حجم الحوسبة الذي يمكن لهذا الغلاف أن يدعمه بشكل مستمر وآمن وقابل للصيانة في ظل الظروف الفعلية للمنشأة؟
قد يبدو الهيكل رائعًا على شاشة برنامج التصميم بمساعدة الحاسوب (CAD). فكل مكون في مكانه الصحيح، وكل وحدة رف مشغولة.
ثم يبدأ عبء العمل.
منحدر المشجعين.
ترتفع درجات حرارة الكابلات.
يتصادم هواء العادم الصادر عن وحدة معالجة الرسومات مع مصدر حرارة آخر.
مكون واحد يحد من السرعة.
يحاول أحد الفنيين إزالة بطاقة ما، فيكتشف أن ثلاثة كابلات وموزعًا يعيقانها.
هذه ليست هندسة عالية الكثافة.
هذا ما يُعرف بالتعبئة عالية الكثافة.
هناك فرق.
وهذا هو الجزء الذي لا يحب الكثير من المشترين سماعه
غالبًا ما تكون الكثافة القصوى للمكونات هدفًا تصميميًا غير ملائم لعلبة مخصصة للذكاء الاصطناعي.
نعم، لقد قلت ذلك.
“تبدو عبارة ”ثماني وحدات معالجة رسومات في 4U» رائعة في جدول المقارنة.
“تبدو عبارة ”القدرة الحاسوبية القصوى لكل وحدة رف» رائعة في عرض تقديمي خاص بالمشتريات.
لكن إضافة وحدة معالجة رسومات (GPU) أخرى لا فائدة منها إذا أدى ذلك إلى ضعف تدفق الهواء، أو حدوث تباطؤ حراري، أو صعوبة الوصول إلى الموصلات، أو تحميل زائد على مسارات تزويد الطاقة، أو صعوبة في إجراء الإصلاحات الميدانية، أو انعدام الهامش عندما تختلف ظروف الغرفة عن الافتراضات المختبرية المثالية.
ليس بالضرورة أن يكون الحظيرة الفائزة هي الأصغر حجماً.
في العديد من المشاريع، أُفضل بناء هيكل أكبر قليلاً يتميز بتدفق هواء يمكن التنبؤ به، ودعم قوي لوحدة معالجة الرسومات (GPU)، وتوزيع نظيف للطاقة، ومسارات منطقية للكابلات، ومراوح يسهل الوصول إليها، ومساحة كافية للفنيين للعمل، بدلاً من الفوز بمسابقة الكثافة التي تجعل تشغيل النظام النهائي أمراً مزعجاً.
أفضل حاوية عالية الكثافة هي تلك التي يمكنها تحمل عبء العمل.
ليس الشخص الذي يفوز بلعبة «تتريس».
يجب أن يتم تضمين قابلية الصيانة في التصميم
اطرح سؤالاً بسيطاً أثناء مراجعة تصميمات CAD:
ما الذي يتعطل أولاً، وكيف نستبدله؟
ثم قم بمحاكاة الإجابة عمليًّا.
هل يمكن للفني استبدال مروحة دون إزالة وحدات معالجة الرسومات؟
هل يمكن إخراج وحدة تزويد الطاقة من الجزء الخلفي؟
هل يمكن الوصول إلى محول الشبكة دون المساس بخراطيم سائل التبريد؟
هل يمكن إزالة وحدة معالجة الرسومات (GPU) عموديًا أو أفقيًّا دون فصل الكابلات غير ذات الصلة؟
هل يمكن صيانة اللوحة الأمامية دون الحاجة إلى إخراج الخادم بالكامل؟
هل يمكن الوصول بسرعة إلى الوصلة التي تتسرب منها السوائل؟
هل يمكن استبدال محرك أقراص التمهيد المعطل دون المساس بقسم المعالجة؟
هذه الأسئلة ليست مثيرة للاهتمام.
إنهم يوفرون المال.
بالنسبة لشركة تكامل الأنظمة التي تقوم بتركيب 50 أو 100 أو 500 جهاز، فإن بضع دقائق إضافية من وقت الصيانة لكل وحدة تمثل تكلفة تشغيلية حقيقية. كما أن تسلسل الوصول غير السليم يزيد من احتمال قيام الفنيين بإتلاف الكابلات أو الموصلات أو البطاقات أو الأنابيب المجاورة أثناء إصلاح مشكلة لا علاقة لها بذلك.
ولهذا السبب فإن حاوية مخصصة للتركيب على حامل يجب أن تُصمم بحيث لا تقتصر على التجميع فحسب، بل تشمل التفكيك أيضًا.
يقوم مهندسو الإنتاج بتصميمه مرة واحدة.
قد يستمر عميلك في صيانتها لسنوات.
تزداد أهمية التصميم الهيكلي مع تزايد حجم وحدات معالجة الرسومات (GPU)
خوادم الذكاء الاصطناعي تستهلك موارد كبيرة.
أحيانًا يكون وزنها ثقيلًا للغاية.
يجب أن يتحمل الهيكل هذا الحمل أثناء التجميع والنقل وتركيب الرفوف والتشغيل العادي والصيانة. فبطاقات GPU الطويلة، ووحدات تزويد الطاقة المتعددة، واللوحات الأم الكبيرة، ومبددات الحرارة النحاسية، والمشعات، والمشعبات، ووحدات التخزين عالية الكثافة — كلها عوامل يمكن أن تؤدي إلى تغيير مركز الكتلة.
تحقق من ذلك:
سماكة الصفائح المعدنية
هندسة الانحناء
التعزيز المحلي
حاملات بطاقات الرسوميات
دعم PSU
مواقع تثبيت القضبان
تحمل الأحمال
قوى الإدخال في الرفوف
انخفاض الهيكل
الصلابة الالتوائية
توجيهات الشحن
مخاطر السقوط والاهتزاز
قد يبدو القوس غير مهم إذا نظرنا إليه بمفرده.
اضرب هذا الانحراف الضئيل في طول البطاقة الطويلة الثقيلة، وأضف إليه اهتزازات الشحن، ثم كرر ذلك على دفعة الإنتاج بأكملها.
الآن أصبح الأمر مهمًا.
يجب أن يهدف اختبار النماذج الأولية إلى دحض افتراضاتك
النموذج الأولي ليس مجرد عينة معدنية للتحقق من محاذاة فتحات البراغي.
استخدمه بشكل مكثف.
قم بتركيب اللوحة الأم الفعلية.
قم بتركيب وحدات معالجة الرسومات (GPU) الفعلية.
استخدم كابلات كهربائية مطابقة لمعايير الإنتاج.
قم بتركيب نفس الدعامات، ومحركات الأقراص، ومحولات الشبكة، والمراوح، والمبردات، والأنابيب، ووحدات تزويد الطاقة، والقضبان، ومجموعات اللوحة الأمامية التي من المتوقع وجودها في الخادم النهائي.
ثم اختبر الشروط الصعبة.
التحقق الميكانيكي
تحقق من تركيب المكونات، وتثبيت البطاقات، وتوجيه الكابلات، وإمكانية الوصول إلى الموصلات، وصلابة الهيكل، وتثبيت القضبان، وملاءمة الغطاء، وتسلسل الصيانة.
التحقق الحراري
تشغيل أحمال عمل تمثيلية. قياس درجات حرارة الهواء الداخل والخارج، ودرجات حرارة المكونات، وأداء المراوح، والمناطق الساخنة، والأداء في ظل الظروف المحيطة المتوقعة.
التحقق من صحة الطاقة
تحقق من حمل وحدة تزويد الطاقة (PSU)، وسلوك نظام التكرار، ودرجات حرارة الكابلات، ودرجات حرارة الموصلات، وتوزيع الطاقة، وسلوك التشغيل.
التحقق من الأخطاء
ماذا يحدث عندما يتوقف أحد المشجعين؟
ماذا يحدث عندما تتعرض مضخة سائل التبريد أو دائرة المنشأة لمشكلة؟
ماذا يحدث في حالة تعطل أحد مزودات الطاقة؟
ماذا يحدث إذا انسدّ المرشح جزئيًّا؟
ماذا يحدث عندما ترتفع درجة الحرارة المحيطة؟
التحقق من معلومات الشحن
إن الجهاز الذي يجتاز الاختبار الحراري، لكنه يصل ووحدات معالجة الرسومات (GPU) فيه في وضع غير صحيح داخل الهيكل، يظل تصميمًا فاشلاً.
تثبيت وحدة معالجة الرسومات (GPU)، والمقابض، والقضبان، والتدعيمات
الخدمة
المكونات التي تتطلب وصولاً سريعاً أو دون الحاجة إلى أدوات
العلامة التجارية
الشعار، اللون، الطباعة بالشاشة الحريرية، الملصقات
الإنتاج
كمية النماذج الأولية، الحجم السنوي، الجدول الزمني المستهدف
السوق
بلدان المقصد ومتطلبات الامتثال
كلما كانت البيانات المدخلة أكثر اكتمالاً، كلما أمكن اكتشاف التضاربات الميكانيكية في وقت أبكر.
من السهل العثور على تداخل مقاس 12 ملم في برنامج CAD.
أما العثور عليه بعد مرحلة التصنيع والتجميع والشحن الدولي، فهذا أمر غير ممكن.
اعتمد في التصميم على القدرة الحاسوبية المستدامة، لا على معدل الكثافة
تتطلب أنظمة الذكاء الاصطناعي عالية الكثافة دمج الهندسة الميكانيكية والحرارية والكهربائية وهندسة المرافق في وحدة واحدة.
ولهذا السبب فإن هيكل خادم مخصص للذكاء الاصطناعي لا ينبغي أبدًا تحديدها بناءً على ارتفاع الحامل وعدد وحدات معالجة الرسومات (GPU) وحدهما.
ابدأ بقائمة المواد الكاملة.
قم بنمذجة الحرارة.
احجز مساحة لتوصيل الطاقة.
دعم وحدات معالجة الرسومات (GPU).
تخطيط مسارات الكابلات.
حدد بنية التبريد في مرحلة مبكرة.
صمم مسارات الوصول حول الأجزاء التي من المرجح أن تحتاج إلى صيانة.
ثم قم بإنشاء نموذج أولي للنظام الفعلي — وليس مجرد هيكل فارغ.
ستستمر كثافة الحوسبة في مجال الذكاء الاصطناعي في الارتفاع. وتشير توقعات وكالة الطاقة الدولية (IEA) بشأن الاستهلاك المتسارع للكهرباء في الخوادم، بالإضافة إلى هياكل الرفوف الحالية التي تتجاوز قدرتها 100 كيلوواط، إلى هذا الاتجاه بالفعل.
الشركات المصنعة ومزودي خدمات تكامل الأنظمة التي ستتمكن من التعامل مع هذه الكثافة بشكل جيد لن تكون تلك التي تكتفي بصنع أجهزة أصغر حجمًا.
هم الذين سيفهمون ما يجب أن يحدث داخل تلك الصناديق عندما يصل حجم العمل إلى 100%.
الأسئلة الشائعة
ما هو هيكل خادم الذكاء الاصطناعي المخصص؟
الإجابة المختصرة: هيكل خادم الذكاء الاصطناعي المخصص هو وحدة مغلقة مصممة خصيصًا لتلائم تركيبة محددة من وحدات معالجة الرسومات (GPU) ووحدات المعالجة المركزية (CPU) واللوحة الأم ووحدات التخزين والشبكات ومصادر الطاقة وأنظمة التبريد ومتطلبات التركيب في الحامل.
وعلى عكس حاويات الخوادم العادية، يمكن تحسين التصميم الداخلي لهذه الحاوية من حيث توزيع المسافات بين المسرعات، والدعم الهيكلي، وتدفق الهواء، والتبريد السائل، وتوجيه الكابلات، ومصادر الطاقة الاحتياطية، وسهولة الوصول لأغراض الصيانة.
ما الذي يجعل هيكل الخادم “عالي الكثافة”؟
الإجابة المختصرة: يُتيح هيكل الخادم عالي الكثافة استيعاب كمية كبيرة من أجهزة الحوسبة أو التخزين أو المسرعات في مساحة محدودة من الرف، مع الحفاظ في الوقت نفسه على توفير إمداد كافٍ بالطاقة، والتبريد، والدعم الهيكلي، وإمكانية الوصول لأغراض الصيانة.
ينبغي تقييم الكثافة بناءً على الأداء المستدام الفعلي، وليس بناءً على عدد المكونات وحده.
هل يُعد 4U دائمًا خيارًا أفضل من 5U أو 6U بالنسبة لخوادم GPU؟
الإجابة المختصرة: لا. قد يؤدي استخدام هيكل أصغر حجمًا إلى تحسين كثافة الحامل، لكن الهياكل مقاس 5U أو 6U قد توفر قدرة تبريد أفضل، ومسافات أكبر بين وحدات معالجة الرسومات (GPU)، وتوجيهًا أفضل للكابلات، وإمكانيات توسعة أكبر، ووصولاً أسهل لأغراض الصيانة.
يعتمد الشكل المناسب على نوع وحدة معالجة الرسومات (GPU)، والطاقة، واستراتيجية التبريد، وتصميم اللوحة الأم، والمتطلبات التشغيلية.
متى ينبغي أن يستخدم خادم الذكاء الاصطناعي نظام التبريد السائل؟
الإجابة المختصرة: يصبح التبريد السائل خيارًا جذابًا عندما تجعل الكثافة الحرارية، أو قوة وحدة التسريع، أو كثافة الرفوف، أو حدود الضوضاء، أو قيود تدفق الهواء، من الصعب إدارة التبريد الهوائي التقليدي بكفاءة.
كما يجب أن يأخذ القرار في الاعتبار مياه المنشأة، ومتطلبات وحدات التبريد (CDU)، والموزعات، وإدارة التسربات، وإجراءات الصيانة، والتكرار.
ما هي المعلومات التي يحتاجها مصنع الهياكل قبل تصميم حاوية للذكاء الاصطناعي؟
الإجابة المختصرة: يرجى تقديم المعلومات التالية: وحدة معالجة الرسومات (GPU)، واللوحة الأم، ووحدة المعالجة المركزية (CPU)، ومصدر الطاقة (PSU)، ووحدات التخزين، والشبكات، وواجهة PCIe، وأنظمة التبريد، وأبعاد الحامل، وواجهات الإدخال/الإخراج (I/O)، ومتطلبات السكك، وحجم الإنتاج، والسوق المستهدفة.
تعد الرسومات التفصيلية للمكونات أكثر فائدة بكثير من العبارات العامة مثل “خادم ذكاء اصطناعي مزود بـ 8 وحدات معالجة رسومية”.”
لماذا يُعد الاحتفاظ بوحدة معالجة الرسومات (GPU) أمرًا مهمًا في الخوادم عالية الكثافة؟
الإجابة المختصرة: يمكن أن تتسبب وحدات معالجة الرسومات (GPU) الثقيلة في إجهاد ميكانيكي على فتحات PCIe، والدعامات، وهياكل الهيكل الخارجي أثناء التشغيل والشحن والصيانة.
تعمل آلية التثبيت المناسبة على التحكم في حركة البطاقة، وتوزيع الحمل الميكانيكي، وتقليل مخاطر تلف الموصل أو اللوحة.
هل ينبغي أن يكون الحد الأقصى لعدد وحدات معالجة الرسومات (GPU) هو الهدف الرئيسي للتصميم؟
الإجابة المختصرة: عادةً لا. الهدف الأفضل هو أعلى كثافة حسابية عملية يمكنها الحفاظ على الأداء الحراري، وتوفير الطاقة بشكل موثوق، والاستقرار الهيكلي، وإمكانية وصول مقبولة لأغراض الصيانة.
لا فائدة من إضافة وحدة معالجة رسومات (GPU) إضافية إذا أدى ذلك إلى تباطؤ أداء النظام أو صعوبة صيانته.
مارك لي - مؤسس ومتخصص في تصنيع هياكل الخوادم (OEM/ODM)
مارك لي هو مؤسس شركة ISTONECASE، ويتمتع بخبرة تمتد إلى 20 عامًا في صناعة هياكل الخوادم. وهو متخصص في حلول OEM/ODM الخاصة بوحدات معالجة الرسومات (GPU) والذكاء الاصطناعي (AI)، بالإضافة إلى الهياكل المخصصة للتركيب على الرفوف، والهياكل الصناعية، والهياكل المثبتة على الحائط، وأجهزة التخزين الشبكية (NAS)، وهياكل Mini-ITX، والهياكل متعددة العقد. وتساهم خبرته في دعم مشاريع الأجهزة المخصصة لمراكز البيانات، وحوسبة الذكاء الاصطناعي، وتخزين البيانات المؤسسية، والحوسبة الطرفية، والشبكات، والتطبيقات الصناعية.