كفاءة الطاقة وتكلفة الملكية الإجمالية: تقييم استهلاك الطاقة في خوادم GPU لعناقيد الاستدلال المستمر على مدار الساعة
مع تحول النماذج اللغوية الكبيرة (LLMs) إلى العمود الفقري لتطبيقات الذكاء الاصطناعي الحديثة، انتقلت البنية التحتية الداعمة لها من دفعات التدريب المتقطعة إلى أحمال استدلال مستمرة على مدار الساعة. للمطورين من المستوى المتوسط إلى المتقدم ومهندسي البنية التحتية، لم تعد تكلفة الملكية مرتبطة فقط بشراء الأجهزة، بل أصبحت تُعرَّف بشكل متزايد من خلال استهلاك الطاقة.