HardwareAIProgramming
استخراج أداء أعلى للنواة مع الضبط التلقائي NVIDIA CompileIQ
يُعالج NVIDIA CompileIQ تحدي إيجاد خيارات المترجم المثلى لتعزيز الأداء لأعباء العمل المحددة، مما يساعد الفرق على تحسين أنابيب استدلال LLM المعتمدة على GPU إلى ما بعد طرق الضبط التقليدية.
يواجه NVIDIA CompileIQ أحد أصعب التحديات في هندسة الأداء: إيجاد خيارات المترجم التي تفتح أفضل أداء لأعباء عمل محددة. تخيل فريقاً قضى أسابيع في تحسين أنبوب استدلال LLM على وحدات GPU، بضبط أحجام الدُفعات، التكميم إلى FP8، اعتماد الانتباه الفلاش، ودمج كل نواة ممكنة. يقول محلل الأداء إنه لم يتبق شيء يمكن تحسينه. يقوم CompileIQ بأتمتة عملية استكشاف خيارات المترجم لاستخراج مكاسب أداء إضافية من النوى، مما يساعد المطورين على تجاوز حدود التحسين التقليدية.