AIHardwareProduct ReleaseResearch
إنشاء نقطة التحقق NVIDIA Nemotron 3 Ultra NVFP4 باستخدام Model Optimizer
تقدم NVIDIA نموذج Nemotron 3 Ultra الذي يستخدم تقنية NVFP4 للكمية العائمة ذات 4 بت مع Model Optimizer لنقل أوزان النماذج الكبيرة بكفاءة لدعم نوافذ سياق أطول.
مع ازدياد طول نوافذ السياق، يصبح نقل أوزان النماذج الكبيرة بكفاءة أمرًا حاسمًا للأداء. إحدى الطرق الشائعة لمعالجة هذا هي تقنية الكمية، وهي تقنية تحسين تضغط أوزان النماذج إلى صيغة بيانات أصغر. إحدى صيغ الكمية هي NVFP4، وهي صيغة عائمة مبتكرة ذات 4 بت تم تقديمها مع معمارية NVIDIA Blackwell. هذا هو النهج المستخدم في نقطة التحقق الجديدة لنموذج NVIDIA Nemotron 3 Ultra، التي تم إنشاؤها باستخدام Model Optimizer من NVIDIA. تعمل هذه الطريقة على تحسين الأداء من خلال تقليل حجم بيانات أوزان النموذج، مما يتيح معالجة أكثر كفاءة لنوافذ السياق الأطول في نماذج الذكاء الاصطناعي.