الذكاء الاصطناعي٢٥ أكتوبر ٢٠٢٦
أداة GPU-unlock تتيح فك قيود تعليمات FP/BF16 لبطاقات إنفيديا
تتيح أداة gpu-unlock، وهي وحدة لنواة لينكس، مضاعفة سرعة إصدار تعليمات FP/BF16 لعمليات FMA على بطاقات إنفيديا GA102 وGA103 وGA104 وGA106. وتظهر تقارير المستخدمين مكاسب في الأعمال المعتمدة على المصفوفات، منها تسريع تجهيز مدخلات النماذج اللغوية الكبيرة بنسبة ١٤–٣٦٪، بينما لا يتغير أداء التوليد الذي تحدّه سرعة الذاكرة كثيرًا. ويجب تفعيل الأداة عبر سطر أوامر النواة، كما تختلف مكاسب اختبارات الأداء بين التقارير ولا تصلح للمقارنة المباشرة.
الحقائق الأساسية
تضاعف الأداة سرعة إصدار التعليمات على بطاقات GA102 وGA103 وGA104 وGA106.
«The effect of this unlock is that it doubles the instruction issuing speed of FP/BF16 FMA into FP32 operations on GA102, GA103, GA104 and GA106 cards.»
عرض المصدر ←سُجل تسارع بنسبة ١٤–٣٦٪ في تجهيز مدخلات النماذج اللغوية الكبيرة.
«Matrix-heavy work speeds up: LLM prefill (+14–36% in #9, #15, #25 and #33), diffusion and FlashAttention.»
عرض المصدر ←لا تعمل الوحدة ما لم يُفعّلها المستخدم في سطر أوامر النواة.
«The module does nothing unless the kernel command line opts in:»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر