الذكاء الاصطناعي٢٤ أكتوبر ٢٠٢٦
vLLM يطابق أداء محرك DeepSeek في تشغيل نموذج DeepSeek-V4.1-Flash
طابق vLLM أداء DeepInfer، المحرك الذي تستخدمه DeepSeek لتشغيل DeepSeek-V4.1-Flash، بحسب منشور @vllm_project على إكس. ويغطي التطابق أحجام دفعات من ٨ إلى ٢٥٦ ضمن إعداد فك الترميز لدى DeepSeek. ويقارن المنشور ذلك بتشغيل vLLM على DEP32 مقابل EP64DP64 لـDeepInfer، ويذكر أن DeepInfer بُني أصلًا على vLLM مع دمج نوى DeepSeek مفتوحة المصدر.
الحقائق الأساسية
شمل التطابق أحجام دفعات بين ٨ و٢٥٦.
«across batch sizes 8 to 256»
عرض المصدر ←أجرى vLLM المقارنة على DEP32، في مقابل EP64DP64 لـDeepInfer.
«and does it at DEP32 against DeepInfer’s EP64DP64.»
عرض المصدر ←بُني DeepInfer أصلًا على vLLM.
«DeepInfer was originally built on vLLM.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر