الذكاء الاصطناعي٧ أكتوبر ٢٠٢٦
تحديث vLLM v0.31.0 يضيف ميزة التحميل المسبق للأوزان
يضم vLLM v0.31.0 أداةً جديدة تُشغَّل في الخلفية للتحميل المسبق، فتبقي الأوزان بعد التكميم جاهزة عبر إعادة التشغيل. ويتضمن الإصدار أيضًا لقطات تجريبية لمحرك CRIU وتغييرات جوهرية ينبغي مراجعتها قبل ترقية خوادم الإنتاج. وبذلك يستطيع مشغّلو الخوادم إبقاء الأوزان حاضرة بعد إعادة التشغيل.
الحقائق الأساسية
أداة `vllm preload` تُبقي الأوزان بعد التكميم حاضرة عبر إعادة التشغيل.
«the new `vllm preload` daemon to keep post-quantized weights resident across restarts»
عرض المصدر ←يتضمن الإصدار لقطات تجريبية لمحرك CRIU.
«experimental CRIU engine snapshots»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر