الذكاء الاصطناعي٢٢ سبتمبر ٢٠٢٦
vLLM يدمج تقنية NVDEC لتسريع معالجة الفيديو
دمج مشروع vLLM مكتبة PyNvVideoCodec لنقل فك ترميز الفيديو من المعالج المركزي إلى وحدة NVDEC الرسومية، ما يزيل عنق الزجاجة على المعالج. ويقول المشروع إن الاختبار حقق إنتاجية تتجاوز الضعف عند استخدام ٨ بطاقات H100، وهو ما يفيد captioning الفيديو على نطاق واسع وتدريب النماذج والبيانات الوصفية. وتأتي الميزة ضمن إصدارات vLLM المبنية على CUDA، بحسب منشور المشروع على إكس.
الحقائق الأساسية
حقق الاختبار إنتاجية تزيد على الضعف مع ٨ بطاقات H100، مع زوال عنق الزجاجة على المعالج المركزي.
«Result: 2x+ throughput at 8×H100, CPU bottleneck gone!»
عرض المصدر ←تُطرح ميزة فك ترميز الفيديو ضمن إصدارات vLLM المبنية على CUDA.
«and ships with CUDA vLLM releases.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر