الذكاء الاصطناعي٢٩ سبتمبر ٢٠٢٦
مختبر IQuest يطلق نموذج IQuest-Q1 للبرمجة الوكيلة
أضاف مشروع vLLM دعمًا فوريًا لنموذج IQuest-Q1 الذي طوّرته IQuest Research للبرمجة الوكيلة. ويضم النموذج ٣٢٠ مليار معامل ضمن بنية الخبراء المتعددين، مع تفعيل ١٥ مليارًا لكل رمز، و٨ خبراء نشطين من أصل ٢٥٦، وسياق يصل إلى ٥٢٤٬٢٨٨ رمزًا. ويعتمد الدعم على مكوّنات موجودة أصلًا في vLLM، منها منسّق ذاكرة KV الهجين المستخدم مع مزيج من طبقات الانتباه.
الحقائق الأساسية
يُفعّل النموذج ١٥ مليار معامل لكل رمز، مع ٨ خبراء نشطين من أصل ٢٥٦.
«15B active per token, 256 experts with 8 live»
عرض المصدر ←يبلغ طول سياق IQuest-Q1 المعلن ٥٢٤٬٢٨٨ رمزًا.
«524,288 context.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر