الذكاء الاصطناعي٢٨ أغسطس ٢٠٢٦
تينسنت تطلق نموذج Hy4 مفتوح المصدر بقدرات حوسبية عالية
أطلقت تينسنت المعاينة الأولى من نموذج Hy4 بأوزان مفتوحة وترخيص Apache 2.0، بوصفه نموذجًا رائدًا يعتمد بنية مزيج الخبراء. يضم النموذج ٧٧٠ مليار مُعامل، منها ٤٩ مليارًا نشطة، ويدعم نافذة سياق تمتد إلى مليون رمز. ويتكوّن من ٢٥٦ خبيرًا موجّهًا وخبير مشترك، بينما يعالج كل استعلام ٢٠٤٨ رمزًا فقط، كما يعمل منذ اليوم الأول عبر vLLM على عتاد NVIDIA Blackwell. وتتيح تينسنت النموذج عبر Hugging Face وGitHub.
الحقائق الأساسية
يعمل Hy4 عبر vLLM منذ اليوم الأول، وتحقق تشغيله على عتاد NVIDIA Blackwell.
«@TencentHunyuan's Hy4-preview runs in vLLM from day 0, verified on @NVIDIA Blackwell. 🎉»
عرض المصدر ←يضم النموذج ٢٥٦ خبيرًا موجّهًا وخبيرًا مشتركًا، مع اقتصار انتباه كل استعلام على ٢٠٤٨ رمزًا رغم نافذة السياق البالغة مليون رمز.
«- 770B total, 49B active, 256 routed experts plus one shared - 1M context, but each query attends to just 2048 tokens»
عرض المصدر ←يتاح Hy4 عبر مستودعي Hugging Face وGitHub.
«HuggingFace:https://t.co/mE9wevH5XR Github:https://t.co/pyl9zckpoL»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر