الذكاء الاصطناعي٢٩ أغسطس ٢٠٢٦
إطلاق نسخة مضغوطة من نموذج Hy4 مفتوح الأوزان
ضغط حساب TencentHunyuan نموذج Hy4-preview من ١٫٥ تيرابايت إلى نحو ٢٠٠ غيغابايت بصيغة GGUF، وقال إنه ظل يعمل بصورة جيدة. ويختار الأسلوب دقة التمثيل لكل طبقة اعتمادًا على بيانات المعايرة، فتتراوح بين ١٫٣١ بت و٢٫٠٦ بت. ويصف الحساب هذه الطريقة بأنها تخفّض الحجم مع الحفاظ على الأداء، بحسب منشوره على إكس.
الحقائق الأساسية
انخفض حجم Hy4-preview من ١٫٥ تيرابايت إلى نحو ٢٠٠ غيغابايت بعد ضغطه بصيغة GGUF.
«We compressed Hy4-preview from 1.5TB to ~200GiB GGUF and it still works well !»
عرض المصدر ←تحدد بيانات المعايرة عدد البتات لكل طبقة، من ١٫٣١ بت لبعض الطبقات إلى ٢٫٠٦ بت لأخرى.
«calibration data picks each layer’s bit-width, some down to 1.31-bit STQ1_0, some up to 2.06-bit IQ2_XXS.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر