الذكاء الاصطناعي٨ أكتوبر ٢٠٢٦
فريق من Prism ML يقلص متطلبات ذاكرة نموذج Qwen 27B
قلّص فريق من Prism ML احتياج نموذج Qwen 27B للذاكرة من نحو ٦٠ غيغابايت إلى ٦ غيغابايت، بحسب منشور @rohanpaul_ai على إكس. وحقق الفريق ذلك بتخزين أرقام النموذج بدقة ١٫٥ بت بدلًا من ١٦ بت، مع الحفاظ على ٩٥٪ من أدائه. يعني ذلك أن النموذج يحتاج إلى عُشر الذاكرة التي كان يحتاجها سابقًا.
الحقائق الأساسية
انخفض احتياج Qwen 27B للذاكرة من نحو ٦٠ غيغابايت إلى ٦ غيغابايت.
«Alibaba's Qwen 27B normally needs about 60GB of memory, and a team from Prism ML cut that to 6GB by storing its numbers with 1.5 bits instead of 16 while keeping 95% of its performance.»
عرض المصدر ←حافظ النموذج على ٩٥٪ من أدائه بعد تقليل دقة تخزين أرقامه إلى ١٫٥ بت بدلًا من ١٦.
«Alibaba's Qwen 27B normally needs about 60GB of memory, and a team from Prism ML cut that to 6GB by storing its numbers with 1.5 bits instead of 16 while keeping 95% of its performance.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر