
إطلاق تقنية LMCache لتحسين كفاءة استهلاك الذاكرة في النماذج اللغوية
تُعالج تقنية LMCache المشككة الصامتة في تشغيل النماذج اللغوية الكبيرة والمتمثلة في إعادة حساب متجهات KV Cache للطلبات المتكررة، وذلك عبر حفظها واستعادتها مباشرة بدلًا من إعادة حسابها من الصفر.






















