إطلاق نموذج Needle2 بحجم 14 ميجابايت للأجهزة الذكية والروبوتات
أُطلق Needle 2 كنموذج مفتوح يضم ٤٥ مليون معامل، ويستهدف استدعاء الأدوات والتحكم بالأجهزة واستخراج البيانات المنظمة. يأتي النموذج في ملف واحد بحجم ١٤ ميجابايت، ويشغّل جلسة كاملة بذاكرة وصول عشوائي تبلغ ٢٨ ميجابايت، مع ضغط إلى بتّين. ويصل فكّه إلى ٥٠٠ رمز في الثانية على Raspberry Pi 5، كما يعمل على الهواتف والآلات القابلة للارتداء والمتحكمات الدقيقة. يتاح بترخيص Apache 2.0، مع أوزانه على Hugging Face ومستودع لتشغيله.
الحقائق الأساسية
يعمل Needle 2 في جلسة كاملة ضمن ٢٨ ميجابايت من ذاكرة الوصول العشوائي، رغم أن حجمه ١٤ ميجابايت.
«The whole model is a single 14MB binary that runs a full session in 28MB of RAM.»
عرض المصدر ←حقق النموذج سرعة فك تبلغ ٥٠٠ رمز في الثانية على Raspberry Pi 5، وتراوحت سرعته بين ٣٠٠ و٧٠٠ رمز في الثانية على هواتف تقل كلفتها عن ٢٠٠ دولار.
«Needle hits 500 tokens/sec decode speed on a Raspberry Pi 5, between 400–1,500 tokens/sec on VR devices like Meta Quest 3S and Apple Vision Pro, and ranges 300–700 on sub-$200 phones such as the Samsung A-Series.»
عرض المصدر ←يتاح النموذج بترخيص Apache 2.0، ويمكن العثور على أوزانه في Hugging Face.
«Needle is licensed under Apache 2.0, with weights on Hugging Face; the repo gets you running.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر