ماجنيتود تطلق محرك استدلال ذاتي التحسين لوكلاء الذكاء الاصطناعي
أطلقت Magnitude محرك استدلال مفتوح المصدر لوكلاء الذكاء الاصطناعي، يضبط نواته البرمجية على العتاد الذي يعمل عليه قبل تشغيل النموذج. وتقول الشركة إن المحرك يرفع سرعة النماذج المفتوحة إلى الضعف مقارنةً بـ llama.cpp، مع خفض استهلاك الذاكرة لكل وكيل بنسبة ٢٧٪. يتصل التطبيق المكتبي بنقرة واحدة بأدوات مثل Pi وOpenCode وHermes وCodex، ويعمل على أجهزة Apple Silicon وNVIDIA وAMD أو على المعالج المركزي وحده. التطبيق متاح مجانًا لأنظمة macOS وLinux وWindows، وتبقى النماذج والملفات والأوامر على جهاز المستخدم بعد تنزيل النموذج.
الحقائق الأساسية
يسجل المحرك زيادة تصل إلى ٢× مقارنةً بـ llama.cpp، منها تسارع بنسبة ٩٢٪ على Metal و١٩٪ على CUDA.
«Up to 2x faster than llama.cpp: 92% faster decode on Metal, 19% on CUDA»
عرض المصدر ←يدعم التطبيق أنظمة macOS وLinux وWindows.
«macOS, Linux, and Windows.»
عرض المصدر ←لا يحتاج المستخدم إلى اتصال بالإنترنت بعد تنزيل النموذج، وتظل الأوامر والملفات والنماذج على جهازه.
«Yes. Prompts, files, and models stay on your machine. No internet needed once a model is downloaded.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر