غوغل تطلق نموذج DiffusionGemma لتوليد النصوص
أطلقت Google DeepMind نموذج DiffusionGemma، بعد تحويل Gemma-4-26B-A4B إلى نموذج انتشار للنصوص بدل تدريبه من الصفر. يعالج النموذج كتلًا من ٢٥٦ رمزًا بالتوازي، ويصل إلى نحو ١٥٠٠ رمز في الثانية على مسرّع Nvidia H100، بينما استهلك التحويل أقل من ١٠٪ من ميزانية التدريب الأصلية. ويطوّر إجابته واستدلاله معًا، ما يساعده على تصحيح الأخطاء قبل إخراج النتيجة؛ وبعد ضبط محدود حلّ قرابة ٨٥٪ من ألغاز سودوكو. تصف غوغل النموذج بأنه تجريبي، وتقول إن سرعته تتراجع أمام النماذج التقليدية عند نحو ٣٢ طلبًا متزامنًا، وقد أتاحته سابقًا بترخيص Apache 2.0 على Hugging Face.
الحقائق الأساسية
يعالج DiffusionGemma كتلًا من ٢٥٦ رمزًا بالتوازي، وبلغت سرعته نحو ١٥٠٠ رمز في الثانية على مسرّع Nvidia H100.
«Unlike standard language models that generate text one token at a time, DiffusionGemma refines blocks of 256 tokens in parallel, similar to how image AIs pull a picture out of noise. On an Nvidia H100 accelerator, the model hits about 1,500 tokens per second.»
عرض المصدر ←بعد ضبط محدود، حلّ النموذج قرابة ٨٥٪ من ألغاز سودوكو، في حين أخفق النموذج الأساسي في المهمة بالكامل.
«After minimal fine-tuning, DiffusionGemma solves close to 85 percent of puzzles correctly, while the base model fails at the task entirely.»
عرض المصدر ←أُتيح النموذج بترخيص Apache 2.0 على Hugging Face، وتصفه غوغل بأنه نموذج تجريبي مخصص لتسريع أبحاث انتشار النصوص.
«Google explicitly calls DiffusionGemma an experimental model and says the release is meant to speed up research on text diffusion while giving the community a foundation for specialized, resource-efficient adaptations.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر