الذكاء الاصطناعي٢٢ سبتمبر ٢٠٢٦
معهد بولو يطلق أداة تعليمية بصرية لشرح نماذج المحولات
تقدّم أداة Transformer Explainer شرحًا بصريًا لبنية نماذج المحوّلات وكيفية توليدها للنص عبر توقّع الرمز التالي. وتستخدم الأداة نموذج GPT-2 الصغير، الذي يضم ١٢٤ مليون مُعامل، لتوضيح مراحل الترميز والتضمين والانتباه الذاتي، وصولًا إلى احتمالات الرمز التالي. كما يضم النموذج المدروس ١٢ كتلة محوّل، بينما تحتوي مفردات GPT-2 على ٥٠٬٢٥٧ رمزًا فريدًا، ما يجعل الأداة مدخلًا عمليًا لفهم أساسيات هذه النماذج.
الحقائق الأساسية
يعتمد الشرح على نموذج GPT-2 الصغير المكوّن من ١٢٤ مليون مُعامل.
«Transformer Explainer is powered by the GPT-2 (small) model which has 124 million parameters.»
عرض المصدر ←يتكوّن نموذج GPT-2 الصغير المعروض من ١٢ كتلة محوّل متتابعة.
«The GPT-2 (small) model we are examining consists of 12 such blocks.»
عرض المصدر ←تضم مفردات GPT-2 عددًا قدره ٥٠٬٢٥٧ رمزًا فريدًا.
«GPT-2's vocabulary has 50,257 unique tokens.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر