باحث يقترح تحويل ذاكرة النماذج اللغوية إلى أداة لتحليل البرمجيات
حوّل كاتبٌ تجربةً في أبحاث الثغرات إلى Lemmalog، وهو محرك Datalog يساعد نماذج اللغة على الحفاظ على استنتاجات التحقيق البرمجي وتحديثها. الفكرة أن يستخرج النموذج من اللغة ونتائج المصحح حقائقَ منظمة، ثم تتولى قاعدة البيانات تطبيق القواعد واشتقاق النتائج بدل إعادة بناء التحقيق كاملًا من سجل المحادثة. وعندما تتغير ملاحظة، يستطيع المحرك تحديد الاستنتاجات المرتبطة بها وإبطالها تلقائيًا، مثل إسقاط نتيجة اعتمادًا على علاقة اتضح أنها خاطئة. ويترك هذا التصميم للنموذج فهم الشيفرة والمعلومات غير المنظمة، بينما يتولى النظام الحتمي حساب تبعاتها.
الحقائق الأساسية
يعتمد Lemmalog على تقسيم المهمة بين نموذج اللغة، الذي يحوّل المعلومات غير المنظمة إلى حقائق، وقاعدة البيانات، التي تستنتج النتائج منها.
«The basic idea is that an LLM should not necessarily be responsible for maintaining its own knowledge. Instead, I split the problem into two parts.»
عرض المصدر ←يمكن لمحرك Datalog إبطال نتيجة مشتقة تلقائيًا عندما يتبين أن الحقيقة التي بُنيت عليها غير صحيحة.
«If controls_kernel_object(attacker) was derived from that fact, we know exactly which conclusion depends on the observation that just changed, and we can automatically invalidate it.»
عرض المصدر ←يصف الكاتب Datalog بأنها لغة برمجة منطقية تصريحية تُشتق فيها حقائق جديدة من حقائق وقواعد محددة.
«Datalog is a declarative logic programming language. Instead of writing instructions describing how something should be calculated, we describe facts and rules from which new facts can be derived.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر