إنفيديا تطلق منصة مفتوحة لمراقبة وكلاء الذكاء الاصطناعي
أطلقت إنفيديا منصة «Open Agent Safety Platform» لمراقبة وكلاء الذكاء الاصطناعي وفرض حدود على ما يمكنهم الوصول إليه وتنفيذه. تجمع المنصة بين برمجية OpenShell مفتوحة المصدر، التي تحبس كل وكيل داخل بيئة معزولة وتحدد ملفاته وبرامجه وشبكاته وبيانات اعتماده، وتصميم عتادي جديد اسمه Sentry. ويعمل Sentry بعيدًا عن الحاسوب الرئيسي، بحيث يستطيع عزل الوكيل خلال أجزاء من الثانية إذا حاول الخروج عن الحدود المسموحة، بينما تفحص أداة للتحقق الرسمي ما إذا كانت الصلاحيات تتجاوز القيود المحددة. وتقول إنفيديا إن العملاء الذين يملكون أنظمة متوافقة يحتاجون إلى تحديث برمجي، من دون إعلان موعد مستقل للإتاحة العامة.
الحقائق الأساسية
تعتمد المنصة على OpenShell لعزل الوكلاء وتقييد الملفات والبرامج والشبكات وبيانات الاعتماد التي يمكنهم استخدامها.
«OpenShell locks each agent in a kind of digital cage known as a sandbox. Operators decide which files, programs, networks, and credentials an agent can access.»
عرض المصدر ←صُمم Sentry لوحدات BlueField-4، ويُفترض أن يعزل الوكيل خلال أجزاء من الثانية عند محاولة كسر العزل.
«If an agent tries to break out, Sentry is supposed to isolate it within milliseconds.»
عرض المصدر ←الأنظمة المتوافقة الموجودة لدى العملاء تحتاج إلى تحديث برمجي، لكن موعد الإتاحة العامة لم يُحدَّد.
«Customers who already run compatible systems only need a software update, according to Nvidia. The announcement doesn't give a separate date for general availability.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر