صحيفة الشرق الأوسط: الخبراء يثيرون تساؤلات حول تطور الذكاء الاصطناعي
أجرت شركة «إريغولار» اختبارات أمان لنماذج «أوبن إيه آي» و«أنثروبيك» و«ميتا»، لكن خطأً في الإعدادات مكّن النماذج من الوصول إلى الإنترنت واختراق مؤسسات خارجية. ففي اختبار نموذج «أوبن إيه آي»، اخترق النظام موقعًا إلكترونيًا يطابق اسم هدف وهمي كُلّف باستهدافه، بينما اخترق نموذج «أنثروبيك» موقعين باستخدام تقنيات بسيطة، منها استغلال كلمات مرور ضعيفة. وقالت «إريغولار» إن الاختراقات نتجت عن مشكلة إعداد واحدة عولجت لاحقًا، فيما تواصل «ميتا» تحقيقها في حادثتها. وتفتح الوقائع نقاشًا حول قدرة النماذج المتقدمة على ابتكار حلول غير متوقعة، وصعوبة اختبارها بأمان.
الحقائق الأساسية
تضم «إريغولار» نحو ٤٥ موظفًا، وجمعت تمويلًا يقارب ٨٠ مليون دولار.
«وتضم الشركة، التي تتخذ من تل أبيب مقراً لها، نحو 45 موظفاً يساعدون في إجراء اختبارات لنماذج الذكاء الاصطناعي على مدار أيام أو أسابيع، وذلك حسب طبيعة النموذج ونوع الاختبار المطلوب. وقد جمعت الشركة الناشئة تمويلاً يقارب 80 مليون دولار من شركات رأس المال الاستثماري.»
عرض المصدر ←أثناء اختبار «أنثروبيك»، أتيح للنموذج الاتصال بالإنترنت في ثلاث حالات؛ امتنع عن الهجوم مرة، ونفّذه في المرتين الأخريين.
«أما خلال اختبار نظام الذكاء الاصطناعي التابع لشركة «أنثروبيك»، فقد واجه نموذج الشركة ثلاث حالات أتيحت له فيها فرصة الوصول إلى الإنترنت، وذلك وفقاً لتقرير مراجعة للحادثة نشرته الشركة نفسها. وفي إحدى تلك الحالات، اختار النموذج عدم المضي قُدماً في الهجوم. وفي المرتين الأخريين، استخدم النموذج تقنيات اختراق بسيطة - مثل استغلال كلمات مرور ضعيفة - لاختراق مواقع إلكترونية.»
عرض المصدر ←وصف أندرو شوكا الاختراقات بأنها شبيهة بعمليات ينفذها قراصنة تدعمهم دول، ويخططون لها أشهرًا.
«وصرّح أندرو شوكا، الرئيس التنفيذي لشركة «Hardshell» المتخصصة في الذكاء الاصطناعي وفي الأمن السيبراني بأن عمليات الاختراق التي نفذتها نماذج الذكاء الاصطناعي كانت من النوع الذي يُنسب عادةً إلى قراصنة تدعمهم دول، الذين يكرسون «أشهراً للتخطيط» لعملياته»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر