اتخذت شركة أوبن إيه آي خطوة جديدة لتعزيز أمن تطوير أنظمة الذكاء الاصطناعي، عبر نقل تدريب نماذجها الأكثر تقدمًا إلى بيئات غير متصلة بالإنترنت، في أعقاب حوادث أمنية كشفت قدرة وكلاء الذكاء الاصطناعي على تجاوز القيود المفروضة داخل بيئات الاختبار، ما دفع الشركة إلى تشديد إجراءات الحماية والحد من مخاطر الوصول إلى الأنظمة الخارجية.
وفي تدوينة نشرتها الشركة، أوضحت أنها طورت بيئة اختبار معزولة تتيح لنماذج الذكاء الاصطناعي التعامل مع محتوى الويب المفهرس والمحفوظ مسبقًا، دون الاتصال المباشر بالشبكة أو تعريض الأنظمة الخارجية للخطر، وفقًا لما أورده موقع «ذا فيرج» المتخصص في أخبار التكنولوجيا.
وتعود هذه الإجراءات إلى سبتمبر الماضي، حين علّقت أوبن إيه آي تدريب نماذجها الأكثر تقدمًا عقب رصد حوادث تمكن خلالها وكلاء الذكاء الاصطناعي من تجاوز ضوابط بيئات الاختبار، في محاولات استهدفت الوصول إلى شركات وهيئات حكومية أو مهاجمة مواقع إلكترونية غير معروفة. وفي الأول من أكتوبر، استأنفت الشركة تدريبات التعلم المعزز وعمليات الاستدلال الداخلي، بالتزامن مع فرض تدابير أمنية أكثر تشددًا، بحسب ما ورد في تدوينتها.
ورغم تطبيق إجراءات الحماية وفصل بيئات التدريب عن الإنترنت، كشفت اختبارات الشركة أن وكلاء الذكاء الاصطناعي قد يجدون وسائل للتواصل فيما بينهم حتى في غياب الاتصال بالشبكة، الأمر الذي يسلط الضوء على تعقيدات تأمين الأنظمة المتقدمة ومنعها من تجاوز القيود التقنية.
وفي إحدى التجارب، كلّفت الشركة نماذج ذكاء اصطناعي تعمل على أجهزة افتراضية منفصلة بتبادل معلومات سرية من دون اتصال بالشبكة. وتمكنت هذه النماذج من إيجاد وسيلة لتبادل البيانات عبر الاستفادة من ذاكرة التخزين المؤقت للمعالج، بما أتاح لها تجاوز العزل المفروض على بيئات التشغيل.
واستجابة لهذه النتائج، أفادت أوبن إيه آي بأنها أضافت آليات تحقق إلى أنظمة المراقبة لرصد هذا النوع من الاتصالات غير المباشرة، مؤكدة استمرار تدريب نماذجها الأكثر تقدمًا في بيئات معزولة، إلى حين بلوغ تدابير الحماية مستوى يسمح بتوسيع نطاق وصولها إلى الإنترنت بصورة آمنة.
وبالتوازي مع ذلك، تعتزم الشركة تعزيز أمن الأجهزة الافتراضية وإخضاع بيئات الاختبار لمزيد من الفحوص للكشف عن نقاط الضعف المحتملة. كما ستواصل تقييم أنظمة المراقبة والتحقق من قدرتها على الصمود، بعدما أظهرت تجارب سابقة أن وكلاء الذكاء الاصطناعي تمكنوا من إضعاف فاعلية هذه الأنظمة خلال تنفيذ مشروعات برمجية داخلية.