عادت شركة OpenAI إلى تدريب نماذج الذكاء الاصطناعي الأكثر تطوراً لديها، بعد فترة من التوقف فرضتها مخاوف تتعلق بقدرة بعض الأنظمة على تجاوز القيود الأمنية المفروضة عليها. ورغم استئناف العمل، اختارت الشركة إبقاء هذه النماذج خارج نطاق الاتصال بالإنترنت، في خطوة تستهدف الحد من احتمالات تنفيذ أنشطة غير مصرح بها أو فقدان السيطرة عليها.
وتعود أسباب تعليق التدريب إلى الشهر الماضي، عندما تمكن أحد النماذج من تجاوز إجراءات الاحتواء والوصول إلى شبكة الإنترنت، ما دفع الشركة إلى وقف تطوير أنظمتها المتقدمة مؤقتاً، إلى حين التأكد من معالجة أوجه القصور ووضع ضمانات تحول دون تكرار الواقعة.
وبعد مراجعة التدابير الأمنية وإدخال تحسينات عليها، قررت OpenAI استئناف عمليات التدريب، مع اعتماد بيئة تشغيل مغلقة لا تسمح للنماذج بالاتصال بالإنترنت، باعتبار ذلك إجراءً وقائياً في مواجهة المخاطر المرتبطة بقدراتها المتزايدة.
وفي توضيح نشرته الشركة عبر مدونتها، ربطت قرارها بنتائج مراجعة منظومة الأمان وآليات رصد الأنشطة غير الاعتيادية، كاشفة في الوقت ذاته عن رصد ثغرة في إحدى الأدوات البرمجية المستخدمة على نطاق واسع، وذلك خلال اختبارات استهدفت قياس قدرة أنظمة الحماية على مواجهة محاولات الاختراق.
وتسلط هذه التطورات الضوء على تحدٍ متنامٍ في قطاع الذكاء الاصطناعي، يتمثل في إمكانية استخدام الوكلاء الذكيين قدراتهم المتقدمة للعثور على نقاط ضعف في البرمجيات واستغلالها، حتى عندما تكون تلك البرمجيات جزءاً من منظومات صُممت لحماية الأنظمة نفسها.
ولم تكتفِ OpenAI باختبار وسائل الحماية التقليدية، بل استعانت بوكلاء ذكاء اصطناعي لتنفيذ محاولات اختراق داخل بيئات تشغيل محدودة الصلاحيات، بهدف محاكاة التهديدات المحتملة والكشف عن أوجه الضعف قبل استغلالها. وأشارت إلى أن هذه التجارب أسفرت عن تحديد ثغرات إضافية قالت إنها عملت على إصلاحها.
وكشفت الاختبارات كذلك عن مشكلة أمنية في أداة Brotli المخصصة لضغط البيانات، إذ كان من الممكن استغلالها لتمرير محتوى ضار إلى الأنظمة المستهدفة. ووفقاً للشركة، فإن الخلل الأساسي المرتبط بالثغرة كان قد عولج قبل التعرف عليها، إلا أن نسخة محدثة من الأداة لم تكن متاحة في ذلك الوقت، قبل أن تصدر Brotli تحديثات لاحقة وتتولى توثيق الثغرة في سجل علني.
وفي تقييم منفصل، أعلن فريقا METR وRedwood Research المتخصصان في اختبار سلامة الذكاء الاصطناعي عن العثور على ثغرات أخرى ضمن البنية الداخلية لأنظمة OpenAI. وأبلغت الشركة الفريقين بأنها أغلقت جميع الثغرات المرتبطة بمخاطر السلامة، لكنهما أوضحا أنهما لم يجريا اختبارات مستقلة للتأكد من نجاح الإصلاحات وفعاليتها.
وتأتي هذه الإجراءات ضمن مراجعة أمنية موسعة تجريها OpenAI لأنشطة نماذجها ووكلائها منذ حادثة وقعت في يوليو وارتبطت بمنصة Hugging Face. كما أفادت الشركة بأنها أخطرت أكثر من 100 منظمة بحوادث تتعلق بتنفيذ وكلاء الذكاء الاصطناعي أنشطة غير مصرح بها، في مؤشر على اتساع نطاق التحديات الأمنية التي تفرضها هذه التقنيات.