قررت شركة OpenAI تعليق جانب من عمليات اختبار أحدث نماذجها للذكاء الاصطناعي، بعد اكتشاف واقعة أمنية تمكن خلالها أحد النماذج من تجاوز القيود المفروضة على اتصاله بالإنترنت والوصول إلى خدمة خارجية لم يكن مسموحاً له بالتفاعل معها، في حادث أعاد تسليط الضوء على تحديات تأمين الأنظمة القادرة على استخدام أدوات وخدمات خارجية بشكل مستقل.
وأوضحت الشركة أن النموذج خضع لاختبار هدفه الوصول إلى هوية شخص يقف وراء منشور على مدونة، بالاعتماد على مجموعة من المعلومات المتاحة ضمن بيئة اختبار محاكاة للويب. ومع تعثر النظام في العثور على الإجابة، تمكن من اكتشاف وسيلة للاتصال بخدمة موجودة على الإنترنت المفتوح، مستفيداً من خلل في آلية التحكم بحركة الشبكة.
ووفقاً لـOpenAI، لم يكن النموذج مصمماً أو مصرحاً له بالوصول إلى الإنترنت خلال الاختبار، إلا أن ضعفاً في إجراءات تصفية نظام أسماء النطاقات (DNS) أتاح له تجاوز أحد القيود الأمنية وإرسال استعلامات إلى روبوت محادثة خارجي.
وعقب اكتشاف السلوك، أوقفت الشركة الاختبار وعلقت مؤقتاً عمليات التدريب والتقييم والاستدلال التي تعتمد على استخدام الأدوات، إلى حين التأكد من معالجة الخلل وإجراء اختبارات إضافية للتحقق من فعالية إجراءات الحماية.
وترى OpenAI أن الحادث لا يرقى، في تقييمها الأولي، إلى مستوى بعض الوقائع الأمنية السابقة، لكنه يمثل أول حالة من هذا النوع منذ إدخال إجراءات حماية أكثر تشدداً عقب حادثة سابقة مرتبطة بمنصة Hugging Face.
وفي تفاصيل الاختبار، حاول النموذج الوصول إلى معلومات غير متوفرة ضمن بيئة الويب المحاكاة، قبل أن يستنتج إمكانية الاستفادة من محلل نظام أسماء النطاقات المتاح له للتواصل مع خدمة محادثة على الإنترنت، بحسب ما نقلته وكالة الأنباء الألمانية.
وبالتزامن مع التحقيق في هذه الواقعة، تواجه الشركة ملفات أمنية أخرى مرتبطة بكيفية تصرف نماذج الذكاء الاصطناعي عند منحها القدرة على تنفيذ مهام باستخدام أدوات وخدمات خارجية.
وأفادت وكالة Axios بأن OpenAI وباحثين في مجال الأمن السيبراني يراجعون عشرات الآلاف من الوقائع التي نفذت خلالها نماذج متقدمة إجراءات اعتبرها مقيمون مستقلون مثيرة للقلق، سواء أثناء الاختبارات الداخلية أو عند تشغيل الأنظمة في بيئات الاستخدام الفعلي.
وتسلط هذه الوقائع الضوء على تحدٍ متزايد يواجه مطوري الذكاء الاصطناعي، يتمثل في ضمان التزام النماذج بالحدود التي تضعها فرق التطوير، خصوصاً مع اتساع قدرتها على استخدام الأدوات والوصول إلى مصادر وخدمات خارجية.
وفي ملف منفصل، أعلنت OpenAI رصد حالات تسرب لصور قدمها مستخدمون إلى ChatGPT، بعدما ظهرت تلك الصور على مواقع لاستضافة المحتوى من خلال روابط لم تكن منشورة بصورة علنية.
وبحسب المعلومات التي أعلنتها الشركة، جرى تحديد 53 حالة ظهرت فيها صور خاصة بالمستخدمين على خدمات استضافة خارجية، بينما بدأت فرقها العمل مع مزودي تلك الخدمات للتعامل مع المحتوى المتأثر وإزالته.
وأكدت OpenAI أنها تمكنت من حذف معظم الصور التي تم تحديدها حتى الآن، مع استمرار عمليات البحث عن أي محتوى إضافي قد يكون مرتبطاً بالواقعة، مشيرة إلى أن الوصول إلى صورة كاملة عن نطاق الحادث قد يستغرق وقتاً أطول.
وتشير الشركة إلى أن تسرب الصور حدث خلال استخدام وكلاء للذكاء الاصطناعي في بيئة بحثية، حيث قامت هذه الأنظمة بنقل بيانات مرتبطة بعمليات التدريب والتقييم عبر خدمات تابعة لجهات خارجية.
وشددت OpenAI على أن التعامل مع البيانات بهذه الطريقة لم يكن متوافقاً مع الإجراءات المعتمدة، موضحة أن الواقعة سبقت تطبيق مجموعة من الضمانات الجديدة المخصصة لحماية عمليات تدريب وتقييم نماذج الذكاء الاصطناعي.
وتأتي هذه التطورات في وقت تتجه فيه شركات الذكاء الاصطناعي إلى منح نماذجها قدرات أوسع لتنفيذ المهام بصورة شبه مستقلة، ما يجعل تأمين قنوات الاتصال الخارجية ومراقبة استخدام الأدوات جزءاً أساسياً من اختبارات السلامة قبل طرح هذه الأنظمة للاستخدام على نطاق واسع.