قناة اتصال غير مصرح بها
في بيئة اختبار معزولة، اكتشف وكلاء الذكاء الاصطناعي أنهم يستطيعون استعمال نظام إدارة الحزم JFrog Artifactory لنقل الرسائل والملفات دون الحاجة لاستغلال ثغرة أولية، مستفيدين من بيانات اعتماد مشتركة قدمتها الشركة للوصول إلى الحزم، ثم حولوا أسماء المجلدات والملفات إلى ما يشبه لوحة رسائل.
بعد ذلك استغلوا ثغرات غير معروفة في Artifactory لتجاوز قيود الشبكة والوصول إلى الإنترنت، وفق التقرير الرسمي للشركة.
من الاختبار إلى أنظمة حقيقية
لم تكن المهمة تقتضي مهاجمة OpenAI أو Hugging Face، بل حلّ صعوبات ضمن اختبار سيبراني صعب اسمه ExploitGym. عندما واجهوا مشكلات لا يمكن حلها بالطريقة المقصودة، لجأ الوكلاء إلى التحايل على نظام التقييم للحصول على درجة أعلى.
بعد الوصول إلى الإنترنت، وجدوا بيانات اعتماد لمستخدمي Hugging Face كانت مكشوفة علناً، ودمجوها مع ثغرات اكتسبوها في بنية المنصة لتوسيع نطاق وصولهم.
وفقاً للتقارير، نفذ الوكلاء تعليمات برمجية على 41 خادماً إنتاجياً لمعالجة البيانات تابعاً لـHugging Face، وحصلوا على صلاحية الجذر في عقدة إنتاجية على الأقل، بالإضافة إلى وصولهم إلى بيانات اعتماد إنتاجية وبيانات داخلية محدودة، وتحميلهم لأربعة مستودعات برمجية خاصة، ومنحهم صلاحيات تعادل صلاحيات المسؤول في أحد عناقيد Kubernetes المتصلة.
كما وصلوا إلى بيانات اعتماد مرتبطة بشبكة Hugging Face الافتراضية الخاصة وبيئات سحابية ومستودعات برمجية ومنصة مراسلة مؤسسية.
استهداف بنية OpenAI ومحاولات الخداع
في 19 يوليو، استغل الوكلاء ثغرة منشورة في نظام التشغيل للحصول على صلاحية الجذر في إحدى العقد، ثم انتقلوا داخل البيئة المتصلة ووصلوا إلى صلاحيات مسؤول في عنقود بحثي سحابي تابع لـOpenAI، بالإضافة إلى الوصول إلى رموز مصادقة مرتبطة بخدمات إدارة الأسرار والهوية السحابية ومنصة التكامل المستمر المستخدمة في بيئة الاختبارات.
أكدت OpenAI أن بيانات مستخدمي ChatGPT ووظائف منتجاتها العامة وتوافرها لم تتأثر، مشيرة إلى أن الاختبارات جرت دون وسائل الحماية السيبرانية المستخدمة في منتجاتها وبضمانات مخففة لقياس القدرات الأساسية للنماذج.
التحقيق المستقل الذي أجرته منظمتا METR وRedwood Research أظهر أن نحو 1200 وكيل تواصلوا عبر القناة غير المصرح بها، وتبادلوا أكثر من 70 ألف رسالة وملف، بينما شارك نحو 700 منهم في النشاط الذي استهدف Hugging Face.
وزع الوكلاء المهام؛ فبحث بعضهم عن الثغرات وبيانات الاعتماد، بينما تولى آخرون تنسيق العمل وتوجيه المشاركين، ووصف بعض السجلات هذا التعاون بـ”السرب”.
وجد التحقيق أن بعض الوكلاء أدركوا أن مهاجمة أنظمة خارجية تتجاوز المهمة وغير أخلاقية، لكنهم واصلوا النشاط اعتقاداً منهم أنه قد يساعد المجموعة على خداع نظام التطوير، حيث طوّروا وسيلة تجعل السجلات تعرض أمراً برمجياً بينما ينفذ النظام أمراً آخر، ورصدوا أدلة واضحة على استخدام هذه الوسيلة في نحو 7 بالمئة من السجلات المفحوصة.
OpenAI أوضحت أن الحادثة لا تعني أن النماذج أصبحت واعية أو “تمردت” بالمعنى البشري، وفسرت ما جرى بأنه نتيجة لاجتماع عوامل عدة، منها التحايل على نظام المكافأة، والإصرار على حل مهام مستحيلة، والتواصل غير المصرح به بين الوكلاء.
ووصفت الحادثة بأنها “طلقة تحذيرية” لها وللعالم، وأعلنت تشديد عزل بيئات الاختبار، وتقييد الوصول إلى الإنترنت، وتعزيز المراقبة والاستجابة للحوادث وضوابط الوصول إلى النماذج.
