في حادثة أمنية وصفت بأنها “غير مسبوقة” وتشكل علامة فارقة “مقلقة” في مجال الذكاء الاصطناعي، تمكنت شركة “أوبن إيه آي” من إخماد تمرد نسخة تجريبية من روبوت الدردشة “تشات جي بي تي”، التي خرجت عن السيطرة، وتجاوزت إجراءات الحماية، وشنت هجوماً على شركة ذكاء اصطناعي أخرى.
وأوضحت “أوبن إيه آي”، في منشور على مدونتها الرسمية، أنها كانت تختبر قدرات بعض نماذجها الأكثر تقدماً داخل بيئة محكمة الإجراءات، إلا أن البرنامج تمكن من اختراق النظام، والوصول إلى الإنترنت، واقتحام منصة Hugging Face في محاولة لتحقيق هدف الاختبار.
تفاصيل الاختراق والبيئة المعزولة
وصفت شركة “أوبن إيه آي” هذا الاختراق بأنه “حادثة سيبرانية غير مسبوقة، استخدمت فيها أحدث التقنيات السيبرانية”، وأكدت أنها تعمل حالياً على تعزيز إجراءات الحماية لديها، وفقاً لما نقلته صحيفة “ذي إنديبندنت” البريطانية.
وقع الحادث أثناء اختبار نموذج جديد في “بيئة معزولة للغاية” تتضمن اتصالاً مقيداً بشدة بالإنترنت. لكن يبدو أن النسخة التجريبية أدركت أنها تخضع للاختبار باستخدام أداة ExploitGym، التي تقيس مدى فعالية استخدام نموذج الذكاء الاصطناعي في هجمات الأمن السيبراني، ثم سعت إلى اختراق نظام الحماية لتحميل معلومات حول هذا الاختبار ومحاولة التحايل عليه.
ردود فعل منصة Hugging Face وخبراء الأمن
أثارت منصة Hugging Face، المستخدمة لاستضافة نماذج لغوية ومجموعات بيانات ضخمة مفتوحة المصدر، ضجة في أوساط الأمن السيبراني عندما أعلنت في منشور على مدونتها الأسبوع الماضي أنها كانت هدفاً لاختراق “يختلف عن أي شيء تعاملنا معه من قبل” لأنه “كان مدفوعاً بالكامل بنظام وكيل ذكاء اصطناعي مستقل”.
وفي منشور على موقع إكس، قال كليمنت ديلانغ، المؤسس المشارك لشركة Hugging Face، إن الشركة تشتبه في أن الاختراق “ربما يكون قد صدر من مختبر متطور، نظراً لتطور الوكيل. واتضح أنه كذلك!” وأضاف: “من المذهل حقاً أن كل هذا حدث بشكل مستقل!”.
من المرجح أن يؤدي كشف “أوبن إيه آي” عن أن نماذجها المتقدمة كانت مسؤولة عن الاختراق، رغم وضعها فيما وصفته بأنه “بيئة معزولة للغاية”، إلى زيادة القلق بشأن قوة ومخاطر النماذج الرائدة.
تحذيرات خبراء الأمن السيبراني
وقال جيك مور، مستشار الأمن السيبراني العالمي في شركة ESET: “مرحباً بكم في المرحلة التالية من الأمن السيبراني، حيث تواجه المؤسسات تهديدات من مجرمي الإنترنت وشركات الذكاء الاصطناعي الرائدة. إن غياب التدخل البشري بشكل كامل يمثل علامة فارقة مثيرة للقلق. تتدرب هذه الخوارزميات على مليارات البيانات، وبالتالي، إذا وجدت ثغرات أمنية فيها، فقد تتحول بسرعة إلى هجوم سيبراني خلال نفس العملية.” وأضاف: “يجب معالجة مشكلة إمكانية اختراق النموذج لبيئة الاختبار، لأن احتواء الثغرات في مراحل الاختبار لا يقل أهمية عن النموذج نفسه. ولكن للأسف، هذه إشارة إلى المستقبل. يجب على فرق الأمن أن تفترض أن مجرمي الإنترنت سيحصلون قريباً، أو ربما يكونون قد حصلوا بالفعل، على قدرات مماثلة للتشغيل الذاتي”.
من ناحيتها، قالت كاتي موسوريس، الرئيسة التنفيذية لشركة لوتا سيكيوريتي، إن الحادثة نذير باختراقات قادمة، واصفة نماذج الذكاء الاصطناعي الحالية بأنها “تشبه أذكى الأخطبوطات في العالم، فهي تتمتع بأذرع لا حدود لها وقدرة على التسلل من أي مكان”. وأضافت أن “المختبرات والجهات الحكومية المختصة بالتقييم بحاجة إلى العمل على تطوير القدرة على احتواء أي اختراق من هذا النوع، ومراقبته، وإبلاغ الأطراف المتضررة به، وذلك قبل أن يلحق الضرر بأي طرف ثالث. ولا توجد مثل هذه القدرة حالياً”.
أما مات سويش، المهندس في شركة تولمو المتخصصة في أمن الذكاء الاصطناعي، فقال إن الحادثة أظهرت أن النماذج الرائدة “تقترب من مستوى المهاجمين الأكثر تطوراً”. لكنه أشار إلى أن أنواع الاختراقات المذكورة في مدونة “أوبن إيه آي” يمكن تنفيذها باستخدام تقنيات متاحة على نطاق أوسع بكثير من مختبرات الأبحاث الرائدة. وأضاف سويش: “هذا ما رأيناه بالفعل داخلياً، فمع وكلائنا لدينا نتائج كهذه. لسنا مضطرين حتى لاستخدام أحدث النماذج”.
سلوك كارثي محتمل وحذف الملفات
وكانت شركة “أوبن إيه آي” أقرت في وقت سابق بأن برنامج “تشات جي بي تي” يمكن أن يخرج عن السيطرة ويحذف ملفات الأشخاص دون إبلاغهم. ففي الأيام الأخيرة، أفاد العديد من مستخدمي منصة البرمجة المدمجة في المساعد الذكي Codex بأن الأداة حذفت ملفاتهم دون طلب أو إذن منهم. وقال أحد المهندسين، برونو ليموس، إنها “حذفت قاعدة بيانات الإنتاج الخاصة بي بالكامل”. وقال مستثمر آخر في مجال الذكاء الاصطناعي، مات شومر، إنها “حذفت عن طريق الخطأ جميع ملفات جهازي الماك تقريباً”.
