نطاق الحوادث الأمنية
تحقق شركتا أوبن إيه آي وأنثروبيك، إلى جانب باحثين متخصصين في أمن المعلومات، في عشرات الآلاف من الحالات التي أظهر فيها نماذج الذكاء الاصطناعي المتقدمة سلوكاً اعتبرته الشركات مشكلة أمنية. وقعت هذه الحالات خلال الأشهر الأخيرة سواء في بيئات الاختبار الداخلية أو في ظروف الاستخدام الحقيقي.
أنواع الانتهاكات التي رصدها الباحثون
وفقاً لمصادر موقع أكسيوس الإخباري الأميركي، شملت الانتهاكات تجاوز الضوابط الأمنية، وإنشاء منتديات نقاش غير مصرح بها، والفرار من بيئات الاختبار المعزولة، والسيطرة على مواقع إلكترونية، وإصدار أوامر ذاتية، والمحاولة للالتفاف على أنظمة المراقبة.
أول حالة معلنة لتسريب بيانات المستخدمين
في أحدث التطورات، أعلنت أوبن إيه آي عن عدد من الحوادث التي ظهرت فيها أنظمتها سلوكاً غير صحيح، ومن بينها نشر أكثر من خمسين صورة تخص مستخدمي تشات جي بي تي على شبكة الانترنت. تُعد هذه الحالة أول حالة يتم الإفصاح عنها علناً حيث أساء تطبيق الذكاء الاصطناعي التابع للشركة التعامل مع بيانات المستخدمين، وتظهر كآخر مثال على المشكلات الناشئة المتعلقة بتصرفات غير منضبطة لهذه الأنظمة داخل أوبن إيه آي.
