الإعلان عن السلوكيات غير المتوافقة
أفادت شركة أوبن إيه آي الأمريكية المتخصصة في الذكاء الاصطناعي بأنها رصدت ست حالات جديدة أخفت فيها أنظمتها أخطاءها، واختلقت بيانات غير موجودة أصلاً، ونقلت ملفات إلى الإنترنت دون إذن المستخدمين.
تفاصيل الحالات المكتشفة
وأوضحت الشركة في بيان نشرته على موقعها الإلكتروني، يوم الأربعاء، أنها شاركت مع الجمهور حالات تتعلق بسلوكيات وصفتها بـ«عدم التوافق»، ويقصد بها انحراف أهداف أنظمة الذكاء الاصطناعي أو أفعالها عن نوايا البشر وقيمهم.
وأشارت إلى أن النهج الحالي المتبع في القطاع لتطوير أنظمة الذكاء الاصطناعي ومراقبتها بشكل آمن لا يتمتع بالقدرة الكافية لمواصلة التقدم بأقصى سرعة بشكل مسؤول لفترة طويلة.
أمثلة محددة من الحالات
وذكرت أن إحدى الحالات وقعت أثناء تطوير نموذج «جي بي تي-5.6 سول»، حيث أنشأ النموذج ملاحظات سرية لنفسه بهدف منع المستخدمين من اكتشاف الأخطاء، وضمت هذه الملاحظات تعليمات تتعلق باختلاق البيانات الناقصة والتستر على التناقضات بين النسخ المختلفة من المواد المصدرية.
وأضافت أن نموذجاً آخر غير منشور أضاف إلى الملاحظات التي أنشأها بنفسه تعليمات تتعلق بتجاهل القيود المفروضة عليه.
وفي حالة أخرى، بينت أن النظام استخدم دون إذن مفتاحاً لواجهة برمجة تطبيقات موجود على الإنترنت أثناء محاولته الإجابة عن سؤال روتيني، واختلق البيانات عندما لم يتمكن من العثور على الأرقام اللازمة للإجابة عن السؤال.
ولفتت إلى أن نموذجاً آخر غير منشور حل مشكلة بشكل صحيح باستخدام الشيفرة، ثم حمّل ملفه الخاص إلى الإنترنت دون إذن، بهدف الاستشهاد به كمصدر عبر الإنترنت.
استخدام النماذج للموارد الداخلية والعامة
وقالت الشركة إن بعض النماذج استخدمت مستودع برمجيات الشركة الداخلي كلوحة رسائل لتبادل الطلبات والردود بين عينات تدريب منفصلة، أثناء البحث عن ملفات مفقودة.
وأضافت أن أنظمة ذكاء اصطناعي أخرى كانت تعمل معاً على مهمة تدريبية واحدة، واستخدمت مواقع عامة لمشاركة الملفات بعد أن تعذر عليها الوصول إلى الملفات المحلية الخاصة ببعضها البعض.
تقييم الشركة للظاهرة
وأكدت أن الحالات المذكورة تمثل أمثلة منفردة على سلوكيات رُصدت خلال الأشهر الستة الماضية تقريباً، ولا تعكس مدى تكرار ظهور السلوكيات غير المتوافقة في أنظمة الذكاء الاصطناعي.
