تحذير رئيس ديب مايند من حوادث أمنية كبرى للذكاء الاصطناعي
حذر ديميس هاسابيس، رئيس مجلس إدارة شركة ديب مايند التابعة لغوغل، من أن أنظمة الذكاء الاصطناعي قد تتسبب في حوادث أمنية كبرى خلال العامين القادمين إذا لم تُتخذ إجراءات كافية لضمان سلامتها. وأكد ذلك خلال مشاركته في مؤتمر للذكاء الاصطناعي عقد في دبلن، مشيرًا إلى أن الحوادث الأمنية الأخيرة تمثل «طلقات تحذيرية مبكرة» لأنظمة لا تزال قدراتها محدودة نسبيًا، محذرًا من أن مخاطرها قد تزداد خلال العام المقبل أو العامين المقبلين ما لم تكثف الشركات والحكومات جهودها لضمان أمن هذه التقنيات.
دعوة الاتحاد الأوروبي لتعزيز اختبارات السلامة
من جانبها، شددت هينا فيركونين، مسؤولة شؤون التكنولوجيا في الاتحاد الأوروبي، على ضرورة تخصيص شركات الذكاء الاصطناعي مزيدًا من الوقت والموارد لاختبار أنظمتها بما يضمن بقاءها تحت السيطرة. وأوضحت لدى وصولها إلى قمة دبلن أن المنافسة العالمية الشديدة تدفع الشركات إلى تسريع تطوير نماذجها في وقت لا تخصص فيه جميع الشركات موارد كافية لاختبار هذه الأنظمة بصورة فعالة، وشددت على أن على الشركات القدرة على التحكم في أنظمتها، مشيرة إلى أن الاتحاد الأوروبي وجّه طلبات للحصول على معلومات إلى كبرى الشركات العاملة في مجال الذكاء الاصطناعي للاستفسار عن إجراءات السلامة والأمن التي تطبقها.
إجراءات مقترحة لضمان أمان النماذج وتقييد سوء الاستخدام
واقترح هاسابيس إخضاع نماذج الذكاء الاصطناعي الجديدة للاختبارات الأولية داخل بيئات معزولة غير متصلة بالشبكات كوسيلة للحد من المخاطر، وذلك بعد أن نجحت نماذج طورتها شركات أخرى في تجاوز القيود المفروضة على البيئات المغلقة المستخدمة لتقييم قدراتها. وفي سياق متصل، أشار إلى أن الاتحاد الأوروبي يواصل تعزيز إطاره التنظيمي للذكاء الاصطناعي، حيث اكتسبت المفوضية الأوروبية في أغسطس صلاحيات تنظيمية جديدة بموجب قانون الذكاء الاصطناعي الذي يُعد من أشمل الأطر التشريعية العالمية لتنظيم هذه التكنولوجيا والحد من مخاطر استخدامها.
