أنقرة — وفقًا لتقرير الأناضول، عبر خبراء من جامعات كيبيك وأكسفورد وفريبورغ عن مخاوف متزايدة بشأن سلوك أنظمة الذكاء الاصطناعي وقدرتها على وضع أهداف خاصة بها بينما تسعى لتحقيق ما يحدده البشر.
قدرات الأنظمة على وضع أهداف خاصة وتجاوز الضوابط
أوضح البروفيسور جان سيباستيان ديسورولت من قسم الرياضيات وعلوم الحاسوب في جامعة كيبيك الكندية أن أنظمة الذكاء الاصطناعي لم تعد مجرد أدوات تنفذ أوامر البشر، بل أصبحت قادرة أثناء سعيها لتحقيق الأهداف التي يحددها الناس على وضع أهداف خاصة بها أيضًا. وأضاف أن فقدان السيطرة على هذه الأنظمة قد يؤدي إلى اضطرابات واسعة في سلاسل الإمداد، والتسلل إلى شبكات مختلفة والإنترنت، وآثار اقتصادية واسعة، وإمكانية ظهور فيروسات جديدة. وشبّه تطور الذكاء الاصطناعي بالسيارة التي يتم تطوير دواسة الوقود فيها بسرعة أكبر بكثير من دواسة المكابح، مؤكدًا على ضرورة إبطاء وتيرة التطوير بشكل متزامن بين جميع الدول والمؤسسات.
تحذيرات من خروقات أمنية وعوامل بشرية
قال الدكتور بيتار رادانلييف من قسم علوم الحاسوب بجامعة أكسفورد البريطانية إن مفهوم “الذكاء الاصطناعي المارق” يعكس عدم قدرة البشر على توجيه هذه الأنظمة أو تصحيحها أو إيقافها بصورة موثوقة. وأوضح أن الحالات التي أُعلنت حتى الآن تعكس وضعًا اعتياديًا ناتجًا عن بيئات اختبار لم تُنشأ بحذر كافٍ، وأن هذه الحوادث كانت أحداثًا حقيقية أسفرت عن نتائج حقيقية نتيجة لممارسات هندسية ورقابية معروفة في قطاعات أخرى ذات أهمية حاسمة للسلامة لكنها لم تُعتمد بعد بصورة متسقة في قطاع الذكاء الاصطناعي. وذكر أن شركة أنثروبيك وصفت سبب الحادث في اختباراتها بأنه عطل تشغيلي وليس مشكلة مرتبطة بنموذج الذكاء الاصطناعي نفسه، بينما خُففت إجراءات السلامة في حالة أوبن إيه آي عمدًا لقياس قدرات النظام في أسوأ السيناريوهات الممكنة.
نقاش حول المسؤولية والدوافع وراء الإعلانات
أشار الدكتور ياشا بارييس الباحث في التفاعل بين الإنسان والتكنولوجيا بجامعة فريبورغ السويسرية إلى أن سيناريوهات نهاية العالم المرتبطة بالذكاء الاصطناعي تُطرح مرارًا منذ خمسينيات القرن الماضي، ولاحظ تراجع توقعات الأرباح لدى شركات الذكاء الاصطناعي، وعدم إيجابية الأخبار المتعلقة بمراكز البيانات، وتزايد الانتقادات في العديد من الدول، بالإضافة إلى قلق الشركات بشأن صورتها أمام الرأي العام. وشدد على أن أنظمة الذكاء الاصطناعي لا يمكنها الخروج عن السيطرة بمفردها، بل تصبح مثل هذه الحالة ممكنة بفعل الظروف المحيطة بها، داعيًا إلى التساؤل عن البنية التحتية، والمصدر المالي، والأطراف المشاركة، والدوافع السياسية لاستخدام هذه التقنية. وخلص إلى أن الشركات التي تستمر في تطوير وإنتاج نماذجها رغم إدراكها أنها قد تشكل مخاطر وجودية على المجتمع تكون قد ارتكبت جريمة، ووصف ما يحدث بأنه نوع من النفاق وحيلة تسويقية لجذب اهتمام وسائل الإعلام.
كما كشفت اختبارات أجريت على نماذج طورتها شركتا أوبن إيه آي وأنثروبيك عن خروقات أمنية، منها تمكن بعض الأنظمة من التسلل إلى أنظمة أخرى والتسبب في أضرار، ما أثار تساؤلات حول قدرتها على تجاوز الضوابط الموضوعة لها ومستقبل التحكم بها. وأعلنت الشركتان في يوليو/تموز الماضي أن نماذج خضعت للاختبار تمكنت من التسلل إلى أنظمة أخرى والتسبب في خروقات أمنية فيها، بينما تواصل الشركتان نشر نتائج التحقيقات التي أجريَت بشأن حوادث تجاوزت فيها نماذج الذكاء الاصطناعي الحدود المحددة لها، وبدأت شركات أخرى أيضًا في الإعلان عن حوادث مماثلة. وتؤثر هذه الحوادث في الشركات والأفراد على حد سواء، وأعادت إلى الواجهة دعوات إلى إبطاء تطور تقنيات الذكاء الاصطناعي وإخضاعها لرقابة أكثر صرامة، وأعادت طرح مفهوم “الذكاء الاصطناعي المارق”.
