شهد منتدى اليونسكو العالمي لأخلاقيات الذكاء الاصطناعي، المنعقد في الرياض، استعراضاً لجهود المملكة في تحويل الأطر النظرية إلى ممارسات تنفيذية لإدارة المخاطر المرتبطة بالذكاء الاصطناعي. تم ذلك من خلال “الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي”، الذي أصدرته الهيئة السعودية للبيانات والذكاء الاصطناعي “سدايا” خلال عام الذكاء الاصطناعي 2026، بصفته خارطة طريق إرشادية تهدف إلى ضمان التبني الآمن والمسؤول لتقنيات الذكاء الاصطناعي. وتعتبر هذه الخطوة، بحسب مراقبين، نقلة نوعية تسعى إلى تحقيق التوازن بين تسارع الابتكار وجاهزية التنظيم.
فارق جوهري بين مخاطر الذكاء الاصطناعي والأنظمة التقليدية
تختلف مخاطر الذكاء الاصطناعي عن مخاطر الأنظمة البرمجية التقليدية من حيث الطبيعة والنطاق. إذ تمتد آثارها إلى تنظيمات ومجتمعات أوسع، وتظهر بطرق غير متوقعة أثناء التشغيل. في المقابل، تكون مخاطر الأنظمة التقليدية محددة وقابلة للتنبؤ غالباً. صحيح أن الأنظمة التقليدية قد تنتج مخاطر تتجاوز حدود جهة واحدة لتمتد إلى جهات أخرى أو المجتمع بأسره، إلا أن أنظمة الذكاء الاصطناعي تُدخل فئات إضافية من المخاطر لا تعالجها أطر إدارة المخاطر التقليدية بصورة شاملة.
جلسة “من الإطار إلى التطبيق” تبرز جهود سدايا
خلال جلسة حملت عنوان “من الإطار إلى التطبيق”، والتي عُقدت ضمن فعاليات المنتدى، استمع الحضور من الخبراء الدوليين والمختصين في الذكاء الاصطناعي من مختلف دول العالم إلى جهود “سدايا” التي أبرزت أهمية إدارة المخاطر باعتبارها عنصراً أساسياً في حوكمة الذكاء الاصطناعي. كما تم تسليط الضوء على دورها في دعم الجهات عند تطوير الحلول الذكية واعتمادها، بما يواكب التحولات التقنية المتسارعة ويحافظ على موثوقية الأنظمة.
يُعد “الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي” وثيقة مرجعية إرشادية شاملة تترجم التوصيات الدولية والأخلاقية للذكاء الاصطناعي إلى أطر عملية وسياسات تطبيقية. ويهدف إلى ترسيخ منهجية وطنية متكاملة وموحدة لتحديد وتقييم ومعالجة ومراقبة مخاطر تقنيات الذكاء الاصطناعي في القطاعين الحكومي والخاص، لضمان التبني الآمن والمسؤول لهذه التقنيات، ودعم التحول الرقمي والتنافسية الاقتصادية للمملكة بما يتوافق مع مستهدفات رؤية السعودية 2030.
أهداف إستراتيجية ونطاق مؤسسي واسع
في الوقت الذي يناقش فيه المنتدى الفجوة بين سرعة تطور الذكاء الاصطناعي وقدرة الحكومات والمؤسسات على حوكمته، ضمن الحوار العالمي حول مستقبل تقنيات الذكاء الاصطناعي، شاهد الحضور كيف ركزت “سدايا” في إطارها على تحقيق مجموعة من الأهداف الإستراتيجية المنظمة للمجال التقني. في مقدمتها توفير منهجية وطنية موحدة للتعامل الاستباقي مع المخاطر، وتمكين تصنيف واعٍ لأنظمة الذكاء الاصطناعي بحسب مستوى خطورتها.
يغطي الإطار نطاقاً مؤسسياً متكاملاً يشمل مختلف مراحل تحديد المخاطر وتقييمها ومتابعتها لدى الجهات الحكومية والخاصة. ويقدم إرشادات عملية لإدارة هذه المخاطر ضمن السياقات التنظيمية والتقنية القائمة، بما في ذلك تهيئة بيئة حوكمة مناسبة، وتوثيق سيناريوهات المخاطر، وتحديد مستوى المخاطر المقبول وضوابطه، ووضع آليات للرصد والاستجابة. وهذا من شأنه الحد من الأضرار المحتملة وتعزيز الاستفادة الآمنة من تقنيات الذكاء الاصطناعي.
يستهدف الإطار جميع الجهات الحكومية والخاصة على اختلاف قطاعاتها ومراحل نضجها الرقمي، مع مراعاة تباين أنماط الاستخدام وحجم المخاطر، مما يمنح هذه الجهات مرونة في التطبيق دون الإخلال بمبادئ إدارة المخاطر المنهجية. ويركز على الأنظمة والتطبيقات ذات الأثر العالي على الأفراد والأصول والعمليات، بما في ذلك النماذج التنبؤية، ومعالجة اللغات الطبيعية، وتحليل الصور ومقاطع الفيديو، والأتمتة الذكية، ونماذج الاستخدام العام.
يركز الإطار بالدرجة الأولى على الجوانب التطبيقية لإدارة مخاطر الذكاء الاصطناعي داخل الجهات، بالقدر الذي يسهم في دعم اتخاذ قرارات تنفيذية في مجالات الحوكمة والتنظيم والتشغيل. ولا يضع معايير تقنية تفصيلية لأداء النماذج، بل يقدم خطوطاً استرشادية ومنهجيات وأدوات تساعد الجهات على بناء سياساتها وإجراءاتها الداخلية لتحديد المخاطر وتقييمها ومعالجتها أو قبولها بما يتناسب مع واقعها المؤسسي، وبما يدعم استخداماً آمناً ومسؤولاً للذكاء الاصطناعي.
ثلاث فئات رئيسة وسبعة مبادئ أخلاقية
يستهدف الإطار الوطني ثلاث فئات رئيسة تلبي احتياجات المنظومة المؤسسية: مطوري الأنظمة لدمج اعتبارات السلامة وحوكمة المخاطر في مراحل التصميم والتدريب والاختبار قبل النشر، ومشغلي الأنظمة لاعتماد سياسات تشغيل ومراقبة واضحة وتحديد مسؤوليات المتابعة والاستجابة للحوادث، وصناع السياسات لتقييم جاهزية الأطر التنظيمية والقانونية وتطوير تشريعات متدرجة تدعم الابتكار وتحمي المجتمع.
يتجسد الإطار في سبعة مبادئ أخلاقية أساسية تتوافق مع توصية اليونسكو الصادرة عام 2021. وتشمل: النزاهة والإنصاف لمنع التحيز، الخصوصية والأمن لحماية البيانات، الإنسانية لتسخير التقنية لخدمة البشر دون إلحاق خداع، المنافع الاجتماعية والبيئية لتعظيم الاستدامة، الموثوقية والسلامة لضمان دقة الأداء ومنع الأعطال، الشفافية وقابلية التفسير لتمكين فهم آلية اتخاذ القرارات المؤتمتة، والمساءلة والمسؤولية بتحديد أدوار المصممين والمشغلين والإشراف البشري.
