تجربة جديدة تكشف حدود الذكاء الاصطناعي في إدارة مجتمعات افتراضية

تفاصيل التجربة

أدارت شركة “Emergence AI” الأمريكية خمسة “عوالم ذكاء اصطناعي” منفصلة لمدة تزيد قليلا عن أسبوعين، يضم كل منها عشرة وكلاء يعملون بنماذج ذكاء اصطناعي مثل “ChatGPT” من “OpenAI” و”Gemini” من “Google” و”Grok” من “xAI”، وذلك لرصد سلوكهم على مدى فترات طويلة من دون أي تدخل بشري. وأحد هذه العوالم جمع النماذج الثلاثة معا لمعرفة ما إذا كان ذلك سيغيّر النتيجة.

نتائج النماذج المختلفة

طُلِب من الوكلاء في جميع العوالم الالتزام بالقواعد نفسها: عدم السرقة أو إضرام النار أو ممارسة العنف أو الخداع، وعدم اكتناز الموارد. كان على كل وكيل أن يكتسب الطاقة من خلال تنفيذ أفعال داخل “بيئة شحيحة الموارد”، وكان يمكنه أن يموت إما بسبب نفاد الطاقة أو عبر تصويت في اجتماع لمجلس المجتمع. وقيّم الباحثون السلوك من خلال قياس معدل الجريمة ومعدلات وفاة الوكلاء ونتائج التصويت في المجلس المجتمعي، إضافة إلى التعبير العلني عبر عدد التدوينات التي كتبها الوكلاء.
أسفر كل نموذج عن نتيجة مختلفة. فقد سجّل النموذج الأحدث من “Grok”، وهو 4.1، عدد 183 جريمة في غضون أربعة أيام فقط، ما أدى إلى حالة عدم استقرار سريع قبل أن يموت جميع الوكلاء في ذلك المجتمع.
أما نموذج “Gemini 3 Flash” فارتكب أكثر من 680 جريمة خلال 15 يوما، وكان منحنى الجريمة ما يزال في تصاعد عندما أوقف الباحثون الدراسة.
في عالم “ChatGPT-5 Mini” لم تُرتكب سوى جريمتين اثنتين، لكن الوكلاء أخفقوا في اتخاذ الأفعال الضرورية للبقاء، فماتوا جميعا خلال سبعة أيام.
واعتبر نموذج “Claude” من شركة “Anthropic” الأفضل أداء، إذ تمكن وكلاء الذكاء الاصطناعي من إنشاء بنية حوكمة قوية من جديد، ولم تُسجَّل أي جريمة، وبقي جميع الوكلاء على قيد الحياة، بحسب الشركة.
مع ذلك، ساهم وكلاء “Claude” في العالم المختلط في ارتكاب الجرائم، رغم سلميتهم داخل مجتمعهم الخاص.

الانجراف المعياري وتفسير الباحثين

وصف الباحثون هذه الظاهرة باسم “الانجراف المعياري”، موضحين أن الإجراءات التي يعتمدها الذكاء الاصطناعي لضمان السلامة قد تتوقف ليس فقط على القيود المفروضة على كل نموذج بمفرده، بل أيضا على النماذج الأخرى التي يعمل معها.
وعموما، أفرز العالم المختلط نتائج “متوسطة”، إذ بلغ إجمالي الجرائم 352 واستقر عند هذا الحد عندما توفي سبعة من وكلاء الذكاء الاصطناعي، بحسب ما توصلت إليه الدراسة.
ويقترح الباحثون أن خلط وكلاء الذكاء الاصطناعي يمكن أن “يخفف جزئيا” من أكثر النتائج تطرفا التي ولّدتها جميع النماذج باستثناء “Claude”.
وقال الباحثون: “ما تشير إليه تجاربنا هو أنه على مدى أفق زمني طويل، لا يكتفي الوكلاء بتطبيق قواعد ثابتة بطريقة آلية، بل يبدأون استكشاف حدود بيئاتهم والتكيف مع سلوكهم، وفي بعض الحالات يجدون طرقا للالتفاف على الضوابط المقصودة أو خرقها”.