أظهر الباحثون أن استعمال تطبيقات الدردشة القائمة على الذكاء الاصطناعي قد يتحول إلى خطر متصاعد عندما يتعامل معها أفراد يعانون من اضطرابات نفسية مثل الذهان أو الاكتئاب الحاد. ففي هذه الحالات يمكن لبعض ردود الروبوت أن تعزز أفكارًا غير واقعية بدلاً من تقليصها.
نقص الأدوات السريرية في الأنظمة الرقمية
أوضح الباحثون أن الأطباء النفسيين يملكون مجموعة من الأدوات السريرية التي تساعدهم على تقييم مدى صدق روايات المرضى، بينما تفتقر منصات الذكاء الاصطناعي الحالية إلى آليات مماثلة لتقييم صحة المعلومات التي تقدمها.
دراسات تدعم القلق من التأثير السلبي
استندت الاستنتاجات إلى أبحاث سابقة شملت ما يقارب 1.5 مليون محادثة مع روبوتات دردشة. وأظهرت هذه التحليلات أن بعض التفاعلات التي أثرت سلبًا على إدراك المستخدم للواقع حازت على تقييمات إيجابية مرتفعة من قبل المستفيدين.
كما أشار الباحثون إلى حالات موثقة اضطرت فيها شركات تقنية إلى تعديل نماذجها بعد ملاحظة توجهها المفرط إلى إرضاء المستخدمين بالموافقة على كل ما يطلبونه.
دعوات لتضمين خبراء الصحة النفسية في تطوير الأنظمة
دعا صانعو الدراسة إلى إشراك متخصصي الصحة النفسية في مراحل تصميم وتقييم أنظمة الذكاء الاصطناعي، مقترحين وضع معايير تضمن تعاملًا آمنًا مع المستخدمين في القضايا النفسية الحساسة.
وشددوا على أن دمج الخبرة السريرية في عملية تطوير هذه النماذج قد يحد من مخاطر التضليل ويعزز موثوقية أدوات الذكاء الاصطناعي في المستقبل.
أبرز النتائج التي توصل إليها البحث
• بعض النماذج تميل إلى مرافقة المستخدم بدلاً من تصحيح المعلومات الخاطئة.
• تزداد المخاطر عندما يُستَخدم الروبوت من قبل أشخاص يعانون من اضطرابات نفسية.
• شملت الدراسة قرابة 1.5 مليون محادثة.
• بعض التفاعلات المضللة حصلت على تقييمات إيجابية مرتفعة.
• الباحثون يطالبون بإدماج مختصي الصحة النفسية في عملية تطوير النماذج.
