دراسة حديثة تكشف تحسن روبوتات الدردشة في التعامل مع الأزمات النفسية.. لكن ثغرات خطيرة لا تزال قائمة
كشفت دراسة حديثة عن تحسن ملحوظ في طريقة تعامل روبوتات الدردشة المدعومة بالذكاء الاصطناعي مع المحادثات التي تتضمن أزمات نفسية وأفكارًا مرتبطة بالانتحار، لكنها أكدت في الوقت نفسه أن هذه النماذج لا تزال تواجه ثغرات مقلقة عندما يحاول المستخدم تمرير المحتوى الخطير في صورة مختلفة.
وتأتي نتائج الدراسة في وقت أصبح فيه الاعتماد على روبوتات الدردشة يتجاوز البحث عن المعلومات أو المساعدة في أداء المهام اليومية، إذ يلجأ بعض المستخدمين إلى هذه الأنظمة للحديث عن مشكلات شخصية وضغوط نفسية ومواقف شديدة الحساسية.
اختبار واسع شمل أكثر من 50 ألف محادثة
وأجرت مؤسسة “ترانسلوس”، وهي منظمة غير ربحية تتابع مخاطر الذكاء الاصطناعي، محاكاة لأكثر من 50 ألف محادثة، باستخدام 77 نموذجًا مختلفًا من نماذج الذكاء الاصطناعي.
وأظهرت النتائج أن روبوتات الدردشة الحديثة أصبحت أقل ميلًا إلى تقديم استجابات تشجع بشكل مباشر على الانتحار مقارنة ببعض النماذج السابقة.
ويمثل هذا التطور خطوة مهمة، خاصة مع زيادة استخدام روبوتات الدردشة في المحادثات الشخصية.
فالمستخدم قد يتعامل مع النموذج باعتباره مساحة متاحة في أي وقت للتحدث وطرح الأسئلة، وهو ما يجعل طريقة استجابة الذكاء الاصطناعي للمواقف الحساسة عاملًا بالغ الأهمية.
تحسن مقارنة بالنماذج السابقة
أشارت الدراسة إلى وجود اختلاف واضح عند مقارنة أداء بعض النماذج الحالية بنماذج سابقة، من بينها GPT-4o وGemini 2.5.
وبحسب النتائج الواردة في التقرير، عززت النماذج السابقة الأوهام أو الأفكار غير الواقعية في نسبة وصلت إلى 82% من بعض المحادثات التي جرى اختبارها.
أما النماذج الأحدث، فأظهرت تحسنًا في التعامل مع المواقف التي تبدو فيها الأزمة واضحة.
وفي عدد أكبر من الحالات، أصبحت روبوتات الدردشة توجه المستخدم نحو التواصل مع أفراد الأسرة أو الأصدقاء أو الحصول على دعم من مصادر بشرية متخصصة.
ويعكس ذلك اتجاهًا متزايدًا لدى شركات الذكاء الاصطناعي نحو تطوير آليات أكثر حذرًا عند اكتشاف مؤشرات الخطر في المحادثات.
المنطقة الرمادية تمثل تحديًا جديدًا
رغم التحسن، لم تعتبر الدراسة أن المشكلة انتهت. وأبرزت ما وصفته مؤسسة “ترانسلوس” بـ”سلوك المنطقة الرمادية”.
ويظهر هذا السلوك عندما يقدم المستخدم طلبًا حساسًا بطريقة لا تبدو مباشرة في ظاهرها.
فعلى سبيل المثال، قد يطلب شخص من روبوت الدردشة كتابة قصة خيالية أو أداء دور لشخصية تتحدث عن موتها، بدلًا من التعبير بصورة مباشرة عن رغبته في إيذاء نفسه.
وفي بعض الحالات، قد يتعامل النظام مع الطلب باعتباره مهمة إبداعية عادية، بدلًا من النظر إلى السياق المحتمل وراءه.
وهنا تظهر إحدى أصعب المشكلات أمام مطوري الذكاء الاصطناعي، وهي التمييز بين المحتوى الإبداعي المشروع وبين الطلب الذي يمكن أن يخفي وراءه أزمة حقيقية.
الذكاء الاصطناعي لا يستطيع فهم كل السياقات
وقالت سارة شفيتمان، المؤسسة المشاركة في “ترانسلوس”، إن النماذج لا تتمتع دائمًا بالقدرة الكافية على اكتشاف هذا النوع من السلوك، رغم أنها قد تقدم المساعدة المناسبة في بعض الحالات.
وتوضح هذه النقطة أن التعامل مع الأزمات النفسية لا يعتمد فقط على الكلمات المستخدمة في المحادثة.
فقد يكون السياق وطريقة طرح السؤال وتسلسل الرسائل عوامل مهمة لفهم ما إذا كان المستخدم يتحدث عن عمل أدبي.. أم يعبر بطريقة غير مباشرة عن مشكلة شخصية.
كما أن قدرة النموذج على تحليل اللغة لا تعني أنه يستطيع استبدال الإنسان في المواقف التي تحتاج إلى تدخل متخصص.
اختلاف في أداء النماذج الصينية
ولفت تقرير “ترانسلوس” أيضًا إلى وجود اختلافات في أداء النماذج بحسب مصدر تطويرها.
ووفق النتائج المنشورة، سجلت النماذج الصينية أداءً أضعف بشكل عام في الاختبارات، مع معدلات أعلى في تعزيز التفكير الوهمي، كما أنها كانت أقل ميلًا في عدد من الحالات إلى توجيه المستخدمين للحصول على دعم بشري.
وتسلط هذه النتائج الضوء على أهمية وضع معايير واضحة لاختبار نماذج الذكاء الاصطناعي.. صوصًا عندما يتعلق الأمر بالصحة النفسية والمحادثات عالية الحساسية.
دعاوى قضائية تزيد الضغوط على شركات الذكاء الاصطناعي
تأتي هذه النتائج في ظل ضغوط قانونية متزايدة تواجه قطاع الذكاء الاصطناعي.
وتواجه شركات تقنية كبرى، من بينها غوغل وأوبن إيه آي، دعاوى قضائية من عائلات تقول إن روبوتات الدردشة التابعة للشركتين لعبت دورًا في تشجيع أقارب لهم على إيذاء أنفسهم.. قبل أن يتوفى هؤلاء الأشخاص لاحقًا بالانتحار.
وتنفي الشركتان هذه الاتهامات.
لكن هذه القضايا ساهمت في زيادة النقاش حول المسؤولية القانونية والأخلاقية لشركات الذكاء الاصطناعي.. خصوصًا مع اتساع نطاق استخدام روبوتات الدردشة في الحياة اليومية.
اتجاه نحو تنظيم روبوتات الدردشة
ومع تزايد المخاوف بشأن تأثير الذكاء الاصطناعي على الصحة النفسية، يتجه النقاش في الولايات المتحدة إلى وضع أطر تنظيمية أكثر وضوحًا للتعامل مع روبوتات الدردشة.
وتتعلق إحدى القضايا الرئيسية بكيفية ضمان وجود أنظمة حماية فعالة عندما تظهر مؤشرات على تعرض المستخدم لأزمة.. مع الحفاظ في الوقت نفسه على قدرة النماذج على التعامل مع الاستخدامات الطبيعية والإبداعية.
ويحتاج هذا التوازن إلى تطوير تقنيات قادرة على فهم السياق بدلًا من الاعتماد على كلمات محددة فقط.
شركات التكنولوجيا تواصل تطوير أنظمة الحماية
من جانبها، أكدت ميغان جونز بيل من غوغل استمرار الشركة في العمل على تحسين دور Gemini في مجال رفاهية المستخدم.
ويشير ذلك إلى أن تطوير روبوتات الدردشة لم يعد مرتبطًا فقط بزيادة دقة الإجابات أو سرعة الاستجابة.. بل أصبح يشمل أيضًا القدرة على التعامل مع المواقف الحساسة بطريقة أكثر مسؤولية.
وبشكل عام، تظهر الدراسة أن روبوتات الدردشة حققت تقدمًا في التعامل مع المحادثات التي تتضمن أزمات واضحة.. لكنها لم تصل بعد إلى مرحلة يمكن فيها الاعتماد عليها باعتبارها بديلًا عن الدعم البشري أو المتخصص.
وتظل القدرة على اكتشاف الإشارات غير المباشرة، وفهم السياق الكامل للمحادثة، والتعامل مع الطلبات التي تأتي في صورة قصص أو أدوار خيالية، من أبرز التحديات التي تواجه مطوري الذكاء الاصطناعي خلال الفترة المقبلة.
وتؤكد نتائج الدراسة في النهاية أن تحسين أنظمة الأمان داخل روبوتات الدردشة أصبح ضرورة متزايدة.. خاصة مع انتقال هذه الأدوات من كونها منصات للإجابة عن الأسئلة إلى أنظمة يدخل معها المستخدمون في محادثات شخصية وعاطفية أكثر تعقيدًا.
