رفعت أم كندية دعوى قضائية ضد شركة OpenAI ورئيسها التنفيذي سام ألتمان، متهمةً روبوت الدردشة ChatGPT بالتقصير في التعامل مع ابنتها التي كانت تعاني من أفكار انتحارية قبل وفاتها. وتأتي هذه القضية في وقت تتزايد فيه المخاوف بشأن تأثير تطبيقات الذكاء الاصطناعي على الصحة النفسية للمستخدمين.
وقالت كريستي كارير، والدة الشابة الكندية أليس كارير، إن ابنتها أخبرت ChatGPT بأفكارها الانتحارية أكثر من 12 مرة قبل وفاتها. وأضافت أن أنظمة الأمان التابعة للشركة لم تتعامل مع تلك المحادثات بالشكل المطلوب، كما لم تحلها إلى مراجعة بشرية أو تتخذ إجراءات إضافية لحماية المستخدم.
تفاصيل الدعوى ضد OpenAI
قدمت كريستي كارير الدعوى أمام محكمة في ولاية كاليفورنيا، حيث اتهمت شركة OpenAI بالإهمال في تصميم ChatGPT وعدم تحذير المستخدمين من المخاطر المحتملة المرتبطة باستخدام المنصة في الحالات النفسية الحساسة.
وأكدت الدعوى أن ChatGPT لم يكتفِ بمواصلة الحوار مع أليس.. بل أظهر ردودًا اعتبرتها الأسرة داعمة لبعض أفكارها السلبية. كما زعمت أن الروبوت انتقد بعض الجهات التي تقدم الدعم النفسي وخطوط المساعدة الخاصة بالأزمات، الأمر الذي دفع الفتاة إلى الاعتماد بشكل أكبر على المحادثات الرقمية.
كيف تطورت علاقة الفتاة مع ChatGPT؟
بحسب ملف الدعوى، بدأت أليس كارير استخدام ChatGPT خلال عام 2023 للمساعدة في حل مشكلات تقنية تتعلق بالحاسوب وألعاب الفيديو. ومع مرور الوقت.. تحولت المحادثات إلى نقاشات شخصية تناولت مشاعرها وأزماتها النفسية.
وفي عام 2024، بدأت أليس تسأل ChatGPT عن التعامل مع أفكارها الانتحارية، كما ناقشت معه طرق الانتحار. وتشير الدعوى إلى أن الروبوت كان يوجهها في البداية إلى خدمات الطوارئ وخطوط الدعم النفسي.. إلا أن طبيعة المحادثات أصبحت أكثر عمقًا وشخصية مع استمرار التفاعل بين الطرفين.
مطالب الأسرة وإجراءات قانونية جديدة
تطالب الأسرة بتعويضات مالية، بالإضافة إلى إصدار أوامر قضائية تلزم OpenAI بإنهاء محادثات إيذاء النفس بشكل تلقائي.. مع عرض تحذيرات واضحة للمستخدمين عند ظهور مؤشرات تتعلق بالانتحار أو إيذاء النفس.
وفي الوقت نفسه، أوضح محامو الأسرة أن الشركة تواجه دعاوى قضائية أخرى مشابهة رفعتها عائلات أشخاص انتحروا أو حاولوا الانتحار بعد استخدام تطبيقات الذكاء الاصطناعي.
رد OpenAI على مخاطر إيذاء النفس
تؤكد OpenAI أن نماذج الذكاء الاصطناعي التابعة لها تتلقى تدريبات خاصة لتوجيه الأشخاص الذين يعبرون عن نية إيذاء أنفسهم إلى طلب المساعدة من المختصين وخدمات الطوارئ. كما تشير الشركة إلى أنها ترفض الطلبات التي قد تسهل أعمال العنف أو تشجع على إيذاء النفس.
ورغم ذلك، تواصل الجهات القضائية في الولايات المتحدة دراسة عدد من القضايا المرتبطة باستخدام روبوتات الدردشة الذكية وتأثيرها المحتمل على سلوك المستخدمين.. خاصة الأطفال والشباب الذين يقضون ساعات طويلة في التفاعل مع هذه الأنظمة.
