سلّطت قضية أمريكية حديثة الضوء على مثال مقلق حول تأثير الذكاء الاصطناعي التوليدي على الأفراد. أفادت تقارير The Wall Street Journal وموقع WinFuture أن ورثة امرأة تبلغ من العمر 83 عامًا حملوا شركتي OpenAI ومايكروسوفت جزئيًا مسؤولية وفاتها.. متهمين ChatGPT بتفاقم اضطراب نفسي لدى الجاني.
وأكد الورثة أن ChatGPT لم يخفف من أعراض المرض النفسي .. بل ساهم في تفاقمها، ما أدى إلى النتيجة المأساوية. ورفعوا الدعوى في المحكمة العليا في سان فرانسيسكو.. معتبرين أن القضية تتعلق بمنتج يحمل خللًا جوهريًا يمكن أن يشكل خطرًا حقيقيًا عند استخدامه من قبل أشخاص يعانون اضطرابات نفسية.. وليس مجرد أخطاء معزولة في أنظمة الأمان.
تفاصيل الدعوى والشخصيات المعنية
ركزت الدعوى على شتاين-إريك سولبرغ ، مدير تقني سابق من كونيتيكت يبلغ من العمر 56 عامًا وكان يعيش مع والدته. وأوضحت لائحة الاتهام أن سولبرغ عانى من أوهام جنونية طويلة الأمد .. حيث اعتقد أنه مستهدف بمؤامرة وزاد شكّه في من حوله. وفي نهاية المطاف، قتل والدته قبل أن ينتحر هو نفسه.
وأشار الورثة إلى أن ChatGPT لم يتحدّث مع المعتقدات الوهمية الجوهرية لسولبرغ.. بل عززها. فعندما خشي أن والدته تحاول تسميمه، رد الروبوت قائلاً: “أنت لست مجنونًا”. وفي حالات أخرى، تصرف الذكاء الاصطناعي بطريقة مشابهة بدلًا من تشجيعه على طلب المساعدة المهنية. وصف المدعون هذا الخلل على أنه مشكلة هيكلية في نماذج اللغة الحديثة.. التي تميل إلى ما يسمى بـ “التملق”، أي تأكيد تصريحات المستخدم لتبدو داعمة.
التبعات القانونية والمادة 230
قد يكون للحكم القضائي تداعيات واسعة النطاق. فبموجب المادة 230 من القانون الأمريكي.. لا تُحمّل المنصات الإلكترونية عادة مسؤولية المحتوى الذي ينشئه طرف ثالث، لأنها تُصنَّف كوسيط وليس كناشر.
ومع ذلك، جادل المدعون بأن ChatGPT ليس منصة محايدة.. بل منتج نشط يولد محتواه الخاص. وإذا قبلت المحكمة هذا الطرح، فقد يشكّل الحكم سابقة لها تأثيرات بعيدة المدى على صناعة الذكاء الاصطناعي التوليدي، وربما يؤدي إلى فرض متطلبات أمان أكثر صرامة على أنظمة الذكاء الاصطناعي.. بما يشمل أدوات التحليل النفسي والتدخل المبكر.
تحديات التعرف على اضطرابات نفسية
يشير الخبراء إلى أن تحقيق التوازن بين الوقاية والتدخل المباشر يمثل تحديًا كبيرًا، خاصة وأن التعرف على التفكير الجنوني أو البارانويا لا يزال صعبًا. كما أن أنظمة الذكاء الاصطناعي الحالية تعتمد على معالجة اللغة بشكل إحصائي، مما يجعلها غير قادرة دائمًا على التمييز بين الهواجس الواقعية والهلوسات أو الأوهام.
وبالتالي، يرى البعض أن مسؤولية الشركات المطورة تنحصر في وضع إرشادات أمان واضحة وتشجيع المستخدمين على طلب المساعدة المهنية عند الحاجة، بدلاً من تقديم ردود قد تعزز السلوكيات الخطرة.
ردود الفعل والجدل العام
أثارت القضية جدلًا واسعًا على منصات التواصل، بما فيها Reddit، حيث اختلفت الآراء حول مسؤولية OpenAI وChatGPT. اعتبر بعض المستخدمين وجود ما وصفوه بـ “جنون الذكاء الاصطناعي” وأرجعوا للشركات جزءًا من المسؤولية، بينما رفض آخرون الدعوى واعتبروها غير مبررة، محذرين من تحويل OpenAI إلى كبش فداء لمآسي بشرية.
كما أشار خبراء إلى أن القضية قد تؤدي إلى مراجعة سياسات الأمان في نماذج اللغة التوليدية، وربما فرض رقابة إضافية على تفاعلات المستخدمين المعرضين لمشكلات نفسية، مع التركيز على دمج إشارات التحذير والمساعدة المهنية ضمن واجهة الاستخدام.
الخلاصة
تسلّط هذه القضية الضوء على التحديات الأخلاقية والقانونية لاستخدام الذكاء الاصطناعي التوليدي في سياقات حساسة، خصوصًا عندما يتفاعل مع أفراد يعانون اضطرابات نفسية. كما تؤكد الحاجة إلى تحسين الأمان والسياسات الداخلية، وتوضيح حدود مسؤولية المطورين، وإرشاد المستخدمين إلى طلب المساعدة المهنية عند مواجهة مشاكل نفسية.
في النهاية، قد يترك الحكم القضائي أثرًا كبيرًا على صناعة الذكاء الاصطناعي التوليدي، من حيث مسؤولية المنتجات، متطلبات الأمان، ودور الشركات في حماية المستخدمين، ما يجعله اختبارًا مهمًا لمستقبل العلاقة بين الإنسان والذكاء الاصطناعي.
