الذكاء الاصطناعي تحت المجهر: تحذير أمريكي عاجل من مخرجات روبوتات الدردشة المضللة والخطيرة

أصدرت جهات قانونية أمريكية تحذيراً عاجلاً موجهاً لشركات التكنولوجيا الكبرى بسبب المخاطر المحتملة الناتجة عن مخرجات روبوتات الدردشة المضللة والخطيرة، مؤكدة على ضرورة تطبيق معايير سلامة صارمة لحماية المستخدمين.

يأتي هذا التحذير ضمن جهود متواصلة للحد من الأضرار الناتجة عن المعلومات غير الدقيقة أو المضللة التي قد تنتجها أنظمة الذكاء الاصطناعي، والتي يمكن أن تؤثر على ملايين المستخدمين يومياً.

الروبوتات التي يشملها التحذير

وجّه التحذير القانوني الأمريكي الانتباه إلى عدد من روبوتات الدردشة الشهيرة التي قد تنتج مخرجات مضللة أو خطيرة.

من بين هذه الروبوتات ChatGPT من OpenAI، Gemini من Google، Copilot من Microsoft، وMeta AI من Meta.

كما شمل التحذير نماذج من شركات ناشئة مثل Anthropic، xAI، Perplexity AI، Character.ai، وReplika.

وأشارت الجهات القانونية إلى أن بعض هذه الأنظمة قد تقدّم ردوداً غير دقيقة أو محفوفة بالمخاطر، وقد تم رصد حالات ارتبطت بمعلومات خاطئة أدّت إلى آثار سلبية على الصحة النفسية أو سلوكيات المستخدمين، بما في ذلك محاولات إيذاء النفس أو حوادث عنف، مما يعكس الحاجة الملحة لتطبيق معايير سلامة صارمة ومراجعات مستقلة لهذه الأنظمة.

المخاطر المحتملة لمخرجات روبوتات الدردشة

أشار التحذير إلى أن روبوتات الدردشة قد تقدم معلومات خاطئة أو مضللة تؤدي إلى سلوكيات خطيرة، بما في ذلك آثار على الصحة والسلامة العامة.

وقد تم رصد حالات خطيرة مرتبطة بتفاعل المستخدمين مع هذه الروبوتات، بما في ذلك معلومات قد تؤثر على الصحة النفسية أو القرارات الشخصية، مما دفع الجهات القانونية لإصدار التحذير وطلب اتخاذ إجراءات صارمة للحد من هذه المخاطر.

المطالب الرئيسية لتحسين السلامة

طالب المدعون العامون باتخاذ سلسلة من الإجراءات الأساسية لضمان سلامة مستخدمي الذكاء الاصطناعي، ومنها:

مراجعات وتدقيقات مستقلة على نماذج الذكاء الاصطناعي للتحقق من سلامة المخرجات.

الشفافية في مصادر البيانات المستخدمة لتدريب النماذج وتقليل التحيز والمعلومات الخاطئة.

حماية الفئات الضعيفة، خاصة الأطفال، من المحتوى الضار وتقديم تحذيرات واضحة عند التعرض لمعلومات خطيرة.

السماح للمراجعين المستقلين والسلطات المختصة بالوصول الكامل إلى الأنظمة لتحليل المخاطر والتأكد من الالتزام بمعايير السلامة.

السياق التنظيمي للذكاء الاصطناعي في الولايات المتحدة

يأتي هذا التحذير في ظل نقاشات مستمرة حول تنظيم الذكاء الاصطناعي على مستوى الولايات المتحدة.. حيث تسعى بعض الولايات لفرض معايير صارمة ومستقلة، في حين تعمل الإدارة الفيدرالية على وضع قواعد موحدة على المستوى الوطني.

ويشير الخبراء إلى أن هذه التحركات القانونية قد تؤثر على سرعة تطوير الشركات لنماذج الذكاء الاصطناعي.. وتحديداً روبوتات الدردشة التي تعتمد عليها ملايين المستخدمين حول العالم.

تأثير التحذير على قطاع الذكاء الاصطناعي

يعد هذا التحذير جزءاً من سلسلة الإجراءات القانونية والتنظيمية التي تهدف للحد من المخاطر المحتملة الناتجة عن استخدام الذكاء الاصطناعي في التعليم، الصحة، والخدمات المالية، حيث يمكن للمعلومات المضللة أن تؤدي إلى قرارات خاطئة أو مضرة للمستخدمين.

وتؤكد الجهات القانونية أن تطبيق معايير السلامة الصارمة يشكل خطوة مهمة لضمان استخدام الذكاء الاصطناعي بشكل آمن ومسؤول.