أفادت دراسة جديدة بأن نماذج الذكاء الاصطناعي ChatGPT وGemini تظهر استجابات متحيزة بشكل أكبر مقارنة بنماذج أخرى. أجرت الدراسة مجموعة من الباحثين في جامعة ولاية بنسلفانيا.. وركزت على اختبار ثمانية نماذج مختلفة للكشف عن التحيز الاجتماعي.. بما في ذلك Llama 2 و3، Qwen وQwen 2، Gemma وGemma 2، Gemini 1.5 Flash، وGPT-4o-mini.
وقد أظهرت النتائج أن ChatGPT وGemini هما الأكثر عرضة لتوليد استجابات تحمل صورًا نمطية أو تحيزًا في مواضيع متعددة.. رغم أن النموذجين لم يعودا الأحدث في الوقت الحالي، حيث يعمل ChatGPT حاليًا بعائلة GPT-5 وGemini بعائلة Gemini 2.5.
منهجية الدراسة وفعالية Bias-a-Thon
نظّم الباحثون فعالية تحت اسم “Bias-a-Thon” شارك فيها 52 فردًا، طُلب منهم تصميم حوافز أو مطالبات يمكنها كشف التحيز في نماذج الذكاء الاصطناعي. كما طلب الباحثون من المشاركين تقديم تفسيرات حول طبيعة التحيز أو الصور النمطية التي لاحظوها.
استخدم المشاركون سبع استراتيجيات مختلفة، منها تمثيل الأدوار.. السيناريوهات الافتراضية، الأسئلة التوجيهية، استكشاف التحيز في الفئات غير الممثلة، وإعطاء معلومات مضللة للنموذج، بهدف قياس قابلية النماذج لتوليد استجابات متحيزة.
أنواع التحيزات المكتشفة
أظهرت الدراسة أن التحيزات تتنوع بين التحيز الجنسي.. العرقي، الديني، العمري، الإعاقة، اللغوي، التاريخي، الثقافي والسياسي. هذه النتائج تشير إلى الحاجة إلى تحسين معايير الأمان ومراجعة آليات تدريب الذكاء الاصطناعي لضمان استجابات أكثر عدالة وحيادية.
أهمية النتائج ومستقبل النماذج
تسلط الدراسة الضوء على أن حتى النماذج الأكثر شهرة مثل ChatGPT وGemini يمكن أن تُظهر انحيازًا غير مقصود.. ما يستدعي تطوير معايير أمان أقوى، تقييم مستمر للبيانات.. ومراجعة دورية للاستجابات. يُظهر البحث أيضًا أن التحيز في الذكاء الاصطناعي ليس أمرًا بعيد المنال، ويؤكد ضرورة مشاركة الباحثين والمطورين في تحسين آليات عمل النماذج.
