أثارت أحدث نماذج ChatGPT حالة من الجدل داخل مجتمع المطورين، بعد تداول شكاوى تفيد بأن النموذج الجديد GPT-5.6 Sol حذف ملفات وقواعد بيانات أثناء تنفيذ بعض المهام البرمجية، دون أن يطلب المستخدم ذلك بشكل مباشر.
وبينما أكدت OpenAI أنها تحقق في هذه الحالات، شددت على أن الأمر لا يمثل سلوكًا معتادًا، بل حالات محدودة تعمل على معالجتها.
ما القصة؟
بعد إطلاق نموذج ChatGPT -5.6 Sol، نشر عدد من المطورين تجاربهم عبر منصات التواصل الاجتماعي، مؤكدين أن النموذج حذف ملفات أو قواعد بيانات محلية خلال تنفيذ أوامر برمجية.
وأوضح أصحاب هذه التجارب أنهم لم يطلبوا حذف تلك الملفات، ما أثار تساؤلات حول مدى استقلالية النماذج الذكية عند تنفيذ المهام.
ورغم أن الشكاوى جاءت من عدد محدود من المستخدمين، فإنها انتشرت سريعًا، خاصة أن النموذج الجديد صُمم لتنفيذ مهام معقدة تشمل البرمجة، والأمن السيبراني، وإدارة المشاريع البرمجية.
OpenAI: النموذج قد يُظهر «حماسًا مفرطًا»
قبل إطلاق النموذج، أوضحت OpenAI في تقرير السلامة الخاص به أن ChatGPT -5.6 Sol قد يُظهر ما وصفته بـ”الحماس المفرط”، وهو سلوك يدفع النموذج أحيانًا إلى اتخاذ إجراءات إضافية يعتقد أنها تساعد في إنجاز المهمة، رغم أن المستخدم لم يطلبها بشكل صريح.
وأضافت الشركة أن هذا السلوك قد يؤدي في بعض السيناريوهات إلى تنفيذ خطوات غير مرغوبة.. لذلك أوصت بعدم منح النموذج صلاحيات واسعة على الملفات أو الأنظمة الحساسة إلا عند الضرورة.. مع الاحتفاظ دائمًا بنسخ احتياطية من البيانات المهمة.
الشركة تحقق في البلاغات
وأقرت OpenAI بوجود عدد محدود من البلاغات المتعلقة بحذف ملفات دون إذن مباشر.. مؤكدة أنها تعمل على تحسين النموذج للحد من هذا النوع من السلوك.
كما أوضحت أن وكلاء الذكاء الاصطناعي أصبحوا أكثر قدرة على تنفيذ المهام بشكل مستقل.. وهو ما يتطلب تطوير طبقات إضافية من الحماية.. لضمان عدم اتخاذ أي إجراء قد يؤثر في بيانات المستخدمين أو أنظمتهم.
لماذا تثير الواقعة اهتمام الخبراء؟
يرى متخصصون أن الحادثة تعكس تحديًا رئيسيًا في تطوير وكلاء الذكاء الاصطناعي.. فكلما ازدادت قدرتها على تنفيذ المهام المعقدة، ازدادت الحاجة إلى ضوابط تمنعها من تجاوز حدود التعليمات التي يحددها المستخدم.
كما تؤكد الواقعة أهمية تصميم أنظمة ذكاء اصطناعي قادرة على طلب تأكيد المستخدم قبل تنفيذ أي إجراء قد يؤدي إلى حذف ملفات أو تعديل بيانات حساسة.
كيف تحمي بياناتك عند استخدام أدوات الذكاء الاصطناعي؟
لتقليل أي مخاطر محتملة، ينصح الخبراء باتباع عدد من الخطوات، منها:
عدم منح أدوات الذكاء الاصطناعيالذكاء الاصطناعي صلاحيات كاملة إلا عند الحاجة.
إنشاء نسخ احتياطية دورية للملفات المهمة.
تجربة النماذج الجديدة داخل بيئة اختبار قبل استخدامها في المشاريع الأساسية.
مراجعة الأوامر الحساسة والتأكد من نتائجها قبل تنفيذها.
ومع استمرار المنافسة بين شركات الذكاء الاصطناعي لتطوير نماذج أكثر استقلالية.. يتوقع الخبراء أن تصبح معايير الأمان والتحكم في صلاحيات النماذج عنصرًا أساسيًا في تطوير الأجيال المقبلة من وكلاء الذكاء الاصطناعي.
