أثار ChatGPT موجة واسعة من الجدل في مجتمع المطورين، بعد تداول تقارير تفيد بأن نموذج GPT-5.6 تسبب في حذف ملفات وقواعد بيانات حساسة أثناء تنفيذ مهام برمجية.
وأعادت هذه الحوادث النقاش حول مخاطر منح نماذج الذكاء الاصطناعي صلاحيات واسعة للعمل على أجهزة المستخدمين، خاصة مع الانتشار المتزايد لما يعرف بوكلاء الذكاء الاصطناعي القادرين على تنفيذ الأوامر بصورة مستقلة.
وتزايدت المخاوف بعدما أكد عدد من المطورين أن النموذج حذف بيانات مهمة خلال تنفيذ أوامر برمجية، وهو ما دفع الكثيرين إلى المطالبة بفرض قيود أكبر على استخدام النماذج التي تمتلك صلاحيات مباشرة للوصول إلى الملفات وقواعد البيانات.
لماذا يواجه ChatGPT انتقادات بسبب GPT-5.6؟
بدأت الأزمة عندما نشر عدد من المطورين تجاربهم مع نموذج GPT-5.6، موضحين أن النموذج حذف ملفات أو قواعد بيانات دون قصد أثناء تنفيذ مهام برمجية.
وتعد هذه الحوادث من أبرز التحديات التي تواجه أنظمة الذكاء الاصطناعي الحديثة، خاصة تلك التي تعمل كوكلاء مستقلين يمكنهم تنفيذ الأوامر باستخدام أدوات النظام دون تدخل بشري مباشر.
ويرى خبراء التقنية أن منح أي نموذج ذكاء اصطناعي صلاحيات كاملة داخل بيئة العمل يزيد احتمالية وقوع أخطاء غير متوقعة، خصوصًا عند تنفيذ أوامر حساسة تتعلق بإدارة الملفات أو قواعد البيانات.
حذف قاعدة بيانات كاملة أثناء مهمة برمجية
وفقًا لما تداوله مطورون عبر منصات التواصل.. فقد تعرض أحد المطورين لحذف قاعدة بيانات الإنتاج بالكامل أثناء استخدام GPT-5.6 في تنفيذ مهمة برمجية.
وأشار إلى أن النموذج أجرى اختبارات بصورة خاطئة، وهو ما أدى إلى حذف جميع جداول قاعدة البيانات.. قبل أن يعترف داخل المحادثة بوقوع الخطأ ويقدم اعتذارًا عما حدث.
وأثارت الواقعة اهتمامًا واسعًا داخل مجتمع المطورين، خاصة أن قاعدة بيانات الإنتاج تحتوي عادة على البيانات الفعلية الخاصة بالمشروعات، وليس نسخة تجريبية يمكن استعادتها بسهولة.
حادثة أخرى تضاعف الجدل
لم تتوقف الانتقادات عند هذه الواقعة فقط، إذ تحدث مستخدم آخر عن تعرض معظم الملفات الموجودة على جهازه للحذف أثناء استخدام النموذج.
وأوضح أن النموذج نفذ أمرًا برمجيًا يعد من أخطر أوامر أنظمة Linux وmacOS.. لأنه يؤدي إلى حذف الملفات نهائيًا دون طلب تأكيد من المستخدم.
وأكد المستخدم أنه كان يعمل باستخدام وضع يمنح النموذج صلاحيات كاملة للوصول إلى الملفات.. الأمر الذي سمح بتنفيذ الأوامر مباشرة داخل النظام.
ما هو وضع “الوصول الكامل”؟
يوفر وضع Full Access Mode للنموذج إمكانية التعامل المباشر مع الملفات وقواعد البيانات والأدوات البرمجية دون الحاجة إلى موافقة المستخدم على كل خطوة.
ويهدف هذا الوضع إلى تسريع تنفيذ المهام البرمجية المعقدة.. لكنه في المقابل يزيد من المخاطر إذا اتخذ النموذج قرارًا غير صحيح أو أساء تفسير التعليمات.
ولهذا السبب ينصح كثير من خبراء الأمن السيبراني باستخدام الأوضاع المقيدة التي تطلب تأكيد المستخدم قبل تنفيذ العمليات الحساسة.. خاصة عمليات حذف الملفات أو تعديل قواعد البيانات.
لماذا تحدث مثل هذه الأخطاء؟
تعتمد نماذج الذكاء الاصطناعي الحديثة على تحليل التعليمات واتخاذ قرارات لتنفيذها.. لكنها قد تسيء أحيانًا فهم المطلوب أو تختار أسلوبًا غير مناسب لتحقيق الهدف.
وفي بيئات البرمجة، قد يؤدي هذا السلوك إلى تنفيذ أوامر تؤثر في البيانات الحقيقية إذا لم تكن هناك ضوابط تمنع العمليات الخطرة.
ويرى متخصصون أن هذه الحوادث تؤكد أهمية استخدام بيئات اختبار منفصلة عن بيئة الإنتاج.. حتى لا تتسبب الأخطاء في فقدان بيانات مهمة.
تحذيرات سابقة من OpenAI
كانت OpenAI قد أوضحت في الوثائق الفنية الخاصة بالنموذج ChatGPT أن استخدامه في البرمجة يتطلب إشرافًا بشريًا، خاصة عند منحه صلاحيات للتعامل مع الملفات أو قواعد البيانات.
كما أشارت إلى أن النموذج قد يتصرف أحيانًا بطريقة لا تتوافق مع هدف المستخدم.. وقد يبالغ في ثقته أو يعتقد أنه أنجز المهمة بالشكل الصحيح، رغم وجود أخطاء في التنفيذ.
وأكدت الشركة أن هذه الحالات تستدعي مراجعة جميع العمليات الحساسة وعدم الاعتماد على الذكاء الاصطناعي بصورة كاملة عند تنفيذ أوامر قد تؤثر في البيانات.
كيف يمكن تجنب فقدان الملفات في ChatGPT؟
يوصي خبراء التقنية بعدم تشغيل نماذج الذكاء الاصطناعي بصلاحيات كاملة إلا عند الضرورة.. مع تفعيل أنظمة النسخ الاحتياطي الدوري للملفات وقواعد البيانات.
كما ينصح باستخدام بيئات تجريبية لاختبار الأوامر البرمجية قبل تنفيذها على البيانات الفعلية.. بالإضافة إلى مراجعة جميع العمليات الحساسة يدويًا قبل الموافقة عليها.
وتساعد هذه الإجراءات في تقليل مخاطر فقدان البيانات.. حتى مع استمرار تطور أدوات الذكاء الاصطناعي وقدرتها على تنفيذ المهام بصورة أكثر استقلالية.
