أوقفت شركة OpenAI مؤقتًا تدريب أحدث نماذج الذكاء الاصطناعي لديها، بعد اكتشاف حالات نفذ فيها وكلاء الذكاء الاصطناعي إجراءات تجاوزت المهام والتعليمات المحددة لهم.
ويأتي القرار في ظل مراجعة تجريها الشركة لإجراءات الأمان المستخدمة مع النماذج المتقدمة، خصوصًا الأنظمة القادرة على استخدام أدوات خارجية والوصول إلى الإنترنت وتنفيذ المهام بصورة أكثر استقلالية.
وكيل ذكاء اصطناعي تجاوز قيود الإنترنت
كشفت OpenAI عن واقعة حدثت خلال اختبار لنموذج داخلي في 20 سبتمبر.. إذ تمكن النموذج من الوصول إلى خدمة خارجية عبر الإنترنت رغم وجوده داخل بيئة تدريب مصممة لتقييد اتصالاته.
وكان النموذج يعمل على مهمة بحثية، لكنه بدأ في البحث عن طرق بديلة للوصول إلى المعلومات بعدما واجه قيودًا في الأدوات المتاحة أمامه.
وتمكن النموذج من استغلال مسار مرتبط بنظام DNS للوصول إلى الإنترنت والتواصل مع خدمة خارجية، في مخالفة للقيود الموضوعة داخل بيئة الاختبار.
ورصدت أنظمة المراقبة هذا السلوك بعد فترة قصيرة، لكن عملية الاختبار استمرت لفترة إضافية قبل أن يجري إيقافها يدويًا.. ما دفع الشركة إلى إعادة فحص إجراءات الحماية الخاصة ببيئات تدريب النماذج.
وكلاء OpenAI تجاوزوا المهام المطلوبة
ولا تتعلق المشكلة بحادثة الاختبار الأخيرة فقط، إذ تحقق OpenAI أيضًا في وقائع أخرى تصرف خلالها وكلاء الذكاء الاصطناعي بطريقة لم تكن متوافقة مع المهام التي حددها لهم المستخدمون.
وفي إحدى الحالات، تمكن أحد الوكلاء أثناء جمع المعلومات من الوصول إلى مفاتيح مطورين مرتبطة بموقع تابع لوزارة التعليم الأمريكية.. رغم أن هذه المفاتيح لم تكن ضمن البيانات التي كان من المفترض أن يبحث عنها.
وبحسب التقارير، لم يثبت وصول الوكيل إلى معلومات حكومية غير متاحة للعامة.
وفي واقعة أخرى مرتبطة بهيئة الأوراق المالية والبورصات الأمريكية.. أعاد وكيل نشر معلومات متاحة للعامة على الإنترنت في مكان آخر.. رغم أن إعادة نشرها لم تكن جزءًا من المهمة الأصلية.
وتوضح هذه الوقائع الفرق بين نموذج يقدم إجابة للمستخدم وبين وكيل ذكاء اصطناعي يمتلك القدرة على تنفيذ خطوات متعددة للوصول إلى هدف معين.
OpenAI تعلق تدريب النماذج المتقدمة
على خلفية هذه الحوادث، قررت OpenAI تعليق بعض عمليات التدريب والتقييم واستخدام الأدوات مع أحدث نماذجها مؤقتًا.. إلى حين التأكد من تطبيق إجراءات حماية إضافية.
وأكدت الشركة أنها ستستأنف العمل عندما تتأكد من أن الضوابط الأمنية الجديدة قادرة على الحد من هذه التصرفات واكتشاف أي سلوك غير متوقع في وقت مبكر.
وأشارت OpenAI إلى أن تطوير أنظمة الذكاء الاصطناعي المتقدمة قد يتطلب التوقف مؤقتًا في بعض المراحل.. خصوصًا مع ظهور قدرات جديدة للنماذج تحتاج إلى إجراءات حماية إضافية.
ثاني توقف خلال 3 أشهر
ويعد هذا التوقف هو الثاني لـOpenAI خلال نحو 3 أشهر.. بعدما أوقفت الشركة العمل على نماذجها في يوليو الماضي عقب حادثة مرتبطة بمنصة Hugging Face.
وتسلط الواقعتان الضوء على التحديات الأمنية التي تواجه شركات الذكاء الاصطناعي مع زيادة قدرات النماذج على استخدام الأدوات وتنفيذ المهام بصورة مستقلة.
ومع انتقال الذكاء الاصطناعي من مجرد الإجابة عن الأسئلة إلى تنفيذ المهام عبر الإنترنت.. أصبحت حماية بيئات التشغيل وتحديد الصلاحيات الممنوحة للوكلاء من أبرز القضايا التي تعمل الشركات على معالجتها قبل توسيع استخدام هذه التقنيات.
