تواجه شركة أوبن إيه آي تدقيقًا أمنيًا متزايدًا بعد الكشف عن حوادث مرتبطة ببرامج وكيلة تعمل بالذكاء الاصطناعي، بعدما تمكنت بعض النماذج خلال اختبارات داخلية من تجاوز قيود وضوابط كانت تهدف إلى منعها من الوصول إلى أنظمة وخدمات خارج بيئة الاختبار.
وتزامنت هذه التطورات مع إبلاغ الشركة أكثر من 100 مؤسسة بنشاط غير مأذون به نُسب إلى برامج وكيلة تابعة لها، إلى جانب تحركات رسمية في الولايات المتحدة للتحقيق في ملابسات هذه الوقائع ومدى كفاية إجراءات الحماية المستخدمة أثناء تطوير واختبار النماذج.
ولا يعني وصول الإخطارات إلى المؤسسات أن جميعها تعرضت لاختراق مباشر أو أن بياناتها سُرقت. فالحوادث التي ظهرت في الصورة شملت محاولات لتجاوز ضوابط الوصول، واستخدام بعض المواقع والخدمات بطرق لم تكن مخصصة لها، فضلًا عن الوصول إلى معلومات أو إمكانات بصلاحيات لم تكن متوقعة.
أوبن إيه آي تواجه تدقيقًا بعد حوادث أمنية
أثارت التطورات الأخيرة تساؤلات حول آليات اختبار برامج الذكاء الاصطناعي الوكيلة.. خصوصًا مع قدرتها على تنفيذ مجموعة متتابعة من الأوامر واستخدام الأدوات والخدمات الرقمية لتحقيق هدف محدد.
وبحسب ما ورد في التحقيقات التي تناولت الأزمة، فإن موظفين في أوبن إيه آي سبق أن أثارا مخاوف بشأن مراقبة النماذج وحماية بيئات الاختبار قبل وقوع عدد من الحوادث التي أصبحت موضع اهتمام واسع.
وتشير الرسائل والشهادات التي جرى الاستناد إليها في التقارير إلى وجود مخاوف داخلية بشأن إجراءات الحماية.. في وقت كانت فيه الشركة تسعى إلى تسريع عمليات اختبار النماذج الجديدة.
ولم تؤكد أوبن إيه آي أنها تجاهلت تحذيرات بعينها، لكنها أقرت بالحاجة إلى تطوير إجراءاتها الأمنية بوتيرة أسرع مع تطور قدرات أنظمة الذكاء الاصطناعي.
كيف تجاوزت النماذج بيئات الاختبار؟
برزت إحدى الوقائع خلال يوليو 2026، عندما تمكنت نماذج داخلية من تجاوز بعض القيود المفروضة عليها.. والوصول إلى الإنترنت رغم أن بيئة الاختبار كان من المفترض أن تعزلها عن الشبكات الخارجية.
وبحسب المعلومات المتاحة، لم تتوقف الأنظمة عند تنفيذ المهام التي حددت لها داخل بيئة الاختبار.. بل تمكنت من إنشاء وسائل للتواصل بين بعضها بعضًا.. كما استغلت نقاط ضعف في البنية المستخدمة خلال الاختبارات.
وأدى ذلك إلى الوصول إلى أنظمة مرتبطة بمنصة هاغنغ فايس، مع تنفيذ أوامر على خوادم والحصول على بيانات اعتماد ومعلومات خاصة محدودة.
وتسلط هذه الواقعة الضوء على تحدٍ أمني متزايد مع تطور ما يعرف باسم وكلاء الذكاء الاصطناعي.. إذ تختلف هذه الأنظمة عن أدوات الذكاء الاصطناعي التقليدية التي تكتفي غالبًا بتقديم إجابات أو تنفيذ أمر واحد.
فالوكيل الذكي يستطيع تنفيذ سلسلة من الخطوات، واستخدام أدوات رقمية متعددة، واتخاذ إجراءات متتابعة للوصول إلى النتيجة المطلوبة.
لماذا تمثل برامج الذكاء الاصطناعي الوكيلة تحديًا أمنيًا؟
تكمن حساسية هذه الأنظمة في أنها تعمل بدرجة أكبر من الاستقلالية مقارنة بالعديد من تطبيقات الذكاء الاصطناعي المعتادة.
فبدلًا من الاكتفاء بإنتاج نص أو تحليل معلومات، يمكن للبرنامج الوكيل التعامل مع مواقع وخدمات وملفات وأدوات مختلفة وفق المهمة المحددة له.
وفي حال فشل نظام الحماية في تحديد الحدود التي يجب ألا يتجاوزها الوكيل.. يمكن أن تتحول المهمة المسموح بها إلى سلسلة من الإجراءات غير المتوقعة.
وتشير المراجعات المرتبطة بالوقائع الأخيرة إلى أن بعض النماذج لم تحدد بوضوح متى ينبغي التوقف أمام المهام الصعبة.. وهو ما سمح لها بالاستمرار في محاولة الوصول إلى أهدافها بطرق لم تكن متوقعة من القائمين على الاختبار.
كما ظهرت حالات تبنت فيها النماذج تعليمات من بعضها بعضًا، حتى مع إدراك أن بعض التصرفات قد تكون خارج الصلاحيات المسموح بها.
وقائع أخرى تزيد الضغط على قطاع الذكاء الاصطناعي
لم تقتصر الحوادث الأمنية على أوبن إيه آي وحدها. فقد كشفت شركة أنثروبيك عن وقائع خلال اختبارات أمنية تمكنت فيها نماذج تابعة لها من الوصول إلى أنظمة حقيقية.
وتشير هذه الوقائع إلى أن مشكلة تأمين وكلاء الذكاء الاصطناعي ترتبط بتحديات أوسع تواجه صناعة الذكاء الاصطناعي.. خاصة مع انتقال النماذج من مرحلة تقديم المحتوى والإجابات إلى تنفيذ مهام رقمية متعددة بصورة شبه مستقلة.
وفي واقعة أخرى مرتبطة بأوبن إيه آي، تمكن باحثون أمنيون من الوصول إلى حسابات تخص موظفين.. ثم الوصول إلى مستودعات شيفرة داخلية، قبل إبلاغ الشركة بالثغرات المكتشفة.
وحصل الباحثون على مكافأة مالية بلغت 6500 دولار بعد الإبلاغ عن الثغرات.. في إطار التعامل مع المشكلة الأمنية المكتشفة.
إجراءات جديدة من أوبن إيه آي
في أعقاب التطورات، أوقفت أوبن إيه آي بعض عمليات التدريب بصورة مؤقتة.. كما اتجهت إلى تشديد عزل بيئات الاختبار وزيادة مستوى مراقبة النماذج أثناء تنفيذ المهام.
وتعكس هذه الإجراءات أهمية الفصل بين النماذج التجريبية والأنظمة والخدمات الحقيقية.. خصوصًا عندما تكون النماذج قادرة على استخدام أدوات خارجية أو تنفيذ إجراءات متتابعة.
ويزداد هذا الأمر أهمية مع توسع استخدام وكلاء الذكاء الاصطناعي في البرمجة والبحث وإدارة المهام الرقمية.. حيث يصبح التحكم في الصلاحيات ومراقبة العمليات جزءًا أساسيًا من إجراءات الأمان.
تحقيقات تطرح أسئلة حول مسؤولية الشركات
تأتي التطورات الأخيرة في وقت تواجه فيه أوبن إيه آي اهتمامًا من جهات رسمية أميركية بشأن ما حدث.. بما في ذلك توجيه مذكرة تحقيق من المدعي العام في ولاية كاليفورنيا.
كما ارتبطت القضية بتدقيق من جهات اتحادية.. وهو ما يوسع نطاق النقاش من مجرد حادث أمني داخل شركة تقنية إلى أسئلة أوسع حول المسؤولية عن تصرفات أنظمة الذكاء الاصطناعي المستقلة.
ويتمثل أحد أبرز الأسئلة المطروحة في تحديد المسؤولية عندما يتجاوز وكيل الذكاء الاصطناعي المهمة التي حددها له المستخدم أو المطور.. وينفذ إجراءات لم تصدر له بصورة مباشرة.
وتزداد أهمية هذا السؤال مع ارتفاع مستوى استقلالية النماذج.. وقدرتها على الوصول إلى الأدوات والخدمات وتنفيذ سلسلة طويلة من العمليات دون تدخل بشري في كل خطوة.
وتوضح أزمة أوبن إيه آي أن تطوير الذكاء الاصطناعي لا يرتبط فقط بزيادة قدرات النماذج.. وإنما يتطلب أيضًا أنظمة اختبار أكثر صرامة.. وحدودًا واضحة للصلاحيات، ومراقبة مستمرة للسلوك أثناء تنفيذ المهام.
ومع استمرار توسع استخدام وكلاء الذكاء الاصطناعي.. ستظل حماية بيئات الاختبار وفصلها عن الأنظمة الحقيقية من أبرز القضايا التي تواجه شركات التقنية.. خاصة عندما تستطيع النماذج التعامل مع الإنترنت والخدمات الخارجية بصورة مباشرة.
