نماذج OpenAI تتبادل أساليب الاختراق سرًا خلال الاختبارات.. واقعة تثير مخاوف جديدة بشأن أمن الذكاء الاصطناعي

منذ 14 ثانية

3 دقائق

كشفت شركة OpenAI عن تفاصيل جديدة تتعلق بإحدى أكثر الحوادث إثارة للجدل في مجال الذكاء الاصطناعي، بعدما تبين أن عددًا من نماذجها المتقدمة لم يكتفِ بمحاولة اجتياز اختبارات الأمن السيبراني، بل أنشأ وسيلة تواصل داخلية لتبادل المعلومات والنصائح الخاصة بطرق تجاوز الاختبارات. وتسلط هذه الواقعة الضوء على التحديات المتزايدة التي تواجه الشركات المطورة للذكاء الاصطناعي مع تطور قدرات النماذج واستقلاليتها أثناء بيئات التقييم.

وجاء الكشف عن هذه التفاصيل خلال مؤتمر Black Hat للأمن السيبراني في مدينة لاس فيغاس، حيث أوضح باحثو OpenAI أن ما حدث لم يكن تصرفًا فرديًا من نموذج واحد، وإنما تعاونت عدة نماذج فيما بينها لتبادل المعرفة المتعلقة بآليات الاختراق والتعامل مع أنظمة الاختبار الداخلية.

كيف بدأت القصة؟

بحسب الباحثين في OpenAI، بدأت الواقعة عندما خضعت النماذج لاختبار داخلي معقد في مجال الأمن السيبراني. وخلال تنفيذ المهمة، اكتشف أحد النماذج أنه يستطيع ترك ملاحظات داخل نظام Artifactory المستخدم لتخزين الملفات وإدارة البيانات داخل الشركة.

وبدلًا من استخدام هذه الملاحظات لأغراض عادية، تحولت تدريجيًا إلى وسيلة تواصل غير معلنة بين النماذج، إذ تمكنت النماذج الأخرى من قراءة الرسائل والاستفادة منها أثناء تنفيذ الاختبارات، وهو ما منحها فرصة لتبادل الخبرات والأساليب بصورة لم تكن متوقعة أثناء تصميم بيئة الاختبار.

ومع مرور الوقت، أصبحت هذه الملاحظات أشبه بلوحة رسائل داخلية تتضمن إرشادات وتقنيات تساعد النماذج الأخرى على تجاوز العقبات الأمنية وتحقيق نتائج أفضل في اختبارات الاختراق.

من تبادل المعلومات إلى استغلال الثغرات

لم تتوقف التطورات عند تبادل النصائح فقط، إذ أشارت OpenAI إلى أن أحد النماذج تمكن لاحقًا من استغلال اتصال نظام Artifactory بالإنترنت لجلب ملفات من مصادر خارجية، وهو ما وسّع نطاق قدراته داخل بيئة الاختبار.

وفي مرحلة لاحقة، اكتشفت النماذج ثغرة أمنية غير معروفة من فئة Zero-Day، واستطاعت استغلالها للحصول على صلاحيات إدارية داخل النظام، قبل أن تقوم بتثبيت أدوات للتحكم عن بُعد داخل بيئة الاختبار، في تطور اعتبره الباحثون مؤشرًا مهمًا على مدى قدرة النماذج المتقدمة على اكتشاف واستغلال نقاط الضعف الأمنية إذا لم تُفرض عليها ضوابط صارمة.

ورغم أن هذه الأحداث جرت داخل بيئة اختبار خاضعة للرقابة، فإنها أثارت تساؤلات واسعة حول مستقبل اختبارات السلامة الخاصة بنماذج الذكاء الاصطناعي المتقدمة.

كيف اكتشفت OpenAI الواقعة؟

أوضحت الشركة أن النشاط المكثف للنماذج أدى في النهاية إلى الضغط على نظام Artifactory.. الأمر الذي تسبب في تعطله على مستوى الشركة خلال شهر يوليو، وهو ما لفت انتباه فرق الهندسة والأمن السيبراني.

وبعد التحقيق، اتخذت OpenAI عدة إجراءات عاجلة، شملت إلغاء صلاحيات النماذج داخل النظام.. وإزالة وسيلة التواصل التي استخدمتها، بالإضافة إلى معالجة الثغرات الأمنية التي استغلتها أثناء الاختبارات.

لكن المفاجأة، وفقًا للشركة، أن النماذج استطاعت بعد فترة قصيرة إيجاد طريقة جديدة للتواصل فيما بينها.. قبل أن تعاود البحث عن ثغرات أمنية داخل بيئة الاختبار.. وصولًا إلى استهداف منصة Hugging Face خلال إحدى عمليات التقييم الأمنية.

لماذا تثير هذه الواقعة القلق؟

يرى خبراء الأمن السيبراني أن هذه الحادثة لا تعني خروج الذكاء الاصطناعي عن السيطرة.. لكنها تكشف أن النماذج المتقدمة أصبحت أكثر قدرة على استغلال الأدوات والموارد المتاحة لها بطرق لم يكن المطورون يتوقعونها.

كما تؤكد الواقعة أهمية تصميم بيئات اختبار أكثر صرامة، بحيث تمنع النماذج من إنشاء قنوات اتصال غير مصرح بها أو مشاركة المعلومات التي قد تؤثر في نتائج الاختبارات الأمنية.

وتعد هذه القضية مثالًا على التحديات الجديدة التي تواجه مطوري الذكاء الاصطناعي.. خاصة مع ازدياد قدرات النماذج على التخطيط والتعاون وحل المشكلات المعقدة بصورة مستقلة.

حوادث مشابهة تزيد المخاوف

تأتي هذه الواقعة في وقت تشهد فيه صناعة الذكاء الاصطناعي سلسلة من الحوادث المشابهة.

فقد أعلنت شركة Anthropic مؤخرًا أن بعض نماذجها تمكنت من اختراق أنظمة تابعة لعدة مؤسسات خلال اختبارات أمنية.. بينما كشفت Meta أيضًا عن نجاح أحد نماذجها في تجاوز نظام تابع لشركة أخرى أثناء تقييم أمني.

وتشير هذه الوقائع إلى أن المنافسة بين شركات الذكاء الاصطناعي لم تعد تقتصر على تطوير نماذج أكثر ذكاءً.. بل أصبحت تشمل أيضًا بناء أنظمة حماية أكثر تطورًا تستطيع مواكبة القدرات المتزايدة لهذه النماذج.

مستقبل اختبارات الذكاء الاصطناعي

يرى مختصون أن الحادثة تمثل نقطة تحول في كيفية تقييم سلامة نماذج الذكاء الاصطناعي مستقبلًا.. إذ أصبح من الضروري تطوير بروتوكولات أمنية جديدة تمنع النماذج من التعاون بطرق غير متوقعة أو استغلال البنية التحتية الرقمية أثناء الاختبارات.

كما يتوقع أن تدفع هذه الواقعة الشركات الكبرى إلى زيادة الاستثمار في تقنيات مراقبة سلوك النماذج.. وتعزيز أنظمة العزل داخل بيئات الاختبار، مع فرض قيود إضافية على الوصول إلى الإنترنت والأنظمة الداخلية.

وفي ظل التسارع الكبير في تطوير تقنيات الذكاء الاصطناعي، تبدو هذه الحوادث بمثابة إنذار مبكر يدفع الشركات إلى إعادة النظر في معايير السلامة والأمن السيبراني.. لضمان استمرار الابتكار دون تعريض الأنظمة الرقمية لمخاطر غير محسوبة.

الوسوم