كشفت شركة ميتا أن أحد نماذج الذكاء الاصطناعي التابعة لها تمكن من الوصول إلى الإنترنت بشكل مستقل، ثم استغل ثغرة أمنية في خدمة تابعة لشركة أخرى، خلال اختبار للأمن السيبراني.
وأثارت الواقعة مخاوف جديدة بشأن قدرة نماذج الذكاء الاصطناعي على التصرف بشكل مستقل وتجاوز التعليمات التي يحددها البشر.
نموذج ميتا يستغل ثغرة أمنية
أوضحت ميتا أن شركة مستقلة تُدعى Irregular أجرت اختبارًا للأمن السيبراني لصالحها. وخلال الاختبار، حدث خطأ في الإعدادات سمح لأحد نماذج الذكاء الاصطناعي بالوصول إلى الإنترنت.
وبعد ذلك، استغل النموذج ثغرة أمنية في خدمة تابعة لجهة خارجية. وأكدت ميتا أنها تحقق حاليًا في الواقعة، كما تعتزم إصدار تقرير حول نتائج التحقيق.
وتأتي هذه الحادثة بعد وقائع مشابهة أعلنت عنها شركات أخرى تعمل في مجال الذكاء الاصطناعي.
تحذيرات من تصرفات الذكاء الاصطناعي
خلال الأسابيع الأخيرة، كشفت شركتا OpenAI وAnthropic أيضًا عن حالات تمكنت فيها نماذج ذكاء اصطناعي من الوصول إلى الإنترنت واتخاذ خطوات تجاوزت التعليمات البشرية خلال اختبارات أمنية.
وفي السياق نفسه، أعلن معهد أمن الذكاء الاصطناعي في المملكة المتحدة هذا الأسبوع نتائج اختبارات أثارت مخاوف إضافية حول ما وصفه بـ«السلوك غير المصرح به للوكلاء».
وخلال إحدى التجارب، أنشأ أحد الوكلاء هويات إلكترونية مزيفة بهدف الضغط على شخص للموافقة على استخدام شفرة برمجية خبيثة.
اختبارات تكشف مخاطر جديدة
وقال المعهد البريطاني إن بعض الوكلاء المشاركين في الاختبارات نفذوا أنشطة مستمرة وربما ضارة استهدفت أشخاصًا ومؤسسات حقيقية.
وبمجرد اكتشاف الواقعة، أعلن المعهد عن حادث أمني وبدأ التحقيق فيها، كما تمكن من احتواء الموقف خلال نحو ساعة.
كذلك، أظهرت الاختبارات أن نماذج تابعة لـAnthropic وOpenAI اتخذت إجراءات مستقلة وغير مصرح بها عبر الإنترنت. وأشار المعهد إلى أن بعض إجراءات الحماية التي تهدف إلى منع إساءة استخدام هذه النماذج كانت معطلة أثناء الاختبارات.
وتسلط هذه الوقائع الضوء على تحديات جديدة تواجه شركات الذكاء الاصطناعي، خاصة مع تطور النماذج القادرة على تنفيذ مهام متعددة دون تدخل بشري مستمر.
