أعلنت سنغافورة عن إصدار أول إطار لحوكمة الذكاء الاصطناعي الوكيلي، والمعروف باسم Model AI Governance Framework for Agentic AI. ويعكس هذا الإطار إدراك الدولة لطبيعة التحول الذي أحدثته أنظمة الوكلاء الذكيين، وما تحمله من فرص ومخاطر جديدة على القطاعين العام والخاص.
الفكرة المحورية في إطار Agentic AI
توضح الوثيقة أن الوكلاء الذكيون ليسوا مجرد نماذج لغوية، بل أنظمة برمجية متكاملة تتكون من عدة مكونات، مثل: النماذج، الأدوات، الذاكرة، ومنطق التنفيذ. تعمل هذه المكونات معًا، وكل مكوّن يمثل مصدرًا محتملًا للمخاطر .
وبالتالي، يحتاج التعامل مع Agentic AI إلى نهج حوكمة شامل، يضمن توزيع المسؤوليات وإدارة المخاطر عبر دورة حياة الوكيل بالكامل.
المخاطر الجديدة لأنظمة الوكلاء الذكيين
توضح الوثيقة أن المخاطر ليست جديدة بالضرورة، لكن طريقة ظهورها تغيرت بشكل كبير:
مخاطر البرمجيات التقليدية
-
SQL Injection: هجوم يعتمد على تمرير أوامر SQL خبيثة للوصول غير المصرح به أو التلاعب بالبيانات.
-
ضعف التحكم في الصلاحيات.
-
ضعف إدارة التكامل مع الأنظمة الأخرى.
مخاطر النماذج اللغوية (LLMs)
-
الهلوسة (Hallucination).
-
التحيز في البيانات والقرارات.
-
تسرب البيانات.
-
حقن الأوامر (Adversarial Prompt Injection).
تفاقم المخاطر مع الوكلاء الذكيين
-
عمل الوكيل بشكل ذاتي بدون إشراف بشري مباشر.
-
اتخاذ قرارات متعددة الخطوات.
-
التفاعل مع أدوات وأنظمة خارجية دون رقابة مستمرة.
موقف الدول الأخرى
واجهت العديد من الدول، بما فيها أوروبا، صعوبة في تطبيق الأطر القانونية الحالية على Agentic AI .
في المقابل، تبنت بعض الدول سياسة تقليل التنظيم (Deregulation) لمواكبة الابتكار. ومع ذلك، تبقى فجوة واضحة في إدارة المخاطر بشكل فعال.
ما يميز مبادرة سنغافورة
تتعامل سنغافورة مع Agentic AI كتحول هيكلي وليس كتحديث تقني . ركزت المبادرة على:
-
حوكمة كل مكوّن من مكونات الوكيل.
-
توزيع واضح للمسؤوليات بين الأطراف المعنية.
-
إدارة المخاطر عبر دورة حياة الوكيل بالكامل.
كما قدمت الوثيقة إطارًا مرنًا وقابلًا للتحديث ، ويتيح التطبيق العملي في القطاعين العام والخاص ، لضمان التحكم بالمخاطر دون تعطيل الابتكار.
الخلاصة
مع توسع استخدامات Agentic AI، ظهرت مخاطر جديدة بسرعة غير مسبوقة .
ومن لا يعتمد أطرًا ديناميكية اليوم لإدارة هذه الأنظمة، سيواجه غدًا أزمات غير متوقعة.
لذلك، يمثل إطار سنغافورة لحوكمة Agentic AI نموذجًا عمليًا يمكن أن تعتمد عليه الدول والمؤسسات في إدارة المخاطر والابتكار بأمان.
