سلّطت النشرة الدورية الصادرة عن Black Hat MEA الضوء على واحدة من أخطر القضايا التي تواجه المؤسسات حاليا.. وهي غياب السيطرة الحقيقية على أنظمة الذكاء الاصطناعي داخل بيئات العمل، رغم التوسع الكبير في استخدامها.
وأكدت النشرة أن السؤال الأهم الذي يجب أن تطرحه الإدارات العليا اليوم لا يتعلق باستخدام الذكاء الاصطناعي.. بل يتمحور حول: من يتحكم فعليًا في هذه الأنظمة أثناء التشغيل؟
سؤال بسيط يكشف فجوة خطيرة
في هذا السياق، طرحت خبيرة حوكمة الذكاء الاصطناعي Betania Allo سؤالًا مباشرًا على مجالس الإدارة.. حيث قالت:
هل يمكن تحديد أنظمة الذكاء الاصطناعي التي تتخذ قرارات ذاتية داخل المؤسسة، وما حدود هذه القرارات.. ومن يمتلك سلطة إيقافها عند الضرورة؟
وأوضحت أن هذا السؤال غالبًا ما يقابل بصمت داخل غرف الاجتماعات.. وهو ما يعكس وجود فجوة حقيقية في فهم آليات التحكم.
الصمت مؤشر خطر وليس مجرد ارتباك
وأشارت Allo إلى أن هذا الصمت لا يعكس نقص المعلومات فقط.. بل يكشف عن مشكلة هيكلية داخل المؤسسات. كما أكدت أن العديد من الشركات تتعامل مع حوكمة الذكاء الاصطناعي باعتبارها مسؤولية تقنية تخص قسم تكنولوجيا المعلومات فقط، وهو تصور غير دقيق.
وأضافت أن هذا النهج يؤدي إلى غياب ما يُعرف بـ”بنية التحكم”.. وهي الإطار الذي يحدد المسؤوليات، ويراقب أداء الأنظمة، ويضمن التدخل عند حدوث انحرافات.
الحوكمة ليست نظرية بل نظام قابل للتطبيق
ومن ناحية أخرى، أوضحت النشرة أن وجود سياسات حوكمة مكتوبة لا يكفي لضمان السيطرة على الذكاء الاصطناعي. لذلك، تحتاج المؤسسات إلى تطبيق أنظمة واضحة تحدد صلاحيات اتخاذ القرار.. وتوفر آليات متابعة مستمرة، وتدعم التدخل السريع عند الضرورة.
كما شددت على أن المشكلة لا تقتصر على الجانب.. فقط، بل تمتد إلى الثقافة التنظيمية داخل الشركات، حيث يجب أن تدرك الإدارات أن الذكاء الاصطناعي يمثل عنصرًا مؤثرًا في اتخاذ القرار.
خطوات ضرورية لتعزيز السيطرة
وفي هذا الإطار، دعت Allo المؤسسات إلى اتخاذ خطوات عملية، حيث طالبت بضرورة رسم خريطة دقيقة لجميع أنظمة الذكاء الاصطناعي داخل المؤسسة. كذلك.. يجب تحديد المسؤوليات بوضوح، وتوضيح حدود عمل كل نظام، بالإضافة إلى إنشاء آليات رقابة فعالة ومسارات تصعيد واضحة.
وأكدت أن هذه الإجراءات يجب أن تطبق بنفس مستوى الدقة المستخدم في إدارة البنية التحتية لتكنولوجيا المعلومات.
مخاطر استراتيجية تتجاوز الشركات
وعلى مستوى أوسع، حذرت النشرة من أن الدول التي تستثمر بكثافة في الذكاء الاصطناعي قد تواجه مخاطر استراتيجية إذا لم تطور أنظمة تحكم فعالة. كما أوضحت أن امتلاك تقنيات متقدمة دون وجود سيطرة حقيقية عليها قد يحول هذه الاستثمارات إلى مصدر تهديد بدلاً من ميزة تنافسية.
خلاصة المشهد
في النهاية، تؤكد النشرة أن التحدي الحقيقي لا يكمن في تطوير أنظمة الذكاء الاصطناعي، بل في القدرة على التحكم فيها بشكل فعّال. لذلك، يجب على المؤسسات إعادة النظر في طريقة إدارة هذه الأنظمة، والانتقال من التفكير التقني إلى تبني نهج شامل قائم على الحوكمة والتحكم.
