بعد اختراق «هاغينغ فيس».. كاليفورنيا تستدعي «أوبن إيه آي» للتحقيق في مخاطر الذكاء الاصطناعي والأمن السيبراني
تواجه شركة «أوبن إيه آي» تدقيقًا رسميًا جديدًا في الولايات المتحدة، بعدما أصدر المدعي العام لولاية كاليفورنيا روب بونتا مذكرة استدعاء للشركة، في إطار تحقيق يتعلق بحوادث الأمن السيبراني والمخاطر المرتبطة بنماذج الذكاء الاصطناعي التي تطورها.
ويأتي التحرك في أعقاب واقعة مرتبطة بمنصة «هاغينغ فيس»، بعدما تمكن وكلاء ذكاء اصطناعي طورتهم «أوبن إيه آي» من الوصول إلى أجزاء من البنية التحتية للمنصة، ما أثار تساؤلات بشأن المخاطر الأمنية التي قد تنتج عن الأنظمة القادرة على تنفيذ مهام رقمية بصورة أكثر استقلالية.
ويُعد التحقيق جزءًا من موجة متزايدة من التدقيق التنظيمي في الولايات المتحدة تجاه شركات الذكاء الاصطناعي.. مع توسع استخدام الوكلاء القادرين على التعامل مع الأدوات والمنصات الرقمية وتنفيذ سلسلة من الإجراءات بناءً على تعليمات المستخدم.
استدعاء رسمي لـ«أوبن إيه آي»
أصدر المدعي العام في كاليفورنيا روب بونتا مذكرة استدعاء تحقيقية إلى «أوبن إيه آي».. للحصول على معلومات تتعلق بحوادث الأمن السيبراني والمخاطر المرتبطة بالشركة ونماذج الذكاء الاصطناعي التابعة لها.
وأوضح مكتب المدعي العام أن هذه الخطوة تأتي ضمن تحقيق أوسع تجريه سلطات الولاية، ولا تقتصر على حادثة واحدة.. إذ تسعى الجهات المختصة إلى فهم طبيعة المخاطر التي قد تنشأ من استخدام نماذج الذكاء الاصطناعي المتقدمة.
ويركز التحقيق أيضًا على الإجراءات التي تتخذها الشركات المطورة للحد من قدرة أنظمتها على تنفيذ هجمات إلكترونية أو المساعدة في تنفيذها.
وتكتسب هذه المسألة أهمية متزايدة مع انتقال الذكاء الاصطناعي من مرحلة تقديم الإجابات والمحتوى إلى أنظمة تستطيع استخدام الأدوات الرقمية وتنفيذ مهام متعددة بشكل شبه مستقل.
ماذا حدث في «هاغينغ فيس»؟
تعود خلفية التحقيق إلى حادثة شهدتها منصة «هاغينغ فيس».. وهي منصة معروفة باستضافة ومشاركة نماذج وأدوات ومشروعات مرتبطة بالذكاء الاصطناعي.
ووفقًا للمعلومات التي أوردتها وكالة رويترز، تمكن وكلاء ذكاء اصطناعي طورتهم «أوبن إيه آي» من اختراق المنصة والوصول إلى أجزاء من بنيتها التحتية مفتوحة المصدر.
وأثارت الواقعة مخاوف تتعلق بقدرة وكلاء الذكاء الاصطناعي على التفاعل مع أنظمة حقيقية وتنفيذ إجراءات تتجاوز مجرد إنشاء النصوص أو تحليل المعلومات.
وتبحث السلطات الأميركية في طبيعة هذه الحوادث والضوابط التي تضعها شركات الذكاء الاصطناعي للتأكد من أن الأنظمة التي تطورها لا تتحول إلى وسيلة لتنفيذ هجمات إلكترونية أو تمكينها.
تحذير من المسؤولية القانونية
قال روب بونتا إن مكتبه يوجه أسئلة إضافية إلى «أوبن إيه آي» بشأن حوادث الأمن السيبراني والمخاطر المرتبطة بالشركة ونماذج الذكاء الاصطناعي التابعة لها.
كما حذر من أن مطوري نماذج الذكاء الاصطناعي الذين لا يضمنون اتخاذ إجراءات مناسبة لمنع أنظمتهم من تنفيذ هجمات إلكترونية أو تمكينها قد يواجهون مساءلة قانونية.
ويشير هذا الموقف إلى أن الجهات التنظيمية بدأت تنظر إلى مسؤولية شركات الذكاء الاصطناعي من زاوية أوسع.. تشمل ليس فقط طريقة تصميم النماذج، وإنما أيضًا كيفية استخدامها عندما تحصل على صلاحيات للتفاعل مع أنظمة ومنصات أخرى.
ومع انتشار وكلاء الذكاء الاصطناعي، أصبح التحكم في الصلاحيات ومراقبة الأنشطة الرقمية وتحديد المهام المسموح بتنفيذها من أبرز التحديات أمام الشركات والمطورين.
تحقيقات أميركية متزامنة
لا يقتصر التدقيق على سلطات ولاية كاليفورنيا، إذ تخضع «أوبن إيه آي» وشركات أخرى في قطاع الذكاء الاصطناعي لمراجعات وتحقيقات من جهات أميركية مختلفة.
وبحسب ما نقلته رويترز عن مسؤول كبير في لجنة التجارة الفيدرالية الأميركية.. تجري اللجنة تحقيقًا على مستوى القطاع يشمل «أوبن إيه آي» و«أنثروبيك» ومختبرات أخرى للذكاء الاصطناعي.
ويبحث هذا التحقيق في المخاطر المحتملة التي قد تشكلها تقنيات الذكاء الاصطناعي على المستهلكين.. ويأتي في ظل توسع استخدام الأنظمة القادرة على تنفيذ مهام متعددة بدلًا من الاكتفاء بالاستجابة المباشرة لطلبات المستخدمين.
وتشير هذه التحركات إلى زيادة اهتمام الجهات الأميركية بتأثير تقنيات الذكاء الاصطناعيالذكاء الاصطناعي على الأمن الرقمي وسلامة المستخدمين.
ائتلاف من 15 ولاية يطلب معلومات
وفي تطور آخر مرتبط بالواقعة نفسها، تقود المدعية العامة لولاية آيوا برينا بيرد ائتلافًا يضم مدعين عامين من 15 ولاية أميركية للحصول على معلومات من «أوبن إيه آي» بشأن حادثة «هاغينغ فيس».
ويضم الائتلاف عددًا من الولايات، من بينها ألاباما وأركنساس وتكساس ويوتا.. في تحرك يعكس اتساع الاهتمام الرسمي بتداعيات استخدام وكلاء الذكاء الاصطناعي.
وتأتي هذه الخطوة بالتزامن مع تحقيقات تجريها «أوبن إيه آي» و«أنثروبيك».. في حالات مختلفة تمكن خلالها وكلاء تابعون لهما من الوصول إلى أنظمة تجارية وحكومية.
لماذا تثير وكلاء الذكاء الاصطناعي مخاوف أمنية؟
تختلف وكلاء الذكاء الاصطناعي عن أدوات الذكاء الاصطناعي التقليدية في قدرتها على تنفيذ مجموعة من الإجراءات للوصول إلى هدف معين.
وقد تساعد هذه القدرات الشركات في تنفيذ مهام مثل البرمجة وتحليل البيانات وخدمة العملاء وإدارة العمليات.. لكنها في الوقت نفسه تفرض تحديات أمنية جديدة عندما تحصل هذه الأنظمة على صلاحيات.. للوصول إلى ملفات أو خدمات أو منصات خارجية.
ولهذا السبب، تركز المناقشات المتعلقة بأمن الذكاء الاصطناعي بشكل متزايد على كيفية إدارة الصلاحيات.. ومراقبة تصرفات الوكلاء، ووضع حدود واضحة للمهام التي يمكنهم تنفيذها.
كما تبرز أهمية وجود آليات تمنع النظام من تنفيذ إجراءات غير مقصودة.. خاصة عندما يكون قادرًا على استخدام أدوات خارجية أو التفاعل مباشرة مع البنية التحتية الرقمية.
«أوبن إيه آي» أمام مرحلة جديدة من التدقيق
يضع الاستدعاء الصادر في كاليفورنيا «أوبن إيه آي» أمام مرحلة جديدة من التدقيق التنظيمي بشأن المخاطر الأمنية المرتبطة بتقنيات الذكاء الاصطناعي.
ولا يعني إصدار مذكرة الاستدعاء ثبوت ارتكاب الشركة مخالفة أو إدانتها.. وإنما يمثل إجراءً ضمن تحقيق تسعى السلطات من خلاله إلى جمع المعلومات وفحص الوقائع المرتبطة بالحوادث محل الاهتمام.
وتكتسب نتائج التحقيق أهمية بالنسبة إلى مستقبل تنظيم وكلاء الذكاء الاصطناعي.. خصوصًا مع استمرار شركات التكنولوجيا في تطوير أنظمة تتمتع بقدرات أكبر على تنفيذ المهام والتفاعل مع البيئات الرقمية.
ومن المتوقع أن يستمر التركيز على العلاقة بين تطوير الذكاء الاصطناعي والأمن السيبراني.. في ظل سعي الجهات التنظيمية إلى معرفة مدى كفاية إجراءات الحماية التي تتبعها الشركات المطورة لهذه التقنيات.
