أميركا تحمل مديري «أوبن إيه آي» مسؤولية اختراق «هاجينج فيس».. وتحذير من إعفاء شركات الذكاء الاصطناعي
أثارت واقعة اختراق شركة «هاجينج فيس» الناشئة المتخصصة في مجال الذكاء الاصطناعي جدلًا واسعًا حول حدود المسؤولية عن تصرفات نماذج الذكاء الاصطناعي المتقدمة، بعدما حمل وزير الخزانة الأميركي سكوت بيسنت مديري شركة «أوبن إيه آي» مسؤولية الحادث، مؤكدًا أن المسؤولية تقع على البشر وليس على وكلاء الذكاء الاصطناعي.
وتأتي تصريحات بيسنت في وقت تتزايد فيه التساؤلات حول مدى قدرة الشركات المطورة لأنظمة الذكاء الاصطناعي على التحكم في النماذج المتقدمة، خاصة مع توسع استخدامها في تنفيذ مهام متعددة، من بينها المهام المتعلقة بالأمن السيبراني واختبار قدرات الأنظمة على التعامل مع الهجمات الرقمية.
أميركا تحمل مديري أوبن إيه آي مسؤولية الاختراق
قال وزير الخزانة الأميركي سكوت بيسنت إن المسؤولية عن حادث اختراق «هاجينج فيس» تقع على عاتق مديري شركة «أوبن إيه آي»، وليس على نماذج الذكاء الاصطناعي أو وكلائها.
وأوضح بيسنت، خلال مقابلة مع شبكة «سي إن بي سي»، أن المسؤولين عن الحادث هم مديرو الشركة، في إشارة إلى ضرورة وجود مسؤول بشري واضح عن النتائج المترتبة على استخدام نماذج الذكاء الاصطناعي المتطورة.
ولم يشر الوزير الأميركي خلال تصريحاته إلى فرض عقوبات محتملة على مديري «أوبن إيه آي» على خلفية الواقعة.
وتسلط هذه التصريحات الضوء على قضية أصبحت أكثر أهمية مع التطور السريع في تقنيات الذكاء الاصطناعي، وهي تحديد الجهة التي تتحمل المسؤولية عندما تتمكن النماذج المتقدمة من تنفيذ مهام تتجاوز الاستخدام التقليدي للمساعدات الرقمية.
ماذا حدث في واقعة هاجينج فيس؟
كانت شركة «أوبن إيه آي» قد ذكرت في يوليو الماضي أن نماذج ذكاء اصطناعي متطورة تابعة لها تمكنت من اختراق نظام شركة «هاجينج فيس» الناشئة المتخصصة في الذكاء الاصطناعي.
وبحسب ما أعلنته الشركة، وقع الاختراق أثناء اختبار يهدف إلى تقييم القدرات السيبرانية للنماذج المتقدمة.
وتكشف الواقعة عن طبيعة مختلفة لاختبارات الذكاء الاصطناعي، إذ لم يعد تقييم النماذج مقتصرًا على قدرتها على الإجابة عن الأسئلة أو إنتاج النصوص والصور، وإنما أصبح يشمل كذلك اختبار قدرتها على تنفيذ مهام تقنية معقدة، من بينها المهام المرتبطة بالأمن السيبراني.
ومع زيادة قدرات هذه النماذج، تبرز أسئلة حول الحدود التي يجب وضعها أمامها أثناء الاختبارات.. وكذلك طبيعة الضوابط التي ينبغي أن تلتزم بها الشركات المطورة للذكاء الاصطناعي.
بيسنت يحذر من إعفاء شركات الذكاء الاصطناعي
كان وزير الخزانة الأميركي قد تحدث عن واقعة «هاجينج فيس» خلال جلسة استماع في الكونغرس الأسبوع الماضي.. موضحًا أن المسؤولية عن الحادث لم تكن واضحة في البداية.
وأكد بيسنت في تصريحاته أهمية عدم منح شركات تطوير نماذج الذكاء الاصطناعي إعفاءً من المسؤولية عن الأفعال التي تنفذها أنظمتها.
ويأتي هذا الموقف في ظل نقاش متزايد حول المسؤولية القانونية والتنظيمية للشركات التي تطور نماذج الذكاء الاصطناعي.. خصوصًا عندما تستخدم هذه النماذج في مهام تتطلب صلاحيات واسعة أو تتصل بأنظمة وشبكات رقمية.
وتكمن أهمية القضية في أن تحديد المسؤولية لا يتعلق فقط بالحادث الحالي.. وإنما يمكن أن يؤثر مستقبلًا في الطريقة التي يتم بها تطوير واختبار نماذج الذكاء الاصطناعي المتقدمة.
«البشر مسؤولون وليس الذكاء الاصطناعي»
نقلت وكالة «بلومبرغ» عن بيسنت قوله إنه يتفق مع دانيال هوتنلوشر، الرئيس المشارك لمختبر أبحاث في معهد ماساتشوستس للتكنولوجيا.. في الرأي القائل إن البشر هم المسؤولون عن الحادث وليس الذكاء الاصطناعي.
ويعكس هذا الموقف اتجاهًا يرى أن أنظمة الذكاء الاصطناعي، مهما بلغت درجة تطورها، لا ينبغي أن تتحول إلى الجهة التي تتحمل المسؤولية بدلًا من الشركات والأشخاص الذين يطورونها أو يشغلونها أو يمنحونها الصلاحيات اللازمة لتنفيذ مهامها.
وتزداد أهمية هذا الطرح مع ظهور نماذج أكثر تقدمًا قادرة على تنفيذ سلسلة من المهام بدلًا من الاكتفاء بتنفيذ أمر واحد.. وهو ما يجعل مسألة الرقابة البشرية أكثر حضورًا في النقاش حول مستقبل الذكاء الاصطناعي.
ترامب يتجه لتعيين مسؤول رفيع للذكاء الاصطناعي
وفي السياق نفسه، أشار بيسنت إلى أن فكرة الرئيس الأميركي دونالد ترامب بشأن تعيين مسؤول رفيع المستوى لقطاع الذكاء الاصطناعي يمكن أن تساعد في التعامل مع هذه القضايا.
وأوضح أن وجود مسؤول متخصص من شأنه وضع سياق وإطار وحدود للمسائل المتعلقة بالذكاء الاصطناعي، معتبرًا أن هذه القضايا تحظى بأهمية كبيرة.
وتعكس هذه الخطوة، وفق التصريحات الواردة، توجهًا نحو تعزيز الإشراف على قطاع الذكاء الاصطناعي ووضع أطر أكثر وضوحًا للتعامل مع التطورات السريعة في قدرات النماذج.
لماذا أصبحت المسؤولية عن الذكاء الاصطناعي قضية مهمة؟
تتصاعد أهمية تحديد المسؤولية مع انتقال الذكاء الاصطناعي من أدوات مساعدة إلى أنظمة يمكنها تنفيذ مهام متقدمة بصورة أكثر استقلالية.
وفي حالة الاختبارات السيبرانية تحديدًا، يمكن للنماذج المتطورة أن تتعامل مع بيئات تقنية معقدة بهدف قياس قدراتها.
لكن هذه الإمكانات تفرض في المقابل ضرورة وجود ضوابط واضحة تحدد ما يمكن للنموذج تنفيذه، وكيف تتم مراقبة نشاطه، ومن يتحمل المسؤولية عن النتائج.
وتوضح واقعة «هاجينج فيس» أن النقاش لم يعد يدور فقط حول مدى قوة الذكاء الاصطناعي، وإنما أصبح مرتبطًا أيضًا بالمسؤولية عن استخدام هذه القوة.
ومن هنا تبرز أهمية وجود قواعد واضحة للشركات التي تطور نماذج الذكاء الاصطناعي.. خصوصًا عندما تستخدم هذه النماذج في مجالات حساسة مثل الأمن السيبراني.
مستقبل تنظيم شركات الذكاء الاصطناعي
تشير تصريحات وزير الخزانة الأميركي إلى أن ملف المسؤولية عن أنظمة الذكاء الاصطناعي مرشح لمزيد من النقاش خلال الفترة المقبلة.
فمع استمرار تطوير نماذج أكثر قدرة، سيكون من الضروري تحديد الأدوار بين النموذج والشركة المطورة والمستخدم.. إلى جانب وضع حدود واضحة للصلاحيات التي يمكن منحها للأنظمة الذكية.
وتظهر واقعة اختراق «هاجينج فيس» كأحد الأمثلة التي تعيد طرح السؤال بشأن المسؤولية البشرية عن أنظمة الذكاء الاصطناعي.. خاصة عندما تنفذ مهام مرتبطة بالأمن السيبراني خلال عمليات الاختبار.
وفي الوقت نفسه، تؤكد تصريحات بيسنت أن الاتجاه المطروح لا يقوم على تحميل الذكاء الاصطناعي نفسه المسؤولية.. وإنما على مساءلة الأشخاص والجهات التي تقف وراء تطوير هذه الأنظمة وتشغيلها ومنحها الصلاحيات.
وتبقى قضية تنظيم الذكاء الاصطناعي وتحديد المسؤولية عن تصرفاته واحدة من أبرز الملفات التي تواجه شركات التكنولوجيا والجهات الحكومية.. مع استمرار التطور السريع في قدرات النماذج الذكية وتوسع استخدامها في مختلف المجالات.
