تتجه شركة مايكروسوفت إلى وضع قواعد أكثر صرامة لتنظيم عمل أنظمة الذكاء الاصطناعي، بالتزامن مع تزايد المخاوف بشأن المخاطر الأمنية الناتجة عن التطور السريع لهذه التقنيات.
وأعلنت الشركة عن مسودة ميثاق سلوك للذكاء الاصطناعي يحدد المبادئ التي يجب أن تلتزم بها نماذجها، وعلى رأسها بقاء الإنسان صاحب القرار النهائي وعدم السماح لأنظمة الذكاء الاصطناعي بالعمل خارج الحدود التي يحددها البشر.
مايكروسوفت: البشر أهم من الذكاء الاصطناعي
وتقوم فلسفة الميثاق الجديد على مفهوم تطلق عليه مايكروسوفت «الذكاء الاصطناعي الإنساني» (Humanist AI).. والذي يركز على تطوير أنظمة ذكاء اصطناعي تظل خاضعة للسيطرة البشرية.. بدلًا من منحها صلاحيات مستقلة لاتخاذ قرارات تتجاوز أهداف مستخدميها.
وتلخص الشركة هذا التوجه في مبدأ واضح: «البشر أهم من الذكاء الاصطناعي».. في إشارة إلى أن التكنولوجيا يجب أن تعمل لخدمة الإنسان، وليس العكس.
وبموجب القواعد المقترحة، ينبغي أن تكون أنظمة الذكاء الاصطناعي قابلة للتصحيح والإيقاف من جانب البشر.. وألا تقاوم محاولات تعطيلها أو تتخذ إجراءات بهدف منع إيقافها.
لماذا وضعت مايكروسوفت هذه القواعد؟
تأتي الخطوة في وقت تتزايد فيه المخاوف من استخدام وكلاء الذكاء الاصطناعي لتنفيذ مهام أكثر تعقيدًا وبدرجة أكبر من الاستقلالية.
وأشارت مايكروسوفت إلى أن مخاطر الأمن السيبراني كانت من بين العوامل التي دفعتها إلى طرح الميثاق.. خاصة مع رصد حملات قرصنة واسعة ومنظمة استفادت من قدرات وكلاء الذكاء الاصطناعي.
ومع ارتفاع قدرة هذه الأنظمة على تنفيذ سلسلة من المهام دون تدخل بشري مستمر.. تبرز الحاجة إلى وضع ضوابط واضحة تحدد ما يمكن للذكاء الاصطناعي فعله، وما يجب أن يتطلب موافقة الإنسان.
قواعد للتحكم في نماذج الذكاء الاصطناعي
ويركز ميثاق مايكروسوفت على منع نماذج الذكاء الاصطناعي من توسيع نطاق مهامها بشكل مستقل أو وضع أهداف جديدة لم يحددها المستخدم.
كما يتضمن توجهًا نحو إبقاء القرارات الحساسة تحت إشراف البشر، خصوصًا عندما يمكن أن تؤدي مخرجات الذكاء الاصطناعي إلى نتائج أمنية أو مادية مؤثرة.
وتأتي هذه المبادئ في ظل سباق عالمي بين شركات التكنولوجيا لتطوير نماذج أكثر قدرة.. بالتزامن مع دعوات متزايدة إلى وضع حدود واضحة لتطوير الذكاء الاصطناعي المتقدم.
ميثاق مايكروسوفت يأتي وسط دعوات لإبطاء تطوير AI
وتزامن إعلان مايكروسوفت مع نقاش متزايد داخل قطاع التكنولوجيا حول سرعة تطوير قدرات الذكاء الاصطناعي.
وكان داريو أمودي، الرئيس التنفيذي لشركة Anthropic، قد دعا شركات الذكاء الاصطناعي إلى التعامل بحذر أكبر مع تطوير قدرات النماذج، وسط مخاوف من أن تتجاوز سرعة التطوير قدرة الشركات والحكومات على التعامل مع المخاطر الجديدة.
كما حظيت هذه الدعوات باهتمام من شخصيات بارزة في قطاع التكنولوجيا.. من بينها سام ألتمان، الرئيس التنفيذي لشركة OpenAI، وإيلون ماسك.
نماذج MAI في قلب خطة مايكروسوفت
ومن المقرر أن تنطبق مبادئ ميثاق السلوك على نماذج MAI الداخلية التي تطورها مايكروسوفت ضمن خطتها لتوسيع قدراتها الخاصة في مجال الذكاء الاصطناعي.
وتأتي هذه الخطوة بعد سنوات اعتمدت خلالها مايكروسوفت بدرجة كبيرة على تقنيات شركة OpenAI، بينما تعمل حاليًا على تعزيز قدراتها ونماذجها الخاصة.
ويعكس الميثاق الجديد تحولًا مهمًا في النقاش حول الذكاء الاصطناعي؛ إذ لم يعد التركيز مقتصرًا على تطوير نماذج أكثر ذكاءً، وإنما أصبح يمتد أيضًا إلى تحديد حدود استقلالية هذه الأنظمة وكيفية إبقائها تحت الإشراف البشري.
