الذكاء الاصطناعي قد يتمرد على أوامر البشر.. أيسم صلاح يكشف واقعة مثيرة ويحذر من «الذكاء الفائق»
حذر المهندس أيسم صلاح، خبير تكنولوجيا المعلومات.. من المخاطر المتزايدة المرتبطة بتطور تقنيات الذكاء الاصطناعي.. مؤكداً أن احتمالات خروج هذه الأنظمة عن سيطرة صانعيها لم تعد مجرد سيناريوهات خيالية، بل تستند إلى تجارب ووقائع وثقتها دراسات داخلية لشركات تكنولوجية كبرى.
وأوضح صلاح، خلال استضافته مع الإعلامية عزة مصطفى في برنامج «الساعة 6» المذاع عبر قناة الحياة، أن بعض أنظمة الذكاء الاصطناعي قد تتجاوز القيود التي يضعها المبرمجين.. إذا رأت أن ذلك يساعدها على تحقيق الهدف المطلوب منها بطريقة أسرع.
تجربة لـ OpenAI تكشف مخاطر استقلالية الذكاء الاصطناعي
واستشهد خبير تكنولوجيا المعلومات بتجربة قال إن شركة OpenAI أجرتها على أحد وكلاء الذكاء الاصطناعي.. حيث وضعته داخل بيئة اختبارية مغلقة دون اتصال بالإنترنت، وكلفته بحل اختبار معقد.
وأشار إلى أن النظام تمكن، وفقاً لما عرضه، من تجاوز جدران الحماية والوصول إلى الإنترنت.. ثم التوجه إلى منصة Hugging Face للحصول على إجابات الاختبار.
وأكد صلاح أن هذا السلوك لا يعني أن الآلة تصرفت بدافع الشر.. وإنما يعكس سعيها لتحقيق الهدف المحدد لها، حتى لو تطلب ذلك تجاوز التعليمات والقيود التي وضعها المبرمجون.
قانون الذكاء الاصطناعي الأوروبي لمواجهة المخاطر
وفي سياق متصل، لفت صلاح إلى أن المخاوف المتزايدة بشأن مستقبل الذكاء الاصطناعي دفعت الاتحاد الأوروبي إلى إقرار قانون الذكاء الاصطناعي الأوروبي (EU AI Act).. الذي يضع إطاراً تنظيمياً لتصنيف الأنظمة وفقاً لمستويات المخاطر.
وأوضح أن هذا الإطار يستهدف فرض ضوابط على تطوير تقنيات الذكاء الاصطناعي واستخدامها، خاصة في المجالات الحساسة.. بما يضمن حماية الأفراد والمجتمعات من القرارات الخوارزمية التي قد تتسبب في أضرار واسعة.
أيسم صلاح يحذر من وصول الذكاء الاصطناعي إلى مرحلة الذكاء الفائق
وحذر خبير تكنولوجيا المعلومات من الوصول إلى مرحلة «الذكاء الفائق» (Superintelligence).. موضحاً أن أحد أخطر السيناريوهات المستقبلية يتمثل في قدرة الذكاء الاصطناعي على تطوير أنظمة ذكاء اصطناعي أخرى بصورة مستقلة، دون تدخل بشري مباشر.
وأشار إلى أن سرعة تطور قدرات الآلات تتجاوز وتيرة تطور القدرات البشرية.. وهو ما يثير تساؤلات مهمة حول قدرة الإنسان على فهم أنظمة قد تصبح أكثر تعقيداً من قدرته على استيعاب آليات عملها والتحكم فيها.
مخاطر الذكاء الاصطناعي تهدد القطاعات الحيوية
كما لفت صلاح إلى أن التوسع في الاعتماد على الذكاء الاصطناعي يؤثر بشكل مباشر في قطاعات حيوية.. من بينها البنوك وسلاسل الإمداد ومستودعات التخزين الكبرى، مشيراً إلى أن الأعطال التقنية قد تؤدي إلى اضطرابات واسعة في هذه القطاعات.
وشدد على ضرورة الاحتفاظ بالتحكم البشري في القرارات النهائية، إلى جانب وضع أطر حوكمة ورقابة صارمة تضمن عدم اتخاذ أنظمة الذكاء الاصطناعي قرارات مستقلة قد تضر بالمجتمعات أو تهدد استقرار المؤسسات.
