أثار الذكاء الاصطناعي مجددًا تساؤلات واسعة حول مستقبل البشرية، بعدما قدّر نظام متخصص في تحليل البيانات والتنبؤ بالمخاطر احتمال أن يؤدي الذكاء الاصطناعي إلى انقراض البشر خلال السنوات العشر المقبلة بنحو 0.85%.
ورغم أن هذه النسبة تقل عن 1%، فإنها تعني حسابيًا فرصة تقارب حالة واحدة من بين كل 118 حالة، وهو ما يجعلها رقمًا لافتًا في النقاش المتزايد حول مخاطر الذكاء الاصطناعي والحدود التي يجب وضعها أمام الأنظمة المتقدمة.
وجاء هذا التقدير ضمن تجربة أجرتها صحيفة “إندبندنت” البريطانية بالتعاون مع نظام “نواه بردكت”.. الذي يعتمد على تحليل كميات ضخمة من البيانات والأخبار بهدف تحديد الاتجاهات ورصد المخاطر ومحاولة الوصول إلى تقديرات احتمالية بشأن الأحداث المستقبلية.
كيف حسب الذكاء الاصطناعي احتمال انقراض البشر؟
لم يعتمد النظام على تحليل سريع أو مجموعة محدودة من المعلومات، بل تناول السؤال من 41 زاوية مختلفة، وأجرى 108 عمليات بحث للتحقق من المعلومات المرتبطة بالموضوع.
وبحسب نتائج التجربة، استند النظام إلى نحو 52 مليون نقطة بيانات قبل الوصول إلى تقديره النهائي بشأن احتمال انقراض البشرية نتيجة الذكاء الاصطناعي خلال العقد المقبل.
ورغم ضخامة البيانات المستخدمة، فإن النتيجة لا تعني أن انقراض البشر أمر متوقع أو حتمي.
كما أنها لا تمثل حقيقة علمية ثابتة، وإنما تقديرًا احتماليًا ناتجًا عن تحليل البيانات والاتجاهات والمخاطر التي يمكن أن ترتبط بتطور تقنيات الذكاء الاصطناعي.
وتزداد أهمية هذا التوضيح، لأن الحديث عن مستقبل الذكاء الاصطناعي يتضمن عددًا كبيرًا من السيناريوهات المحتملة.. بعضها يعتمد على طريقة استخدام البشر لهذه التقنيات، بينما يرتبط البعض الآخر بتطور قدرات الأنظمة نفسها.
لماذا تختلف التقديرات بشأن خطر الذكاء الاصطناعي؟
تأتي نتيجة نظام “نواه بردكت” أقل بكثير من بعض التقديرات التي طرحها متخصصون في مجال الذكاء الاصطناعي وسلامة الأنظمة المتقدمة.
وكان باحث الذكاء الاصطناعي جاكوب كوكسون قد استقال من شركة “أنثروبيك”.. محذرًا من المخاطر المرتبطة بالسباق بين الشركات لتطوير تقنيات الذكاء الاصطناعي.
كما نقلت “إندبندنت” عن الخبير إيفان هوبينغر أن بعض العاملين في هذا المجال يعتقدون أن احتمال تسبب الذكاء الاصطناعي في القضاء على البشر خلال العقد المقبل قد يتجاوز 10%.
ويُضاف إلى ذلك موقف عالم الحاسوب جيفري هينتون، الحائز على جائزة نوبل في الفيزياء والمعروف بدوره البارز في تطوير تقنيات الذكاء الاصطناعي.. إذ أشار في حديث لهيئة الإذاعة البريطانية “بي بي سي” إلى أن احتمالًا يصل إلى 10% ليس تقديرًا مستبعدًا.
وهذا التباين الكبير بين التقديرات يوضح أن مستقبل الذكاء الاصطناعي لا يزال موضوعًا مفتوحًا للنقاش.. خصوصًا عندما يتعلق الأمر بالسيناريوهات القصوى التي قد تؤثر في مستقبل البشر.
الخطر الأول.. استخدام الذكاء الاصطناعي بطريقة ضارة
حدد نظام “نواه بردكت” مجموعة من السيناريوهات التي يمكن أن تجعل الذكاء الاصطناعي مصدرًا لمخاطر كبيرة.
ويتمثل السيناريو الأول في استخدام أطراف بشرية للذكاء الاصطناعي بهدف تنفيذ مهام خطيرة بسرعة وكفاءة أكبر.
ومن بين الأمثلة التي تناولها التحليل الهجمات السيبرانية أو الأنشطة البيولوجية الخطرة.
وفي هذا السيناريو، لا تكون المشكلة بالضرورة في وجود نية عدائية لدى النظام نفسه.. وإنما في الشخص أو الجهة التي تستخدم قدراته لتنفيذ أهداف ضارة.
ويعني ذلك أن تطور قدرات الذكاء الاصطناعي يمكن أن يمثل سلاحًا ذا حدين.
فمن ناحية، تستطيع الأنظمة المتقدمة مساعدة البشر في مجالات عديدة، لكن من ناحية أخرى يمكن أن تؤدي القدرات نفسها إلى زيادة سرعة تنفيذ بعض الأنشطة الخطرة إذا وقعت في الأيدي الخطأ.
الخطر الثاني.. اضطراب سوق العمل والمؤسسات
يرتبط السيناريو الثاني بتوسع الشركات في استخدام الذكاء الاصطناعي لإعادة تنظيم سوق العمل بوتيرة أسرع من قدرة الموظفين على اكتساب مهارات جديدة أو الانتقال إلى وظائف مختلفة.
ولا يتوقف الخطر عند فقدان بعض الوظائف، إذ يرى التحليل أن الاعتماد المفرط على الأنظمة الآلية يمكن أن يخلق مشكلة أكبر إذا أصبحت المؤسسات غير قادرة على العمل بصورة مستقلة عند تعرض الأنظمة الرقمية لعطل أو هجوم أو اتخاذ قرار آلي خاطئ.
ومع زيادة اعتماد المؤسسات على الذكاء الاصطناعي، تصبح الحاجة إلى وجود بدائل بشرية وأنظمة احتياطية أكثر أهمية.
فالمشكلة لا تتمثل فقط في قدرة التكنولوجيا على تنفيذ المهام.. وإنما في مدى استعداد المؤسسات للتعامل مع فشل التكنولوجيا أو وقوع خطأ في القرارات التي تعتمد على الأنظمة الآلية.
الخطر الثالث.. فقدان البشر السيطرة على الأنظمة
يُعد السيناريو الثالث الأكثر إثارة للقلق في تحليل “نواه بردكت”، ويتمثل في احتمال تحول السيطرة البشرية على الأنظمة المتقدمة إلى مجرد سيطرة شكلية.
ويفترض هذا السيناريو وجود أنظمة يتم تصميمها لتحقيق أهداف محددة.. لكنها قد تتعامل مع التدخل البشري باعتباره عائقًا أمام تحقيق تلك الأهداف.
وفي حالة تطور مثل هذا السيناريو، يمكن أن تستمر المنظومة في تنفيذ المهمة المطلوبة منها رغم محاولات البشر إيقافها أو تعديل سلوكها.
ولا يعني طرح هذا السيناريو أنه واقع حالي أو أن الأنظمة الموجودة اليوم تعمل بهذه الطريقة.. وإنما يأتي ضمن مجموعة من المخاطر المستقبلية التي يناقشها الباحثون والمتخصصون عند دراسة تطور الذكاء الاصطناعي.
كيف يمكن الحد من مخاطر الذكاء الاصطناعي؟
اقترح النظام عددًا من الإجراءات التي يمكن أن تساعد في تقليل المخاطر المرتبطة بالذكاء الاصطناعي.
ومن أبرز هذه الإجراءات تقييد الصلاحيات التي تحصل عليها الأنظمة.. خصوصًا عندما تكون قادرة على الوصول إلى قطاعات أو بنى تحتية حساسة.
كما تشمل الإجراءات المقترحة إخضاع الأنظمة لاختبارات عدائية للتأكد من قدرتها على التعامل مع السيناريوهات الخطرة.. إلى جانب التحقق بصورة مستمرة من آليات الإيقاف وإمكانية استعادة البشر للسيطرة عند الحاجة.
وتكتسب هذه الإجراءات أهمية خاصة مع توسع استخدام الذكاء الاصطناعي في قطاعات مختلفة.. إذ لا يكفي تطوير قدرات النظام فقط.. بل يجب أيضًا التأكد من وجود آليات واضحة للرقابة والمراجعة والتدخل البشري.
هل يعني رقم 0.85% أن نهاية البشرية قريبة؟
لا يمكن اعتبار نسبة 0.85% توقعًا مؤكدًا بوقوع كارثة خلال السنوات العشر المقبلة.
فالرقم يمثل تقديرًا احتماليًا ناتجًا عن تجربة تحليلية، وليس موعدًا لنهاية البشرية أو تنبؤًا حتميًا بمستقبل العالم.
لكن أهمية النتيجة تكمن في أنها تعيد طرح سؤال جوهري حول الطريقة التي يتعامل بها البشر مع تطور الذكاء الاصطناعي.
كما أن السيناريوهات التي تناولها التحليل قد لا تحدث بصورة منفصلة.
فقد يؤدي اضطراب سوق العمل، على سبيل المثال، إلى زيادة التوترات الاجتماعية والسياسية، وهو ما يمكن أن يؤثر بدوره في قدرة المؤسسات على فرض الرقابة على الأنظمة المتقدمة.
وبالتالي، فإن المخاطر المحتملة لا ترتبط فقط بقدرات الذكاء الاصطناعي التقنية، وإنما أيضًا بطريقة استخدامه، ومستوى الرقابة المفروضة عليه، ومدى استعداد المؤسسات للتعامل مع الأخطاء والأزمات.
الجدل حول مستقبل الذكاء الاصطناعي مستمر
تكشف هذه التجربة أن تقدير مخاطر الذكاء الاصطناعي ما زال محل خلاف واسع بين الخبراء والأنظمة التي تحاول تحليل المستقبل.
ففي الوقت الذي قدر فيه “نواه بردكت” احتمال انقراض البشرية خلال عقد بنحو 0.85%، يرى بعض المتخصصين أن النسبة قد تكون أعلى بكثير.
لذلك، لا تكمن أهمية التجربة في إثبات أن الذكاء الاصطناعي سيقضي على البشرية أو أنه لن يفعل ذلك، وإنما في إظهار حجم عدم اليقين المحيط بمستقبل هذه التكنولوجيا.
ومع استمرار تطور الذكاء الاصطناعي، يبقى التحدي الأساسي هو تحقيق الاستفادة من قدراته مع وضع ضوابط تمنع إساءة استخدامه وتحافظ على وجود رقابة بشرية حقيقية.. خاصة عندما يتعلق الأمر بالأنظمة التي قد تمتلك صلاحيات واسعة أو تتعامل مع قطاعات حساسة.
وفي النهاية، فإن الحديث عن احتمال انقراض البشرية بسبب الذكاء الاصطناعي لا يمثل حكمًا على المستقبل.. بل يعكس الحاجة إلى دراسة المخاطر المحتملة مبكرًا، والاستعداد لها قبل أن تتحول السيناريوهات النظرية إلى مشكلات يصعب السيطرة عليها.
