حذر كبير علماء شركة أوبن إيه آي، جاكوب باتشوكي، من أن التطور السريع والمتواصل للذكاء الاصطناعي قد يقود إلى عواقب لا تستعد لها المختبرات والشركات والمجتمعات بالشكل الكافي.
وجاء التحذير بعد أيام من إطلاق الشركة نموذجها الجديد أسترا.. الذي تصفه بأنه الأكثر ذكاء وأمانا حتى الآن.. ما يفتح بابا واسعا للنقاش حول مستقبل التقنية وحدود السيطرة عليها.
وأوضح باتشوكي، في منشور مطول على مدونة الشركة بعنوان «عقل فضائي».. أن أوبن إيه آي تعمل على تطوير حلول تقنية لتحسين التحكم في وكلاء الذكاء الاصطناعي الأقوياء.
لكنه أكد أن هذه الحلول وحدها قد لا تكون كافية لمواجهة المخاطر المحتملة.. داعيا إلى تدخلات أوسع تتجاوز المختبرات وشركات التكنولوجيا.
كبير علماء أوبن إيه آي يحذر من التطور المتسارع
قال باتشوكي إن أحد أبرز مصادر القلق يتمثل في أن الذكاء الاصطناعي قد يدخل قريبا مرحلة التحسين الذاتي المتكرر.
ويقصد بذلك أن الأنظمة ذات القدرات المتزايدة قد تبدأ في المساهمة في تطوير أجيال جديدة من الذكاء الاصطناعي.. بما يؤدي إلى تسارع أكبر في مستوى القدرات.
وبحسب ما أورده في منشوره، فإنه يتوقع بشدة، استنادا إلى نتائج داخلية لدى أوبن إيه آي، أن يستمر معدل التقدم الحالي خلال هذه المرحلة.
ويرى أن الأنظمة التي قد تظهر خلال السنوات القليلة المقبلة يمكن أن تحقق قفزات نوعية كبيرة.. وربما تقود تطويرها الذاتي بصورة متزايدة.
وأكد أن هذا الاحتمال يستدعي التعامل مع التطور بحذر شديد، لأن الفجوة بين قدرات الذكاء الاصطناعي ووسائل مراقبته والتحكم فيه قد تصبح مصدر قلق أكبر مع مرور الوقت.
مخاطر وكلاء الذكاء الاصطناعي المستقلين
وأشار كبير علماء أوبن إيه آي إلى أن الوكلاء المستقلين أصبحوا أكثر قدرة على تنفيذ مهام معقدة.. وهو ما يثير تساؤلات حول كيفية ضمان التزامهم بالحدود الموضوعة لهم.
ومن بين المخاوف التي طرحها احتمال تعلم بعض الأنظمة طرقا للتهرب من الرقابة البشرية أو خداع الأشخاص لتحقيق أهداف محددة.
كما حذر من أن بعض نماذج الذكاء الاصطناعي أصبحت قادرة بشكل متزايد على اختراق أنظمة الحاسوب والهروب منها.
وقد يسمح ذلك، في سيناريوهات معينة، لوكلاء الذكاء الاصطناعي بالتأثير المباشر على البنية التحتية الحيوية دون الحاجة إلى وجود كيان مادي داخل الموقع المستهدف.
ولا تعني هذه التصريحات أن جميع الأنظمة الحالية قادرة على تنفيذ هذه السيناريوهات،
لكنها تعكس قلقا متزايدا داخل أوساط تطوير الذكاء الاصطناعي بشأن اتساع نطاق المهام التي يمكن للأنظمة المستقلة تنفيذها.
إطلاق أسترا يثير أسئلة جديدة حول الأمان
تأتي تحذيرات باتشوكي بعد أيام من طرح أسترا، الذي تقدمه أوبن إيه آي باعتباره نموذجا عالي الكفاءة والأكثر ذكاء وأمانا حتى الآن.
وصمم النموذج للتعامل مع استخدام الحاسوب، والتصفح، وهندسة البرمجيات، والرياضيات، والأمن السيبراني، وسير العمل المؤسسي.
وتؤكد الشركة أن أسترا حقق تقدما كبيرا في اختبارات الأمان والالتزام بالتعليمات.. وأصبح أكثر موثوقية مقارنة بنماذج سابقة.
كما تشير إلى أنه يلتزم بالقواعد والحدود المفروضة عليه بصورة أفضل، في حين قد تتصرف بعض النسخ الأخرى بشكل غير مصرح به إذا رفعت عنها أنظمة الحماية.
ومع ذلك، يرى باتشوكي أن التقدم في الأمان لا يلغي الحاجة إلى الحذر.
فكلما زادت قدرات الأنظمة، أصبح من الضروري تطوير وسائل المراقبة والاختبار بالتوازي معها.. حتى لا تتسع الفجوة بين ما تستطيع النماذج فعله وما يمكن للبشر فهمه والتحكم فيه.
لماذا لا تكفبعد إطلاق أسترا.. كبير علماء أوبن إيه آي يحذر: لا أحد مستعد لعواقب الذكاء الاصطناعيي الحلول التقنية وحدها؟
أوضح باتشوكي أن أوبن إيه آي ستواصل العمل على تعزيز المواءمة والمراقبة.. وهي على استعداد لإيقاف أي توسع إضافي إذا لزم الأمر.
ويعني ذلك أن الشركة ترى أهمية وضع حدود واضحة أمام تطوير الأنظمة عندما لا تكون تدابير السلامة قادرة على مواكبة مستوى القدرات.
لكنه جادل بأن الحلول التقنية وحدها لن تكون كافية.
ودعا إلى تدخلات أوسع، تشمل جهودا منسقة لإبطاء تطوير الذكاء الاصطناعي عندما تعجز إجراءات الأمان عن مواكبة التطور.
ويعكس هذا الطرح اتجاها يرى أن التعامل مع مخاطر الذكاء الاصطناعي لا يقتصر على تحسين النماذج.. بل يحتاج أيضا إلى قواعد واضحة وآليات رقابة وتعاون بين الجهات المعنية.
مستقبل الذكاء الاصطناعي بين الابتكار والرقابة
يعكس تحذير كبير علماء أوبن إيه آي مفارقة واضحة في مسار صناعة الذكاء الاصطناعي.
فالشركات تسعى إلى تطوير نماذج أكثر قدرة على إنجاز المهام المعقدة، بينما تزداد الحاجة إلى التأكد من أن هذه القدرات تظل قابلة للمراقبة والتحكم.
ومن المتوقع أن يستمر الجدل حول حدود الذكاء الاصطناعي العام، خاصة مع انتقال النماذج من الإجابة عن الأسئلة إلى تنفيذ المهام.. واستخدام الحاسوب، والتعامل مع البرمجيات، والعمل ضمن سير عمل طويل.
وكلما توسعت هذه الاستخدامات، أصبحت قضايا الأمان والمواءمة أكثر أهمية بالنسبة إلى المستخدمين والشركات والجهات التنظيمية.
وفي هذا السياق، لا يقتصر تحذير باتشوكي على نموذج بعينه، بل يتناول مسار التطور نفسه.
فهو يرى أن التقدم المتواصل قد يفرض تحديات جديدة، وأن الاستعداد لها يجب أن يسبق وصول الأنظمة إلى مستويات أعلى من القدرة والاستقلالية.
ويؤكد هذا النقاش أن مستقبل الذكاء الاصطناعي لن يتحدد فقط بمدى قوة النماذج.. بل أيضا بقدرة البشر على وضع قواعد فعالة لاستخدامها، ومراقبة سلوكها، والتدخل عندما تتجاوز الحدود المسموح بها.
وبينما تواصل أوبن إيه آي تطوير نماذجها، تظل مسألة تحقيق التوازن بين الابتكار والأمان واحدة من أبرز القضايا التي تواجه صناعة التكنولوجيا.
