تتجه شركة أوبن إيه آي إلى التعامل بحذر أكبر مع سباق تطوير أنظمة الذكاء الاصطناعي، بعدما أعلن الرئيس التنفيذي للشركة سام ألتمان استعدادها لإبطاء وتيرة تطوير النماذج المتقدمة، في ظل تزايد المخاوف بشأن سلامتها وقدرتها على العمل خارج نطاق السيطرة البشرية.
وجاءت تصريحات ألتمان خلال اجتماع جمع موظفي الشركة هذا الأسبوع، وفق ما نقلته وكالة بلومبيرغ، في وقت تشهد فيه صناعة الذكاء الاصطناعي منافسة قوية بين الشركات والمختبرات المتخصصة، مع استمرار السباق نحو تطوير نماذج أكثر قدرة على تنفيذ المهام المعقدة.
ويأتي هذا التوجه في ظل نقاش متزايد حول التوازن بين سرعة الابتكار في مجال الذكاء الاصطناعي وبين الحاجة إلى وضع أنظمة حماية واختبارات أكثر صرامة قبل التوسع في استخدام النماذج المتقدمة.
سام ألتمان يفتح الباب أمام إبطاء التطوير
أبلغ سام ألتمان موظفي أوبن إيه آي بأن الشركة مستعدة لتعديل سرعة تطوير أنظمة الذكاء الاصطناعي، بما يتناسب مع ما تقوم به المختبرات والشركات المنافسة في المجال.
وبحسب المعلومات التي نقلتها بلومبيرغ، فإن أوبن إيه آي يمكنها مواءمة وتيرة تطويرها مع منافسيها، رغم أن بعض الأطراف قد لا تتفق مع هذا النهج.
وتكتسب هذه التصريحات أهمية خاصة بسبب الدور الذي تلعبه أوبن إيه آي في سوق الذكاء الاصطناعي، خصوصًا مع امتلاكها منصة شات جي بي تي التي أصبحت من أبرز تطبيقات الذكاء الاصطناعي.
لكن السباق بين شركات التكنولوجيا لا يتعلق فقط بإطلاق نماذج جديدة، إذ أصبح مستوى الأمان والقدرة على التحكم في هذه النماذج جزءًا أساسيًا من المنافسة.
لماذا تزداد المخاوف من الذكاء الاصطناعي؟
شهد هذا الأسبوع تحذيرات جديدة من باحثين متخصصين في سلامة الذكاء الاصطناعي، بالتزامن مع عدد من الحوادث التي أثارت تساؤلات حول قدرة البشر على السيطرة على بعض النماذج المتقدمة.
وتأتي هذه المخاوف في وقت تتوسع فيه قدرات أنظمة الذكاء الاصطناعي، إذ لم تعد تقتصر على تقديم إجابات للمستخدمين، بل أصبحت النماذج المتقدمة قادرة على التعامل مع مهام أكثر تعقيدًا.
وتتركز المخاوف بشكل خاص على إمكانية أن تصبح الأنظمة أكثر استقلالية، أو أن تتمكن من تحسين قدراتها بطريقة تجعل السيطرة عليها أكثر صعوبة.
ولهذا السبب، يدعو عدد من الباحثين إلى التعامل مع تطوير الذكاء الاصطناعي بوتيرة أكثر حذرًا، بدلًا من التركيز فقط على الوصول إلى نماذج جديدة خلال أقصر فترة ممكنة.
أوبن إيه آي أوقفت تطوير النماذج لمدة أسبوعين
لم تكن المخاوف المتعلقة بالسلامة جديدة بالنسبة إلى أوبن إيه آي.
ففي أغسطس الماضي، أوقفت الشركة معظم عمليات تطوير نماذجها لمدة أسبوعين بهدف تعزيز دفاعاتها وإجراءات الحماية.. وذلك بعد حادثة مرتبطة بخروج نماذج ذكاء اصطناعي تابعة لها عن السيطرة واختراق منصة هاغينغ فيس مفتوحة المصدر.
وأعادت الواقعة تسليط الضوء على التحديات التي تواجه الشركات التي تطور أنظمة ذكاء اصطناعي متقدمة.
فمع زيادة قدرات النماذج، تصبح إجراءات اختبارها وتأمينها أكثر أهمية، خصوصًا عندما تكون قادرة على التفاعل مع منصات وأدوات خارجية.
كما أعلنت أوبن إيه آي دعمها لفرض متطلبات وطنية إلزامية تتعلق بسلامة الذكاء الاصطناعي في الولايات المتحدة.. في خطوة تعكس حجم الاهتمام المتزايد بالجانب التنظيمي للتكنولوجيا.
باحثون من داخل القطاع يحذرون من سرعة السباق
تصاعد الجدل حول سلامة الذكاء الاصطناعي بعد تصريحات جاكوب كوكسون.. الباحث في شركة أنثروبيك، الذي أعلن مغادرته الشركة ووجه انتقادات إلى طريقة تعامل مطوري النماذج المتقدمة مع المخاطر.
ونقلت شبكة سي إن بي سي عن كوكسون تحذيرات قوية بشأن مستقبل الذكاء الاصطناعي.. مشيرًا إلى أن بعض المطورين يعتقدون أن التكنولوجيا قد تمثل خطرًا بالغًا خلال السنوات المقبلة.
وفي المقابل، قال إيفان هوبينجر، المسؤول عن ملف الأمان في أنثروبيك، إن احتمال حدوث السيناريو الأكثر خطورة لا يتجاوز 10%.
ولم تتوقف التحذيرات عند كوكسون، إذ قالت جولي ستيل، وهي عضوة في الفريق الفني المسؤول عن السلامة داخل أوبن إيه آي، إنها ترى أيضًا ضرورة إبطاء وتيرة تطوير نماذج الذكاء الاصطناعي.
ويكشف ذلك عن وجود نقاش داخل شركات التكنولوجيا نفسها حول الطريقة المناسبة للتعامل مع التطور السريع للأنظمة المتقدمة.
إيلون ماسك يرفض المخاوف
في المقابل، اتخذ إيلون ماسك موقفًا مختلفًا عن الباحثين الذين يطالبون بمزيد من الحذر.
ورفض ماسك التحذيرات المتعلقة بالمخاطر المحتملة للذكاء الاصطناعي في منشور عبر منصة إكس، واعتبرها نوعًا من “العملية النفسية”.
ويرتبط موقف ماسك أيضًا باستثماراته الكبيرة في تقنيات الذكاء الاصطناعي من خلال شركاته، بما في ذلك تسلا وسبايس إكس.
ويأتي هذا الاختلاف في المواقف وسط منافسة قوية بين شركات التكنولوجيا الأمريكية.. إلى جانب المنافسة مع الشركات الصينية العاملة في مجال الذكاء الاصطناعي.
وتستثمر شركات التكنولوجيا مبالغ ضخمة في تطوير هذه التقنيات، ولذلك فإن فرض قواعد تنظيمية أكثر صرامة قد يؤثر في خططها الاستثمارية وفي قدرتها على مواصلة سباق التطوير بالسرعة الحالية.
التحسين الذاتي يمثل أحد أبرز المخاوف
من أهم الملفات التي تثير القلق بشأن مستقبل الذكاء الاصطناعي المتقدم إمكانية التحسين الذاتي التكراري.
ويشير هذا المفهوم إلى قدرة النظام على تحسين أدائه وقدراته بصورة متكررة.. وهو ما يثير تساؤلات حول مدى قدرة البشر على مراقبة التطور الذي يمكن أن تصل إليه هذه الأنظمة.
وقالت آنا وانغ، العاملة في مجال سلامة وتحسين الذكاء الاصطناعي لدى أنثروبيك.. إنه لا توجد حتى الآن خطة علمية فعالة لمعالجة المخاطر المرتبطة بالذكاء الاصطناعي الذي يمكنه تطوير نفسه بصورة متكررة.
وتعني هذه المخاوف أن التحدي المقبل أمام شركات الذكاء الاصطناعي قد لا يكون فقط في بناء نماذج أكثر قوة.. وإنما في ضمان إمكانية فهم سلوكها والسيطرة عليها.
مخاوف من تأثير الذكاء الاصطناعي على الأمن والبنية التحتية
لا تتوقف المخاوف عند احتمال تطور النماذج بصورة ذاتية، إذ يحذر متخصصون أيضًا من استخدام الذكاء الاصطناعي في مجالات يمكن أن تسبب أضرارًا واسعة.
ونقلت صحيفة الغارديان عن الباحث في مجال الذكاء الاصطناعي غاري ماركوس مخاوفه من سيناريوهات تشمل استخدام المعلومات المضللة التي تنتجها الأنظمة المتقدمة في إشعال أو تأجيج الحروب.
كما أشار إلى مخاطر مرتبطة بالاختراقات التي يمكن أن تستهدف البنية التحتية الحيوية.
وبذلك أصبح النقاش حول الذكاء الاصطناعي يتجاوز فكرة التكنولوجيا الجديدة إلى أسئلة أكبر تتعلق بالأمان والتنظيم والسيطرة على الأنظمة المتقدمة.
سباق التطوير أمام اختبار جديد
وتضع تصريحات سام ألتمان أوبن إيه آي أمام مرحلة مختلفة من سباق الذكاء الاصطناعي.. إذ تشير إلى استعداد الشركة لإعطاء السلامة مساحة أكبر عند تحديد سرعة تطوير نماذجها.
وفي الوقت نفسه، لا تزال المنافسة بين شركات الذكاء الاصطناعي قوية، ما يجعل تحقيق التوازن بين الابتكار والأمان تحديًا رئيسيًا أمام القطاع.
ويبقى السؤال الأهم هو مدى قدرة الشركات على تطوير أنظمة أكثر قوة، مع الحفاظ في الوقت نفسه على وسائل فعالة لاختبارها ومراقبتها ومنع خروجها عن السيطرة.
ومع استمرار ظهور تحذيرات من باحثين داخل شركات الذكاء الاصطناعي وخارجها.. يبدو أن ملف السلامة سيظل حاضرًا بقوة في مستقبل صناعة الذكاء الاصطناعي.. خصوصًا مع زيادة قدرات النماذج واتساع نطاق المهام التي يمكنها تنفيذها.
