كشفت واقعة أمنية جديدة عن تطور قدرات الذكاء الاصطناعي في مجال اكتشاف واستغلال الثغرات، بعدما تمكن باحثون في الأمن السيبراني من الوصول إلى حساب موظف في أوبن إيه آي، ثم استخدام هذا الوصول للوصول إلى الكود البرمجي الداخلي للشركة، وذلك بالاعتماد على نموذج كلود التابع لشركة أنثروبيك.
وبحسب المعلومات الواردة في التقرير، جاءت العملية ضمن برنامج رسمي أطلقته أوبن إيه آي لمكافأة الباحثين الذين يكتشفون الثغرات الأمنية، ما يعني أن الاختبار لم يكن هجومًا تقليديًا على الشركة، وإنما جرى في إطار البحث الأمني والإبلاغ عن نقاط الضعف.
اختراق شات جي بي تي يكشف تحديًا جديدًا
وأفادت التقارير بأن مجموعة من الباحثين في شركة هاكترون المتخصصة في الأمن السيبراني تمكنت من استغلال ثغرة أتاحت لهم الوصول إلى حساب شات جي بي تي خاص بأحد موظفي أوبن إيه آي.
وبعد الوصول إلى الحساب، تمكن الباحثون من الانتقال إلى أنظمة داخلية أخرى، وهو ما أتاح لهم الوصول إلى أجزاء من الكود البرمجي الداخلي للشركة.
وتشير التفاصيل إلى أن العملية استغرقت عدة أيام من العمل الآلي، بينما احتاجت إلى عدد محدود من ساعات العمل البشري.
كما قدرت تكلفة تنفيذ العملية بأقل من 3 آلاف دولار، في مقابل الحصول على نتائج كشفت نقاط ضعف لم تكن ظاهرة بالطرق التقليدية.
ومنحت أوبن إيه آي الباحثين مكافأة بلغت 6500 دولار بعد تقديم نتائج البحث والكشف عن الثغرات التي جرى العثور عليها.
كلود لعب دورًا في اكتشاف الثغرات
اعتمد الباحثون خلال التجربة على نموذج كلود من شركة أنثروبيك، المنافسة لأوبن إيه آي في مجال نماذج الذكاء الاصطناعي التوليدي.
ووفقًا للتقرير، حاول فريق هاكترون في البداية استخدام نموذج كلود أوبوس 4.8 للمساعدة في تنفيذ العملية، إلا أن النموذج واجه صعوبات في عدة جلسات ولم يتمكن من إنتاج ثغرة قابلة للاستغلال.
لكن الباحثين أعادوا التجربة بعد إطلاق نموذج أوبوس 5، وقالوا إن النموذج الجديد تمكن من تنفيذ المهمة بنجاح.
وتسلط هذه النتيجة الضوء على سرعة تطور نماذج الذكاء الاصطناعي وقدرتها المتزايدة على التعامل مع مهام الأمن السيبراني، سواء في الجانب الدفاعي أو في عمليات اكتشاف الثغرات واختبار الأنظمة.
الذكاء الاصطناعي يغير طريقة اختبار الأنظمة
يرى الباحثون أن التطور السريع في قدرات الذكاء الاصطناعي يمكن أن يغير طبيعة عمليات الأمن السيبراني خلال الفترة المقبلة.
وأوضح فريق هاكترون أن المهام التي كانت تحتاج في السابق إلى فرق كبيرة وموارد واسعة وفترات زمنية طويلة.. أصبح من الممكن تنفيذ أجزاء منها خلال أيام قليلة، مع تدخل بشري محدود.
ولا تقتصر أهمية هذه الواقعة على أوبن إيه آي أو شات جي بي تي فقط.. إذ ذكر الباحثون أنهم تمكنوا خلال العملية من اكتشاف نقاط ضعف في منصات وخدمات أخرى، من بينها سلاك وزوم وميتا.
ويعني ذلك أن استخدام الذكاء الاصطناعي في اختبار الاختراق يمكن أن يوسع نطاق عمليات البحث عن الثغرات.. لكنه في الوقت نفسه يفرض تحديات إضافية أمام الشركات التي تعتمد على الأنظمة الرقمية وتحتاج إلى حماية بنيتها التحتية وحسابات موظفيها.
نسخة خاصة من كلود للباحثين الأمنيين
وبحسب ما نقلته وول ستريت جورنال، امتلك الباحثون إمكانية الوصول إلى نسخة خاصة من نموذج كلود، كانت متاحة للمتخصصين المؤهلين في مجال الأمن السيبراني.
وتأتي هذه الخطوة في سياق استخدام نماذج الذكاء الاصطناعي المتقدمة في أبحاث الأمن.. حيث يمكن تدريب أو تهيئة النماذج للتعامل مع مهام تقنية معقدة تتعلق بتحليل الأنظمة واكتشاف نقاط الضعف.
وفي الوقت نفسه، تثير هذه القدرات تساؤلات حول كيفية تحقيق التوازن بين الاستفادة من الذكاء الاصطناعي في حماية الأنظمة.. ومنع استخدام الإمكانات نفسها في تنفيذ هجمات إلكترونية أكثر تعقيدًا.
أوبن إيه آي عالجت الثغرات المكتشفة
من جانبها، أوضحت أوبن إيه آي أنها تعاملت مع الثغرات الأمنية التي اكتشفها الباحثون وقامت بمعالجتها.
وتبرز أهمية برامج مكافآت اكتشاف الثغرات في السماح للباحثين الأمنيين باختبار الأنظمة بصورة منظمة.. ثم إبلاغ الشركات عن المشكلات التي يتم العثور عليها حتى يمكن إصلاحها قبل استغلالها بطرق غير مصرح بها.
وفي هذه الحالة، جرى الاختبار ضمن برنامج تابع لأوبن إيه آي، وهو ما يميز الواقعة عن عمليات الاختراق الإجرامية التي تستهدف سرقة البيانات أو تعطيل الخدمات.
لماذا تثير الواقعة اهتمام قطاع التكنولوجيا؟
تأتي واقعة اختراق شات جي بي تي ضمن نقاش أوسع حول تأثير تطور الذكاء الاصطناعي على الأمن السيبراني.
فمع ارتفاع قدرات النماذج الجديدة، أصبح بإمكانها تنفيذ عدد متزايد من المهام التقنية بمستوى أعلى من الاستقلالية.
ويمكن أن يمثل ذلك فرصة للباحثين الأمنيين، لكنه في الوقت نفسه يجعل حماية الحسابات والأنظمة الداخلية أكثر أهمية.
كما تكشف الواقعة أهمية تأمين حسابات الموظفين، خصوصًا عندما تكون هذه الحسابات مرتبطة بخدمات أو أنظمة داخلية حساسة.
فقد بدأ الوصول في هذه الحالة من حساب شات جي بي تي تابع لموظف، ثم تطور إلى الوصول إلى أجزاء من البنية البرمجية الداخلية.
وتشير نتائج الباحثين إلى أن الفارق بين قدرات النماذج المختلفة يمكن أن يكون مؤثرًا في مهام الأمن السيبراني.
فالنموذج الذي واجه صعوبة في تنفيذ المهمة خلال مرحلة الاختبار الأولى.. أصبح قادرًا على إتمامها بعد استخدام إصدار أحدث، وفقًا لما أورده الباحثون.
الذكاء الاصطناعي بين الحماية والهجمات الإلكترونية
توضح الواقعة أن الذكاء الاصطناعي أصبح جزءًا متزايد الأهمية من منظومة الأمن السيبراني.
ويمكن استخدام هذه التقنية في اكتشاف الثغرات وتحليل الأكواد ومراجعة الأنظمة.. كما يمكن أن تساعد فرق الأمن على التعامل مع كميات ضخمة من البيانات خلال وقت قصير.
في المقابل، يمكن أن يستفيد المهاجمون من القدرات نفسها لتسريع البحث عن نقاط الضعف وتقليل الوقت والموارد المطلوبة لتنفيذ بعض العمليات.
ولهذا السبب، يرى الباحثون المشاركون في التجربة أن إجراءات الحماية يجب أن تتطور بالتوازي مع تطور قدرات نماذج الذكاء الاصطناعي.
وتؤكد واقعة اختراق شات جي بي تي أن سباق تطوير الذكاء الاصطناعي لا يرتبط فقط بتحسين قدرات المحادثة وإنشاء المحتوى.. بل يمتد أيضًا إلى مجالات الأمن السيبراني وتحليل الأنظمة واكتشاف الثغرات.
وفي الوقت الذي أعلنت فيه أوبن إيه آي معالجة الثغرات التي اكتشفها الباحثون.. تظل الواقعة مثالًا على التحديات الجديدة التي تواجه شركات التكنولوجيا مع تزايد قدرة نماذج الذكاء الاصطناعي على تنفيذ مهام تقنية كانت تتطلب في السابق تدخلًا بشريًا أكبر ووقتًا أطول.
