هل يستنسخ الذكاء الاصطناعي نفسه وينتشر بين الأجهزة؟ تحذيرات من جيل جديد من الهجمات الإلكترونية
يثير التطور المتسارع في تقنيات الذكاء الاصطناعي مخاوف جديدة بشأن الأمن السيبراني، بعدما حذر بحث حديث لشركة أنثروبيك (Anthropic) من اقتراب نماذج الذكاء الاصطناعي الصغيرة من امتلاك قدرات تسمح لها بالانتقال بين الأجهزة غير المؤمنة، وتوسيع نطاق انتشارها بصورة آلية، وهو ما قد يمهد لظهور شبكات روبوتات خبيثة يصعب اكتشافها والتخلص منها.
وتفتح هذه التطورات الباب أمام تساؤلات مهمة حول مستقبل الهجمات الإلكترونية، خاصة إذا أصبحت أنظمة الذكاء الاصطناعي قادرة على التعامل مع أجهزة مختلفة، واكتشاف طرق تشغيل نفسها عليها دون تدخل بشري مستمر.
وأشار البحث الذي نشره فريق Frontier Red Team التابع لشركة أنثروبيك إلى أن الفترة المقبلة قد تشهد تطورًا في قدرات النماذج الصغيرة، بما يجعلها قادرة على تنفيذ مهام مرتبطة بالانتشار بين الأجهزة المتصلة بالشبكات.
ومع ذلك، يرى خبراء الأمن السيبراني أن وصف هذه القدرات بأنها استنساخ ذاتي قد يكون مبالغًا فيه، وأن التجارب الحالية لا تثبت بالضرورة قدرة الذكاء الاصطناعي على نسخ نفسه بالكامل والانتشار بالطريقة التي تعمل بها الفيروسات التقليدية.
هل يستطيع الذكاء الاصطناعي استنساخ نفسه؟
بحسب البحث، قد تتمكن نماذج الذكاء الاصطناعي الصغيرة خلال فترة قريبة من الانتقال بين الأجهزة غير المحمية، والاستفادة من إمكاناتها الحاسوبية لتشغيل عمليات جديدة.
ويعني ذلك احتمال ظهور نوع متطور من شبكات الروبوتات الخبيثة.. يعتمد على الذكاء الاصطناعي في التعامل مع بيئات تشغيل مختلفة، بدلًا من الاعتماد على تعليمات برمجية ثابتة ومحددة مسبقًا.
وتكمن خطورة هذا السيناريو في أن البرمجيات الخبيثة التقليدية غالبًا ما تحتاج إلى إعدادات مسبقة حتى تتمكن من العمل على أنواع معينة من الأجهزة.
أما الأنظمة المدعومة بالذكاء الاصطناعي، فقد تصبح أكثر قدرة على التكيف مع اختلافات الأجهزة والأنظمة.
وقال كريس كانال، الرئيس التنفيذي لشركة إيكوي ستامب المتخصصة في تقييم نماذج الذكاء الاصطناعي والعمل مع مختبرات الأبحاث والجهات المعنية بالسلامة.. إن ظهور هذه القدرات ربما يحدث في وقت أقرب مما كان يتوقعه.
وأوضح أن التطور السريع في النماذج يرجع جزئيًا إلى استخدام شركات الذكاء الاصطناعي أدواتها الخاصة في إجراء الأبحاث وتحسين تقنيات التعلم الآلي.
شبكة ميراي تكشف خطورة الأجهزة المتصلة بالإنترنت
لفهم طبيعة المخاطر المحتملة، يستعيد الخبراء تجربة شبكة ميراي (Mirai)، التي تعد من أبرز الأمثلة على استخدام الأجهزة المتصلة بالإنترنت في إنشاء شبكات ضخمة لتنفيذ الهجمات الإلكترونية.
ففي عام 2016، استغلت شبكة ميراي ثغرات في أجهزة إنترنت الأشياء، مثل أجهزة توجيه الإنترنت المنزلية وكاميرات المراقبة المتصلة بالشبكة.. وحولتها إلى أجهزة مشاركة في شبكة روبوتات خبيثة.
واستخدم المهاجمون هذه الأجهزة لتنفيذ هجوم حجب الخدمة الموزع (DDoS).. الذي تسبب في تعطيل خدمات ومواقع إلكترونية واسعة النطاق.
وشملت التأثيرات خدمات مرتبطة بشركات ومنصات شهيرة، من بينها أمازون وجيت هب وباي بال وريديت وتويتر، بعدما تعرضت شركة داين، إحدى الشركات الكبرى المقدمة لخدمات نظام أسماء النطاقات (DNS).. لهجوم أثر في قدرة المستخدمين على الوصول إلى مواقع متعددة.
وأظهرت هذه الواقعة أن الأجهزة التي تبدو عادية، مثل الكاميرات المنزلية وأجهزة الإنترنت، يمكن أن تتحول إلى أدوات فعالة في تنفيذ هجمات واسعة النطاق.
ويعتقد خبراء أن الذكاء الاصطناعي قد يضيف مستوى جديدًا من التعقيد إلى هذا النوع من الهجمات.. من خلال تقليل الحاجة إلى التدخل البشري عند التعامل مع أجهزة مختلفة.
ما الفرق بين فيروسات الإنترنت التقليدية والهجمات المدعومة بالذكاء الاصطناعي؟
تعتمد كثير من البرمجيات الخبيثة التقليدية على تعليمات برمجية معدة مسبقًا، وتحتاج إلى تعديلات حتى تعمل على بيئات تقنية مختلفة.
وقد ظهر هذا التحدي بوضوح في تجربة ميراي، التي تمكنت من استهداف أنواع متعددة من الأجهزة، لكن التعامل مع اختلاف المعماريات الحاسوبية كان يتطلب تدخلًا بشريًا لإعداد نسخ مناسبة من البرمجيات.
أما الذكاء الاصطناعي، فقد يتيح أتمتة بعض هذه العمليات، بحيث تتمكن الأدوات الخبيثة من تحليل البيئة التقنية المحيطة بها والتعامل مع اختلافات الأجهزة بصورة أكثر مرونة.
لكن مايكل بيلي، الأستاذ بكلية الأمن السيبراني والخصوصية في معهد جورجيا للتكنولوجيا.. يرى أن القدرة على التكيف ليست أمرًا جديدًا في عالم البرمجيات الخبيثة.
وأوضح أن شبكة ميراي أثبتت بالفعل إمكانية استهداف أجهزة متنوعة.. رغم اختلاف أنظمتها ومعمارياتها، مشيرًا إلى أن التطور المحتمل يتمثل في أتمتة خطوات التكيف باستخدام الذكاء الاصطناعي.
ومع ذلك، أبدى بيلي تحفظًا بشأن الأدلة التي قدمتها أنثروبيك، معتبرًا أن التجارب لا تثبت بصورة مقنعة حدوث استنساخ ذاتي كامل.
لماذا يشكك الخبراء في وصف الاستنساخ الذاتي؟
يرى بيلي أن وصف التجربة بأنها استنساخ ذاتي لا يعبر بدقة عن الآلية التي جرى اختبارها.
فبحسب تفسيره، تضمنت التجربة تقسيم النموذج إلى أجزاء واستخدام نسخ متعددة تتبادل المعلومات والملاحظات.. وهو ما يختلف عن دودة الإنترنت التقليدية التي تنسخ شيفرتها البرمجية إلى أجهزة أخرى وتعمل بصورة مستقلة.
وأشار إلى أن أنثروبيك اختبرت قدرات النموذج داخل شبكة محاكاة، واستخدمت ثغرة بسيطة نسبيًا للوصول إلى الأجهزة.
كما أن التجربة أظهرت قدرة نسخ النموذج على تبادل الملاحظات مع النسخ اللاحقة.. وتحسين خطوات إعداد بيئة تشغيل الاستدلال، لكنها لم تثبت أن النظام يستطيع إعادة تدريب نفسه بصورة مستقلة أو إنتاج نسخ كاملة من ذاته.
وبدلًا من ذلك، يطرح بيلي تصورًا مختلفًا لطريقة عمل شبكة روبوتات خبيثة مدعومة بالذكاء الاصطناعي.
وقد تعتمد هذه الشبكة على أداة صغيرة يتم تثبيتها على الجهاز المستهدف.. ثم تتولى التواصل مع جهة أخرى داخل الشبكة وتلقي التعليمات اللازمة لتنفيذ المهام.
وتشبه هذه الآلية ما يعرف باسم Dropper، وهو نوع من البرمجيات الخبيثة يستخدم للوصول إلى الجهاز وتثبيت أدوات أو شيفرات ضارة إضافية عليه.
هل يغير الذكاء الاصطناعي مستقبل الأمن السيبراني؟
لا تقتصر المخاوف على إمكانية انتشار البرمجيات الخبيثة، بل تمتد إلى تأثير الذكاء الاصطناعي في التوازن بين المهاجمين والجهات المسؤولة عن حماية الأنظمة والشبكات.
ويرى بيلي أن الذكاء الاصطناعي لن يقدم بالضرورة أنواعًا جديدة تمامًا من الهجمات.. لكنه قد يغير التكلفة والجهد المطلوبين لتنفيذها، وهو ما قد يمنح المهاجمين قدرات أكبر إذا تمكنوا من أتمتة بعض العمليات.
وفي المقابل، يمكن استخدام التقنيات نفسها لتطوير أدوات دفاعية أكثر قدرة على اكتشاف السلوكيات غير الطبيعية.. وتحليل حركة البيانات، والتعامل مع التهديدات الإلكترونية بسرعة أكبر.
وتزداد أهمية هذا التحدي مع انتشار أجهزة إنترنت الأشياء، التي تشمل الكاميرات الذكية وأجهزة التوجيه ومختلف الأجهزة المنزلية المتصلة بالإنترنت.
فكل جهاز غير مؤمن بصورة كافية قد يمثل نقطة دخول محتملة للمهاجمين.. خاصة إذا تمكنت البرمجيات الخبيثة من استغلال الثغرات الموجودة فيه.
كيف يمكن مواجهة تهديد شبكات الروبوتات المدعومة بالذكاء الاصطناعي؟
اقترحت شركة أنثروبيك مجموعة من الإجراءات التي يمكن أن تساعد في الحد من انتشار هذه التهديدات.. وفي مقدمتها تعزيز دور مزودي خدمات الإنترنت في اكتشاف الأجهزة المصابة والتعامل معها.
ومن بين المقترحات إخطار المستخدمين عند اكتشاف إصابة أحد أجهزتهم ببرمجيات خبيثة.. إلى جانب تقييد اتصال الأجهزة المصابة بالإنترنت.. بحيث لا تتمكن من الوصول إلا إلى قائمة محدودة من المواقع والخدمات الموثوقة.
وتعتمد هذه الفكرة على عزل الأجهزة المشتبه في إصابتها وتقليل قدرتها على التواصل مع بقية الشبكة.. وهو إجراء سبق استخدام أساليب مشابهة له في التعامل مع هجمات ميراي.
كما تبرز أهمية تحديث أنظمة التشغيل والبرامج الثابتة للأجهزة المتصلة بالإنترنت.. وتغيير كلمات المرور الافتراضية، وعدم ترك أجهزة التوجيه والكاميرات الذكية دون حماية.
وفي النهاية، لا يعني البحث أن الذكاء الاصطناعي أصبح قادرًا بالفعل على استنساخ نفسه والانتشار بحرية عبر الإنترنت.. لكنه يكشف عن اتجاه تقني يستحق المتابعة، خاصة مع تسارع قدرات النماذج وتزايد اعتماد الشركات على الأنظمة الذكية.
ويبقى التحدي الأساسي أمام خبراء الأمن السيبراني هو الاستعداد لاحتمال ظهور هجمات أكثر قدرة على التكيف والأتمتة.. قبل أن تتحول هذه الإمكانات إلى تهديد فعلي يصعب احتواؤه.
