كشفت تقارير أمنية حديثة عن ثغرة أمنية خطيرة تستهدف مساعد الذكاء الاصطناعي Google Gemini على الهواتف العاملة بنظام Android، ما يفتح الباب أمام نوع جديد من الهجمات السيبرانية التي تعتمد على التلاعب بالذكاء الاصطناعي عبر إشعارات الهاتف العادية، دون الحاجة إلى اختراق الجهاز أو تثبيت برمجيات خبيثة.
وتأتي هذه التطورات في وقت تتوسع فيه الشركات التقنية في دمج تقنيات الذكاء الاصطناعي التوليدي داخل أنظمة التشغيل والتطبيقات اليومية، بهدف تحسين تجربة المستخدم وزيادة الإنتاجية، إلا أن هذه الخطوة تخلق في المقابل تحديات أمنية غير مسبوقة.
كيف تعمل الثغرة الجديدة؟
تعتمد الثغرة على أسلوب هجومي متطور يُعرف باسم “حقن الأوامر غير المباشر” (Indirect Prompt Injection)، حيث يتم إرسال رسائل تحتوي على تعليمات مخفية عبر تطبيقات المراسلة المختلفة. وعندما تصل هذه الرسائل إلى الهاتف وتظهر في شكل إشعارات، قد يتعامل Google Gemini مع أجزاء من محتواها باعتبارها أوامر قابلة للتنفيذ بدلاً من مجرد نصوص للقراءة.
وبحسب خبراء أمن المعلومات، فإن المهاجم لا يحتاج إلى الوصول المباشر للهاتف أو تثبيت برامج ضارة، إذ يكفي إرسال رسالة مُصممة بعناية ليتم استغلال طريقة معالجة نموذج الذكاء الاصطناعي للبيانات الواردة عبر الإشعارات.
استهداف وظيفة Android Utilities
تكمن خطورة الثغرة في استهدافها لوظيفة ذكية داخل Google Gemini تُعرف باسم Android Utilities، وهي المسؤولة عن قراءة البيانات الواردة من التطبيقات المختلفة وتحليلها، بما في ذلك الإشعارات والتنبيهات.
ويمكن استغلال هذه الآلية عبر تطبيقات شهيرة مثل WhatsApp وSignal وMessenger وSlack وInstagram، بالإضافة إلى الرسائل النصية القصيرة.
خبراء: التهديدات أصبحت تستهدف “عقل” الذكاء الاصطناعي
أكد خبراء أمن سيبراني أن هذه الحادثة تمثل تحولاً كبيراً في طبيعة التهديدات الرقمية.. إذ لم تعد الهجمات تستهدف الثغرات البرمجية التقليدية فقط، بل أصبحت تركز على آلية فهم الذكاء الاصطناعي للمعلومات وكيفية تفسيره للسياق.
وأشاروا إلى أن المهاجمين باتوا يعتمدون على أساليب جديدة مثل “محاذاة السياق المزيف” (Fake Context Alignment).. وهي تقنية تهدف إلى خداع نموذج الذكاء الاصطناعي من خلال تقديم معلومات تبدو طبيعية ومشروعة.. بينما تتضمن في الواقع تعليمات خفية تؤثر على سلوكه واستجاباته.
ظهور جيل جديد من الهجمات الرقمية
ويرى متخصصون أن هذه الواقعة تمثل بداية مرحلة جديدة من الهجمات الإلكترونية يمكن وصفها بـ”هجمات هندسة السياق”.. حيث يركز المهاجمون على استغلال طريقة تفكير النماذج الذكية بدلاً من استغلال الأكواد البرمجية فقط.
ومع توسع استخدام الذكاء الاصطناعي في إدارة البيانات والتفاعل مع المستخدمين.. يتوقع الخبراء أن تصبح حماية نماذج الذكاء الاصطناعي نفسها جزءاً أساسياً من استراتيجيات الأمن السيبراني خلال السنوات المقبلة.
كيف يمكن للمستخدمين حماية أنفسهم؟
يوصي خبراء الأمن السيبراني باتباع مجموعة من الإجراءات الوقائية للحد من مخاطر هذه التهديدات، أبرزها:
تثبيت التحديثات الأمنية فور صدورها.
مراجعة الصلاحيات الممنوحة لتطبيقات الذكاء الاصطناعي.
تقليل الوصول إلى الإشعارات والبيانات الحساسة عند عدم الحاجة.
تجنب التفاعل مع الرسائل الواردة من مصادر غير معروفة.
عدم فتح الروابط المشبوهة أو غير المتوقعة.
تعطيل الوظائف الذكية غير الضرورية في حال عدم استخدامها.
تحديات جديدة في عصر الذكاء الاصطناعي
تسلط هذه الثغرة الضوء على التحديات الأمنية المتزايدة المصاحبة للانتشار السريع لتقنيات الذكاء الاصطناعي.. إذ باتت حماية المستخدمين لا تقتصر على مكافحة البرمجيات الخبيثة والهجمات التقليدية.. بل تمتد أيضاً إلى تأمين النماذج الذكية ضد محاولات التلاعب والخداع، في معركة أمنية يتوقع أن تتصاعد حدتها خلال السنوات القادمة.
