أصدر المركز الوطني للاستعداد لطوارئ الحاسبات والشبكات EG-CERT، التابع للجهاز القومي لتنظيم الاتصالات، تنبيهًا أمنيًا عاجلًا بشأن ثغرة وُصفت بأنها حرجة في Google Gemini على نظام أندرويد. ويأتي هذا التحذير في وقت يتزايد فيه الاعتماد على تطبيقات الذكاء الاصطناعي في الحياة اليومية، الأمر الذي يرفع أهمية تأمين هذه المنصات ضد التهديدات السيبرانية المتطورة.
وفي هذا السياق، أوضح المركز أن الثغرة تستهدف آلية تعامل Gemini مع إشعارات التطبيقات المختلفة على أجهزة أندرويد. ولذلك، قد يتمكن المهاجمون من استغلال هذه الآلية لتنفيذ أوامر غير مصرح بها دون علم المستخدم.
علاوة على ذلك، تعتمد هذه الهجمات على أسلوب متقدم يعرف باسم “حقن الأوامر غير المباشر” أو Indirect Prompt Injection، وهو أسلوب يتيح للمهاجمين تمرير تعليمات خبيثة إلى أنظمة الذكاء الاصطناعي من خلال مصادر تبدو طبيعية وآمنة.
كيف تعمل الثغرة الأمنية في Gemini؟
تعتمد الثغرة على ميزة Android Utilities الموجودة داخل Google Gemini، والتي تسمح للتطبيق بقراءة الإشعارات الواردة من تطبيقات أخرى وتحليل محتواها.
وفي الظروف الطبيعية، تساعد هذه الميزة المستخدمين على إدارة الإشعارات والتفاعل معها بشكل أكثر سهولة. إلا أن المهاجمين اكتشفوا طريقة لاستغلال هذه الإمكانيات من خلال إدراج تعليمات ضارة داخل محتوى الإشعارات نفسها.
وبالتالي، عندما يقرأ Gemini هذه الإشعارات، قد يتعامل مع بعض النصوص المضمنة باعتبارها أوامر فعلية بدلاً من مجرد محتوى عادي.
ومن ناحية أخرى، تعتمد الهجمات على تقنية تعرف باسم Fake Context Alignment أو “محاذاة السياق المزيف”، حيث يصمم المهاجم الإشعار بطريقة توهم نموذج الذكاء الاصطناعي بأن التعليمات المضمنة جزء من السياق الشرعي الذي يجب تنفيذه.
تطبيقات شهيرة قد تستغل في تنفيذ الهجوم
أشار التنبيه الأمني إلى أن المهاجمين يستطيعون تمرير التعليمات الضارة عبر إشعارات صادرة من تطبيقات واسعة الانتشار.
وعلى سبيل المثال، تشمل قائمة التطبيقات التي قد تستخدم في هذا السيناريو:
- Messenger
- Slack
- Signal
- الرسائل النصية SMS
وبالإضافة إلى ذلك، لا يحتاج المهاجم في بعض الحالات إلى اختراق التطبيق نفسه، بل يكفي إرسال رسالة تحتوي على محتوى مصمم بعناية ليظهر لاحقًا داخل الإشعار الذي يقرأه Gemini.
لذلك، تزداد أهمية التعامل بحذر مع الرسائل والإشعارات الواردة من مصادر غير معروفة.
لماذا تمثل هذه الثغرة خطرًا كبيرًا؟
تمثل هذه الثغرة خطرًا كبيرًا لأنها تستغل قنوات اتصال يثق بها المستخدم بشكل يومي.
وفي المقابل، تعتمد معظم الهجمات التقليدية على إقناع المستخدم بالنقر على روابط أو تحميل ملفات ضارة. أما في هذه الحالة، فقد يحاول المهاجم التأثير على نظام الذكاء الاصطناعي مباشرة من خلال محتوى الإشعار.
وعلاوة على ذلك، يمكن أن يؤدي هذا النوع من الهجمات إلى تنفيذ إجراءات لا يتوقعها المستخدم، أو التأثير على طريقة استجابة المساعد الذكي للأوامر المختلفة.
كما يثير هذا النوع من الثغرات مخاوف متزايدة داخل مجتمع الأمن السيبراني، خاصة مع التوسع السريع في دمج نماذج الذكاء الاصطناعي داخل الهواتف الذكية والأجهزة المتصلة.
تنامي مخاطر هجمات حقن الأوامر ضد الذكاء الاصطناعي
شهدت الأشهر الأخيرة اهتمامًا متزايدًا بهجمات حقن الأوامر التي تستهدف أنظمة الذكاء الاصطناعي.
وفي هذا الإطار، يحذر الخبراء من أن المهاجمين لم يعودوا يركزون فقط على استهداف المستخدم النهائي، بل بدأوا أيضًا في استهداف النماذج الذكية نفسها.
كما تعتمد هذه الهجمات على التلاعب بالسياق الذي يقرأه النموذج، مما يسمح بإدخال تعليمات غير مرغوب فيها داخل البيانات التي يعالجها النظام.
وبالتالي، تحتاج الشركات المطورة للذكاء الاصطناعي إلى تطوير آليات أكثر تطورًا للكشف عن التعليمات الخبيثة وعزلها قبل وصولها إلى مراحل المعالجة والتنفيذ.
توصيات عاجلة لمستخدمي أندرويد
قدم المركز الوطني للاستعداد لطوارئ الحاسبات والشبكات مجموعة من التوصيات المهمة لتعزيز الحماية وتقليل احتمالات الاستغلال.
وفي البداية، نصح المركز بمراجعة الأذونات الممنوحة لتطبيق Google الذي يتضمن خدمات Gemini.
كما أوصى المستخدمين بإعادة تقييم أذونات قراءة الإشعارات والرد عليها، خاصة إذا لم تكن هناك حاجة فعلية لهذه الصلاحيات.
بالإضافة إلى ذلك، دعا المركز إلى تعطيل ميزة Android Utilities داخل إعدادات Gemini كلما أمكن ذلك.
ومن ناحية أخرى، يجب على المستخدمين توخي الحذر عند التعامل مع الإشعارات التي تتضمن روابط مجهولة أو نصوصًا غير معتادة أو طلبات تبدو غريبة.
علاوة على ذلك، يفضل تجنب التفاعل مع الرسائل المشبوهة حتى في حال وصولها من تطبيقات موثوقة.
أهمية التحديثات الأمنية في مواجهة التهديدات الحديثة
أكد المركز أن التحديثات الأمنية تمثل خط الدفاع الأول ضد العديد من الثغرات الإلكترونية.
ولذلك، يجب على المستخدمين تثبيت أحدث التحديثات المتاحة لنظام أندرويد والتطبيقات المرتبطة به بشكل منتظم.
كما تساهم التحديثات الدورية في معالجة الثغرات المكتشفة وتحسين قدرات الحماية ضد الهجمات الجديدة.
وفي الوقت نفسه، تواصل الشركات المطورة للبرمجيات تحديث أنظمتها لمواكبة التطور المستمر في أساليب الهجوم السيبراني.
الأمن السيبراني والذكاء الاصطناعي.. تحديات متزايدة
يعكس هذا التنبيه الأمني حجم التحديات التي تواجهها تقنيات الذكاء الاصطناعي الحديثة.
فمن جهة، توفر هذه التقنيات إمكانيات كبيرة لتحسين الإنتاجية وتسهيل حياة المستخدمين. ومن جهة أخرى، تجذب هذه المنصات اهتمام المهاجمين الذين يبحثون باستمرار عن طرق جديدة للاستغلال.
لذلك، يتطلب الاستخدام الآمن للذكاء الاصطناعي مزيجًا من الوعي الأمني والتحديثات المستمرة والممارسات الرقمية السليمة.
خلاصة
يكشف التنبيه الأمني رقم 908-2026 عن مخاطر جديدة تستهدف تطبيق Google Gemini على نظام أندرويد من خلال استغلال إشعارات التطبيقات وتقنيات حقن الأوامر غير المباشر. وفي ضوء ذلك، تبرز أهمية تحديث الأنظمة بشكل مستمر، ومراجعة الأذونات الممنوحة للتطبيقات، وتعطيل الميزات غير الضرورية. كما يساعد الالتزام بالتوصيات الصادرة عن الجهات المختصة في تقليل المخاطر وتعزيز أمن المستخدمين في مواجهة التهديدات السيبرانية المتطورة.
