كشفت تقارير أمنية حديثة عن ثغرة خطيرة في نظام الذكاء الاصطناعي Google Gemini على الهواتف العاملة بنظام Android، إذ تتيح للمهاجمين استغلال إشعارات الهاتف لتنفيذ هجمات سيبرانية تعتمد على الذكاء الاصطناعي. ويعكس هذا التطور تحولًا جديدًا في طبيعة التهديدات الرقمية، حيث لم تعد الهجمات تقتصر على الروابط الخبيثة أو البرمجيات الضارة التقليدية.
ثغرة Google Gemini تثير مخاوف خبراء الأمن السيبراني
أكد محمد محسن رمضان، رئيس وحدة الذكاء الاصطناعي والأمن السيبراني بمركز العرب للأبحاث والدراسات، أن هذه الثغرة تمثل جرس إنذار حقيقيًا لقطاع الأمن السيبراني. وأوضح أن المهاجمين بدأوا يستهدفون آلية عمل نماذج الذكاء الاصطناعي نفسها، بدلًا من التركيز فقط على الأنظمة والأجهزة.
وأضاف أن الشركات التقنية تواصل دمج تقنيات الذكاء الاصطناعي التوليدي في أنظمة التشغيل لتحسين تجربة المستخدم وزيادة الإنتاجية. وفي المقابل، يطوّر المهاجمون أساليب جديدة لتحويل هذه التقنيات إلى أدوات تساعدهم على تنفيذ هجمات أكثر تعقيدًا.
كيف تستغل الهجمات إشعارات الهاتف؟
تعتمد الثغرة على تقنية تعرف باسم “حقن الأوامر غير المباشر” أو Indirect Prompt Injection. وتسمح هذه التقنية للمهاجم بإدراج تعليمات مخفية داخل رسائل تبدو طبيعية للمستخدم.
وأشار رمضان إلى أن المهاجم يستطيع إرسال رسالة عبر تطبيقات المراسلة الشهيرة مثل WhatsApp وSignal وMessenger وSlack وInstagram أو حتى الرسائل النصية القصيرة. وعندما تصل الرسالة إلى الهاتف.. ينشئ النظام إشعارًا يتعامل معه Gemini باعتباره جزءًا من البيانات التي يحتاج إلى معالجتها.
وتكمن المشكلة في أن النظام قد يفسر بعض التعليمات المخفية داخل الإشعار على أنها أوامر تشغيلية موجهة إليه.. وهو ما يمنح المهاجم فرصة للتأثير على سلوك المساعد الذكي دون الحاجة إلى اختراق الهاتف بشكل مباشر.
هجمات هندسة السياق تمثل تهديدًا جديدًا
من جانبه، وصف محمد رجائي، مساعد وزير الداخلية المصري الأسبق.. هذه الواقعة بأنها بداية مرحلة جديدة من التهديدات الرقمية أطلق عليها اسم “هجمات هندسة السياق”.
وأوضح أن المهاجمين لم يعودوا يعتمدون فقط على استغلال الثغرات البرمجية، بل أصبحوا يستهدفون طريقة فهم أنظمة الذكاء الاصطناعي للمعلومات. لذلك، باتت حماية نماذج الذكاء الاصطناعي من الخداع والتلاعب جزءًا أساسيًا من منظومة الأمن السيبراني الحديثة.
كما حذر من منح الثقة الكاملة للأنظمة الذكية، لأن هذه النماذج قد تعجز أحيانًا عن التمييز بين المحتوى العادي والتعليمات الخفية المصممة بعناية.
خطوات مهمة للحماية من ثغرة Google Gemini
شدد الخبراء على أهمية اتخاذ عدة إجراءات وقائية للحد من مخاطر هذه الهجمات. وتشمل هذه الإجراءات تثبيت التحديثات الأمنية فور صدورها، ومراجعة الصلاحيات الممنوحة لتطبيقات الذكاء الاصطناعي.. خاصة تلك المتعلقة بقراءة الإشعارات والتفاعل معها.
كذلك نصحوا بتعطيل الميزات الذكية غير الضرورية عند عدم استخدامها، وتجنب التعامل مع الرسائل الواردة من مصادر مجهولة.. فضلًا عن الامتناع عن فتح الروابط المشبوهة أو غير المتوقعة.
ومع تزايد الاعتماد على تقنيات الذكاء الاصطناعي في الحياة اليومية، تبرز الحاجة إلى تطوير آليات حماية جديدة تواكب طبيعة التهديدات الحديثة، خاصة أن الهجمات السيبرانية لم تعد تستهدف الأجهزة فقط، بل أصبحت تستهدف أيضًا طريقة تفكير الأنظمة الذكية وآلية اتخاذها للقرارات.
