القراصنة يخدعون وكلاء الذكاء الاصطناعي برسائل خفية.. كيف تحمي بريدك وحساباتك من الاختراق؟
حذرت تقارير متخصصة في الأمن السيبراني من تزايد المخاطر المرتبطة بهجمات التصيد الإلكتروني التي تستهدف وكلاء الذكاء الاصطناعي، من خلال تضمين تعليمات خفية داخل رسائل البريد الإلكتروني، بهدف خداع هذه الأنظمة وتعريض بيانات المستخدمين وحساباتهم للخطر.
وتثير هذه الهجمات مخاوف جديدة مع تزايد الاعتماد على مساعدي الذكاء الاصطناعي في قراءة الرسائل الإلكترونية، واستخراج المعلومات، وتنفيذ المهام نيابة عن المستخدمين، خاصة عندما يمتلك هؤلاء المساعدون صلاحيات واسعة للوصول إلى البيانات الشخصية والحسابات الحساسة.
كيف يخدع القراصنة وكلاء الذكاء الاصطناعي؟
حذرت شركة Malwarebytes المتخصصة في الأمن السيبراني من هجمات تُعرف باسم «حقن الأوامر» (Prompt Injection)، وهي أسلوب يعتمد على إدراج تعليمات خبيثة داخل محتوى تتعامل معه أنظمة الذكاء الاصطناعي.
وبحسب تقرير نشره موقع Futurism، قد تتضمن رسائل التصيد الإلكتروني تعليمات مخفية لا يلاحظها المستخدم بسهولة، لكنها قد تؤثر في طريقة معالجة وكيل الذكاء الاصطناعي للرسالة، إذا لم تتوافر لديه آليات حماية مناسبة.
وتكمن خطورة هذه الهجمات في محاولة استغلال قدرة الوكيل على قراءة المحتوى واتخاذ الإجراءات بناءً عليه.
فقد تسعى التعليمات الخبيثة إلى توجيهه نحو التعامل مع رسالة احتيالية باعتبارها موثوقة، أو دفعه إلى تنفيذ إجراءات قد تكشف بيانات حساسة.
ما خطورة هجمات حقن الأوامر على بيانات المستخدمين؟
تزداد خطورة هذه الهجمات عندما يمتلك مساعد الذكاء الاصطناعي صلاحية الوصول إلى البريد الإلكتروني أو الملفات أو الحسابات المرتبطة به.
فبدلًا من استهداف المستخدم برسالة احتيالية مباشرة، قد يحاول المهاجم خداع المساعد الذي يعتمد عليه المستخدم في إدارة مهامه اليومية.
وتشمل المخاطر المحتملة كشف معلومات خاصة، أو إساءة استخدام الصلاحيات الممنوحة للوكيل، أو التأثير في القرارات التي يتخذها بناءً على محتوى الرسائل.
وتصبح هذه المخاطر أكثر أهمية عند استخدام وكلاء ذكاء اصطناعي قادرين على تنفيذ سلسلة من المهام بصورة مستقلة، دون مراجعة بشرية لكل خطوة.
وأشار مطور خدمة ShipItClean، أبولو راينز، إلى أن أحد التحديات الأساسية يتمثل في صعوبة التمييز بين النص الذي ينبغي للنموذج قراءته والتعليمات التي يُفترض أن يتبعها.
ولذلك، فإن معالجة المحتوى الخفي والخبيث قبل وصوله إلى نموذج الذكاء الاصطناعي.. إلى جانب تطوير آليات حماية أكثر كفاءة، قد يساعدان في الحد من فرص نجاح هذه الهجمات.
كيف تحمي بريدك الإلكتروني وحساباتك من الاختراق؟
في مواجهة هذه المخاطر، توصي شركة Malwarebytes بالإبقاء على الإشراف البشري عند استخدام مساعدي الذكاء الاصطناعي، وعدم منحهم صلاحيات تتجاوز احتياجات المهام المطلوبة.
ويمكن للمستخدمين اتباع الخطوات التالية لتعزيز حماية بياناتهم:
1- راجع رسائل البريد الإلكتروني بنفسك
لا تعتمد بصورة كاملة على تقييم مساعد الذكاء الاصطناعي للرسائل، خاصة عندما تتضمن روابط غير مألوفة أو مرفقات مشبوهة أو طلبات للحصول على معلومات شخصية.
2- تحقق من طلبات الدفع وتغيير البيانات
إذا تلقيت رسالة تطلب تحويل أموال أو تعديل بيانات الدفع الخاصة بأحد الموردين.. فتحقق من صحتها عبر وسيلة اتصال مستقلة وموثوقة قبل اتخاذ أي إجراء.
3- قلل صلاحيات وكلاء الذكاء الاصطناعي
امنح المساعد الصلاحيات الضرورية فقط لإنجاز مهامه.. وتجنب إتاحة الوصول غير الضروري إلى الحسابات المالية والملفات الحساسة والبيانات الشخصية.
4- اشترط الموافقة البشرية على الإجراءات الحساسة
لا تسمح بتنفيذ التحويلات المالية أو تغيير بيانات الحسابات تلقائيًا دون مراجعة وموافقة صريحة منك.. حتى إذا أوصى مساعد الذكاء الاصطناعي بتنفيذ الإجراء.
5- لا تثق في الرسائل لمجرد أن المساعد صنفها باعتبارها آمنة
قد تتجاوز بعض الهجمات آليات الفحص التقليدية.. لذلك ينبغي التأكد من مصدر الرسالة ومراجعة محتواها قبل الضغط على الروابط أو مشاركة المعلومات.
هل يعني ذلك التوقف عن استخدام مساعدي الذكاء الاصطناعي؟
لا يعني ظهور هذه التهديدات ضرورة التوقف عن استخدام أدوات الذكاء الاصطناعي.. لكنها تؤكد أهمية التعامل معها بحذر، خصوصًا عند ربطها بالبريد الإلكتروني والحسابات الشخصية.
وتشير التحذيرات الأمنية إلى أن المسؤولية لا تقع على المستخدم وحده.. بل تتطلب أيضًا تطوير الأنظمة المستخدمة في فحص الرسائل واستخراج المعلومات، بما يساعد على اكتشاف التعليمات الخبيثة ومنعها من التأثير في سلوك النماذج.
ومع توسع استخدام الوكلاء المستقلين القادرين على تنفيذ المهام نيابة عن المستخدمين.. تصبح إدارة الصلاحيات والمراجعة البشرية والتحقق من العمليات الحساسة عناصر أساسية لحماية البيانات.
وفي النهاية، تظل القاعدة الأهم هي عدم منح مساعد الذكاء الاصطناعي ثقة مطلقة أو صلاحيات غير محدودة.. والتأكد من سلامة الإجراءات التي ينفذها قبل السماح له بالوصول إلى المعلومات الحساسة أو اتخاذ قرارات قد تؤثر في أمان الحسابات والأموال.
