أظهرت دراسة حديثة أجراها باحثون من جامعة أكسفورد أن عدد أدوات الذكاء الاصطناعي المخصصة لتوليد الصور المزيّفة ارتفع إلى حوالي 35,000 أداة، وتم تحميل هذه الأدوات أكثر من 15 مليون مرة منذ عام 2022.
استهداف النساء يشكل 96% من أدوات توليد الصور المزيّفة
وفقًا للدراسة، تستهدف 96% من هذه الأدوات صور النساء، مما يرفع مخاطر استغلالها في التشهير والتحرش والابتزاز الإلكتروني.. وأشار الباحثون إلى أن النساء والأطفال هم الأكثر عرضة لهذه المخاطر.
سهولة الاستخدام وانتشار الأدوات
تسمح هذه الأدوات للمستخدمين بتوليد صور مزيفة باستخدام تقنيات متطورة مثل “Low Rank Adaptation (LoRA)”، التي تحتاج فقط إلى 20 صورة للشخص المستهدف و15 دقيقة فقط لإنشاء الصور، مما يسهل عملية استغلال هذه التكنولوجيا بشكل غير قانوني.
تأثير الأدوات على المجتمع
يؤكد الباحثون أن انتشار هذه الأدوات يمكن أن يؤثر سلبًا على الثقة الرقمية.. حيث يصعب على المستخدمين التمييز بين الصور الحقيقية والمزيفة، ما يهدد سلامة المعلومات وسمعة الأفراد على الإنترنت.
خطوات مستقبلية لمواجهة التحديات
تشير الدراسة إلى أهمية تطوير حلول تقنية متقدمة للكشف عن الصور والفيديوهات المزيفة.. بالإضافة إلى تعزيز التوعية المجتمعية بمخاطر هذه الأدوات وكيفية التعامل معها، وذلك للحد من تأثيرها السلبي.
ضرورة تنظيم حوكمة تقنيات الذكاء الاصطناعي
دعا الباحثون إلى وضع قوانين صارمة وتنظيمية للتحكم في استخدام أدوات الذكاء الاصطناعي لتوليد الصور والفيديوهات المزيفة. كما أكدوا على أهمية تطوير تقنيات للكشف المبكر عن هذه الصور للحماية من الأضرار المحتملة.
