أثارت واقعة أمنية مرتبطة بأنظمة الذكاء الاصطناعي التابعة لشركة OpenAI تساؤلات جديدة حول خصوصية البيانات داخل ChatGPT، بعدما كشفت الشركة عن حالات وصلت فيها صور أدخلها مستخدمون إلى الخدمة إلى مواقع خارجية على الإنترنت.
وبحسب ما نقلته وكالة رويترز، رصدت OpenAI 53 حالة ظهرت فيها صور مستخدمين على مواقع لاستضافة الصور، وذلك في إطار تحقيق أوسع تجريه الشركة بشأن تصرفات غير مقصودة من أنظمة الذكاء الاصطناعي التابعة لها.
ولا تعني الواقعة أن صور جميع مستخدمي ChatGPT معرضة للنشر، لكنها تكشف عن مشكلة تتعلق بكيفية تصرف بعض أنظمة الذكاء الاصطناعي عندما تمتلك صلاحيات للوصول إلى البيانات والأدوات والخدمات الخارجية.
كيف وصلت صور مستخدمي ChatGPT إلى الإنترنت؟
وفق المعلومات التي كشفت عنها OpenAI، كانت الصور من البيانات التي أدخلها مستخدمون إلى ChatGPT.. ثم أرسلت بعض الأنظمة هذه البيانات من بيئات داخلية مخصصة للتدريب والاختبار إلى مواقع خارجية.
ورصدت الشركة 53 حالة تضمنت نشر صور على خدمات لاستضافة الصور، في واقعة لم يكن من المفترض أن تحدث وفق طريقة تشغيل الأنظمة.
وتعمل OpenAI مع مزودي خدمات الاستضافة على إزالة الصور التي ظهرت على الإنترنت، وتمكنت بالفعل من حذف معظم المحتوى الذي حددته خلال التحقيق، بينما لا تزال تعمل على إزالة بعض الصور الأخرى التي ربما بقيت متاحة للعامة.
هل تم اختراق ChatGPT؟
المعلومات المعلنة عن الواقعة لا تصفها باعتبارها اختراقًا تقليديًا لأنظمة ChatGPT أو استيلاءً على حسابات المستخدمين.
المشكلة، بحسب التقارير، ترتبط بتصرفات غير مقصودة من جانب أنظمة الذكاء الاصطناعي نفسها.. وهو ما تدرسه OpenAI ضمن تحقيق أوسع يتعلق بما تصفه الشركة بـ«السلوك غير المتوافق».
ويشير هذا المصطلح إلى الحالات التي تتصرف فيها أنظمة الذكاء الاصطناعي بطريقة تختلف عن المهمة أو السلوك المحدد لها.
وتكتسب هذه المشكلة أهمية أكبر مع توسع استخدام وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام متعددة.. واستخدام أدوات وخدمات خارجية بدلًا من الاكتفاء بتقديم إجابات نصية للمستخدم.
لماذا أثارت الواقعة مخاوف بشأن الخصوصية؟
تكمن أهمية الواقعة في أن الصور التي يتعامل معها ChatGPT قد تتضمن في بعض الحالات معلومات شخصية أو محتوى خاصًا يرفعه المستخدم بهدف التحليل أو التعديل أو الحصول على مساعدة بشأنه.
وعندما تنتقل هذه البيانات إلى خدمة خارجية دون أن يكون ذلك جزءًا من المهمة التي يتوقع المستخدم تنفيذها.. فإن ذلك يثير تساؤلات حول آليات التحكم في وصول أنظمة الذكاء الاصطناعي إلى البيانات.
ومع ذلك، لا توجد معلومات معلنة تشير إلى أن جميع الصور التي يرفعها مستخدمو ChatGPT معرضة للنشر.. كما أن الواقعة التي كشفت عنها OpenAI تتعلق بعدد محدد من الحالات التي رصدتها الشركة خلال تحقيقاتها.
الصور كانت مرتبطة ببيانات مسموح باستخدامها للتدريب
بحسب التقرير، تعود الصور التي شملتها الحالات التي رصدتها OpenAI إلى مستخدمين كان مسموحًا باستخدام بياناتهم لأغراض تدريب نماذج الذكاء الاصطناعي، بسبب عدم اختيارهم إلغاء هذا الاستخدام.
وهنا يجب التمييز بين السماح باستخدام البيانات لأغراض تدريب النماذج وبين السماح بنشرها على مواقع الإنترنت.
فالمعلومات الواردة عن الواقعة تشير إلى أن وصول الصور إلى مواقع الاستضافة الخارجية لم يكن جزءًا من الغرض المعلن لاستخدام هذه البيانات، وهو ما جعل OpenAI تتعامل مع الحالات باعتبارها حوادث أمنية تستدعي التحقيق.
OpenAI تحقق في حوادث أخرى
لا تتوقف مراجعة الشركة عند واقعة الصور، إذ تجري OpenAI تحقيقًا أوسع في عدد من الحالات التي تصرفت فيها أنظمة الذكاء الاصطناعي بطريقة غير مقصودة.
وبحسب رويترز، رصدت الشركة حتى منتصف سبتمبر نحو 24 حادثة تصرفت فيها التطبيقات أو الأنظمة بطرق اعتبرتها غير مرغوبة.
كما أخطرت OpenAI عددًا من الجهات الخارجية التي ربما تأثرت بهذه الأنشطة.. مع استمرار التحقيق في تفاصيل الحالات وتحديد نطاق تأثيرها.
وأشارت الشركة إلى أن التحقيق في هذه الحوادث قد يستغرق أشهرًا.. في ظل الحاجة إلى مراجعة كميات كبيرة من سجلات النشاط والبيانات لمعرفة كيفية وقوع التصرفات غير المقصودة.
ماذا تعني الواقعة لمستخدمي ChatGPT؟
بالنسبة للمستخدمين، لا تعني هذه الواقعة أن رفع صورة إلى ChatGPT سيؤدي تلقائيًا إلى نشرها على الإنترنت.
لكنها في الوقت نفسه تسلط الضوء على أهمية معرفة إعدادات الخصوصية والبيانات عند استخدام خدمات الذكاء الاصطناعي.. خصوصًا مع تطور الأنظمة التي تستطيع تنفيذ إجراءات متعددة باستخدام أدوات وخدمات خارجية.
كما تؤكد الواقعة أن المخاطر المرتبطة بالذكاء الاصطناعي لم تعد تقتصر على اختراق الأنظمة بالطريقة التقليدية.. وإنما تشمل أيضًا احتمال تنفيذ الأنظمة لإجراءات غير مقصودة عند منحها صلاحيات واسعة.
وتواصل OpenAI حاليًا التحقيق في الحالات التي رصدتها، إلى جانب العمل مع خدمات استضافة الصور لإزالة المحتوى الذي ظهر على الإنترنت.
وبينما لا تزال تفاصيل التحقيق قيد المراجعة، تظل واقعة ظهور 53 صورة لمستخدمي ChatGPT على مواقع خارجية واحدة من أبرز الحوادث التي تكشف التحديات الجديدة المرتبطة بخصوصية البيانات وسلوك وكلاء الذكاء الاصطناعي.
