ميتا تراقب محادثات المراهقين بالذكاء الاصطناعي.. تنبيهات فورية لأولياء الأمور عند رصد الانتحار أو إيذاء النفس
أعلنت شركة ميتا إطلاق مجموعة جديدة من أدوات الأمان لحماية المراهقين على منصتي فيسبوك وإنستجرام، إذ بدأت الشركة إرسال تنبيهات فورية إلى أولياء الأمور عند رصد محادثات تتعلق بالانتحار أو إيذاء النفس داخل محادثات Meta AI. وتستهدف الخطوة تعزيز السلامة الرقمية ومساعدة الأسر على التدخل المبكر عند ظهور مؤشرات خطيرة.
وبدأت الميزة الجديدة في الولايات المتحدة والمملكة المتحدة وكندا وأستراليا، بينما تخطط ميتا لتوسيعها تدريجيًا في المزيد من الدول قبل نهاية العام الجاري.
كيف تعمل تنبيهات ميتا الجديدة؟
أوضحت ميتا أن أولياء الأمور الذين يستخدمون ميزة Instagram Parental Supervision سيحصلون على إشعارات إذا رصد النظام محادثات للمراهقين مع Meta AI تتضمن إشارات إلى الانتحار أو إيذاء النفس. كما ستصل مع التنبيه إرشادات وموارد من خبراء الصحة النفسية لمساعدة الأسر على التعامل مع الموقف بطريقة مناسبة.
وفي الوقت نفسه، يعتمد النظام على تقنيات الذكاء الاصطناعي لاكتشاف الإشارات المباشرة وغير المباشرة داخل المحادثات. وبعد ذلك، يراجع فريق بشري الحالات قبل إرسال أي إشعار إلى ولي الأمر.. وإذا لم يكن المقصود من الرسائل واضحًا، تتبع الشركة نهجًا احترازيًا وترسل التنبيه حفاظًا على سلامة المراهق.
دعم إضافي في حالات الخطر
أشارت ميتا إلى أنها كانت ترسل بالفعل إشعارات عند تكرار بحث المراهقين عن محتوى مرتبط بالانتحار أو إيذاء النفس عبر إنستجرام. بالإضافة إلى ذلك.. يوجّه Meta AI المستخدمين إلى خطوط المساعدة المتخصصة، كما يشجعهم على التواصل مع أحد الوالدين أو مستشار نفسي عند الحاجة.
وكشفت الشركة أيضًا عن ميزة جديدة تتيح التواصل مع خدمات الطوارئ إذا أظهرت المحادثات وجود خطر وشيك على المستخدم، سواء كان مراهقًا أو بالغًا.. وخلال العام الماضي.. أحالت ميتا أكثر من 19 ألف حالة حول العالم إلى جهات الاستجابة الأولى لإجراء فحوصات السلامة للأشخاص المعرضين لخطر الانتحار.
تطوير الأدوات بالتعاون مع خبراء الصحة النفسية
أكدت ميتا أنها طورت هذه الأدوات بعد مشاورات مع أكثر من 75 متخصصًا في الصحة النفسية، إلى جانب التعاون مع مجلس خبراء الرفاهية في الذكاء الاصطناعي والمجموعة الاستشارية للانتحار وإيذاء النفس.. بالإضافة إلى مستشارين من فئة الشباب.. وتهدف هذه الخطوة إلى تحسين استجابة Meta AI للمحادثات الحساسة، مع توفير بيئة رقمية أكثر أمانًا للمراهقين وأسرهم.
