أثار استخدام شات جي بي تي في واقعة قتل عائلية بولاية ماساتشوستس الأميركية جدلًا واسعًا حول حدود استخدام أدوات الذكاء الاصطناعي، خصوصًا عندما يتعلق الأمر بالمستخدمين المراهقين والمحتوى العنيف. وكشفت التحقيقات الأولية، وفق ما نقلته تقارير إعلامية أميركية، أن مراهقًا يبلغ من العمر 17 عامًا كان يستخدم روبوت الدردشة لإنشاء سيناريوهات وقصص خيالية تتضمن أفكارًا عنيفة قبل اتهامه بقتل والدته وشقيقه.
وتعيد الواقعة إلى الواجهة تساؤلات متزايدة بشأن قدرة منصات الذكاء الاصطناعي على اكتشاف الاستخدامات الخطرة، وكيف يمكن حماية القاصرين من التفاعل مع محتوى قد يزيد من خطورة سلوكياتهم بدلًا من الحد منها.
تفاصيل واقعة استخدام شات جي بي تي
بحسب المعلومات التي أعلنتها السلطات في مدينة أكتون بولاية ماساتشوستس، يواجه المراهق أرجون أرافيند اتهامات بقتل والدته سودها فينكاتيسان، البالغة من العمر 45 عامًا، وشقيقه سيدهارث أرافيند، البالغ من العمر 14 عامًا.
وأوضحت السلطات أن والد المراهق لم يكن موجودًا في المنزل وقت وقوع الجريمة، بينما تمكنت الشرطة لاحقًا من العثور على المتهم في مدينة وايلاند القريبة، حيث ألقت القبض عليه دون مقاومة.
وخلال تصريحات صحفية، أشارت المدعية العامة لمقاطعة ميدلسكس، ماريان رايان، إلى أن التحقيقات ركزت أيضًا على نشاط المراهق عبر الإنترنت، ومن ضمنه استخدام شات جي بي تي.
ووفق ما نقلته وسائل إعلام أميركية، كان المراهق يستخدم روبوت الدردشة في كتابة قصص وصفها المحققون بأنها خيالية، لكنها تضمنت أفكارًا مرتبطة بالعنف وتهديدات محتملة تجاه أفراد أسرته.
لماذا أصبح شات جي بي تي جزءًا من التحقيق؟
أهمية هذه القضية لا ترتبط فقط باستخدام المراهق لأداة ذكاء اصطناعي، وإنما بالطريقة التي يُقال إنه استخدمها بها. فالتحقيقات تشير إلى أنه كان يقدم بعض أفكاره في إطار قصص خيالية، ويطرح أسئلة حول شخصيات وأحداث افتراضية.
وهنا تظهر واحدة من أكثر القضايا تعقيدًا أمام شركات الذكاء الاصطناعي، وهي كيفية التمييز بين الاستخدام الإبداعي الطبيعي للأدوات الرقمية وبين المحادثات التي قد تخفي وراءها نوايا مؤذية.
فكتابة الروايات والقصص الخيالية التي تتناول موضوعات مظلمة ليست في حد ذاتها دليلًا على وجود نية إجرامية. لكن عندما تتكرر الأسئلة المتعلقة بالعنف، أو ترتبط بأشخاص حقيقيين وتهديدات واقعية، يصبح اكتشاف مؤشرات الخطر أكثر أهمية.
ولهذا السبب تتجه شركات التكنولوجيا إلى تطوير أنظمة أمان تستطيع التعامل مع المحادثات الحساسة، خاصة عندما يكون المستخدم قاصرًا.
مخاوف متزايدة بشأن الذكاء الاصطناعي والمراهقين
أعادت الواقعة النقاش حول العلاقة بين المراهقين وروبوتات الدردشة. فالمراهقون يمثلون شريحة كبيرة من مستخدمي الإنترنت، كما أن أدوات الذكاء الاصطناعي أصبحت متاحة بسهولة ويمكن استخدامها في الدراسة والبحث والكتابة والترفيه.
لكن سهولة الوصول نفسها تفرض تحديات جديدة أمام الشركات والأسر والمؤسسات التعليمية.
ويزداد القلق عندما يستخدم أحد المراهقين روبوت دردشة بصورة متكررة لمناقشة أفكار عنيفة أو مقلقة.
وفي هذه الحالات، لا يتعلق الأمر فقط بما إذا كان النظام قد قدم إجابة غير مناسبة.. وإنما أيضًا بقدرته على التعرف إلى نمط الاستخدام والتعامل معه بصورة أكثر أمانًا.
وتشير هذه القضية كذلك إلى أهمية عدم التعامل مع الذكاء الاصطناعي باعتباره بديلًا عن الأسرة أو المتخصصين أو الجهات المسؤولة عن حماية الأطفال.
إجراءات أعلنتها أوبن إيه آي لحماية المراهقين
تواجه شركات الذكاء الاصطناعي خلال الفترة الأخيرة ضغوطًا متزايدة لتطوير إجراءات أكثر صرامة لحماية المستخدمين الأصغر سنًا.
وكانت أوبن إيه آي قد أعلنت في وقت سابق تحديثات تتعلق بسلامة المراهقين.. تضمنت تحسين الطريقة التي تتعامل بها نماذجها مع المواقف عالية الخطورة التي تشمل مستخدمين تقل أعمارهم عن 18 عامًا.
وتستهدف هذه الإجراءات جعل استجابات النظام أكثر حذرًا في الحالات الحساسة.. مع تطوير قواعد توجّه النموذج عند التعامل مع المحتوى الذي قد يشكل خطرًا على المستخدم أو الآخرين.
ومع ذلك، تكشف الواقعة في ماساتشوستس أن تطوير أنظمة الحماية يظل تحديًا مستمرًا.. خصوصًا مع تطور أساليب استخدام الذكاء الاصطناعي.
هل يتحمل الذكاء الاصطناعي مسؤولية الجريمة؟
من المهم التفرقة بين وجود أداة رقمية في حياة شخص متهم بارتكاب جريمة وبين إثبات أن هذه الأداة تسببت في الجريمة.
وجود محادثات أو قصص خيالية على منصة ذكاء اصطناعي لا يعني تلقائيًا أن المنصة دفعت المستخدم إلى ارتكاب فعل إجرامي.
كما أن تحديد المسؤولية القانونية يتطلب أدلة وتحقيقات وقرارات قضائية.
لكن القضية تطرح سؤالًا مهمًا: ماذا يجب أن تفعل منصات الذكاء الاصطناعي عندما تلاحظ نمطًا متكررًا من المحادثات التي تتضمن تهديدات أو أفكارًا شديدة الخطورة؟
هذا السؤال أصبح أكثر إلحاحًا مع توسع استخدام روبوتات الدردشة في الحياة اليومية.. وتحولها إلى أدوات قادرة على إجراء محادثات طويلة ومتواصلة مع المستخدمين.
تقارير تحذر من مخاطر روبوتات الدردشة
لم تكن هذه الواقعة الأولى التي تثير المخاوف بشأن استخدام الذكاء الاصطناعي في سياقات مرتبطة بالعنف.
فقد أشارت تقارير بحثية سابقة إلى وجود ثغرات في بعض روبوتات الدردشة عند التعامل مع محاولات المستخدمين الحصول على محتوى ضار.
ويزيد الأمر تعقيدًا عندما يتظاهر المستخدم بأنه يكتب قصة أو يجري تجربة بحثية.. بينما تكون الأسئلة في الواقع مرتبطة بموقف حقيقي.
لذلك أصبحت سلامة الذكاء الاصطناعي واحدة من أهم الملفات التي تناقشها شركات التكنولوجيا والباحثون والجهات التنظيمية.. خصوصًا مع الانتشار السريع لهذه الأدوات بين فئات عمرية مختلفة.
واقعة تعيد طرح سؤال الأمان الرقمي
تسلط قضية المراهق في ماساتشوستس الضوء على جانب شديد الحساسية من تطور الذكاء الاصطناعي.
فالأدوات التي صممت لمساعدة المستخدمين في الكتابة والبحث والإبداع أصبحت قادرة على إجراء حوارات معقدة.. وهو ما يجعل مسؤولية تطوير أنظمة حماية فعالة أكثر أهمية.
وفي الوقت نفسه، لا يمكن اختزال قضية بهذه الخطورة في التكنولوجيا وحدها.. إذ تظل ملابسات الجريمة ودوافع المتهم ومسؤولية الأطراف المختلفة موضوعًا للتحقيق والإجراءات القانونية.
لكن ظهور شات جي بي تي ضمن تفاصيل التحقيق يفتح نقاشًا أوسع حول مستقبل الذكاء الاصطناعي.. وكيف يمكن تحقيق التوازن بين حرية الاستخدام، والخصوصية، والإبداع من جهة، وحماية المستخدمين والمجتمع من المخاطر المحتملة من جهة أخرى.
وتظل حماية المراهقين تحديدًا من أبرز التحديات أمام شركات الذكاء الاصطناعي.. خاصة مع استمرار انتشار روبوتات الدردشة واعتماد المستخدمين عليها في مجالات متعددة.
ومن المتوقع أن تستمر المطالب بتطوير أدوات أكثر دقة لرصد إشارات الخطر والتعامل معها.. مع التأكيد على أن التكنولوجيا وحدها لا يمكن أن تحل محل الرقابة الأسرية والدعم المتخصص والتدخل البشري عند ظهور مؤشرات مقلقة.
