أظهرت تحقيقات حديثة أن أداة AI Overviews من شركة جوجل، المعتمدة على الذكاء الاصطناعي التوليدي، قد تقدم معلومات صحية خاطئة للمستخدمين، مما يعرض حياتهم للخطر.
وتظهر هذه الأداة عادة في أعلى نتائج البحث لتلخيص المعلومات بسرعة حول موضوع أو سؤال محدد، لكن بعض هذه الملخصات كانت غير دقيقة أو مضللة بحسب تقارير خبراء الصحة.
كيف تعمل أداة AI Overviews؟
تعتمد أداة AI Overviews على تقنيات الذكاء الاصطناعي لتوليد ملخصات سريعة للمستخدمين. الفكرة الأساسية هي مساعدة الناس على الحصول على إجابات سريعة بدل البحث بين صفحات متعددة.
ورغم أن جوجل تؤكد أن معظم ملخصات الأداة دقيقة وموثوقة، إلا أن التحقيقات الأخيرة كشفت عن بعض الحالات الخطيرة التي قد تؤثر على صحة المستخدمين.
أمثلة على المعلومات الخاطئة
كشف تحقيق صحيفة The Guardian البريطانية عن عدة أمثلة لملخصات مضللة من أداة AI Overviews:
نصح النظام مرضى سرطان البنكرياس بتجنب الأطعمة عالية الدسم، وهو ما يخالف التوصيات الطبية وقد يزيد خطر الوفاة.
قدمت الأداة معلومات غير دقيقة عن اختبارات وظائف الكبد، ما قد يعطي المرضى شعورًا خاطئًا بأنهم بصحة جيدة.
أعطت ملخصات خاطئة حول فحوصات سرطان النساء، مما قد يجعل البعض يتجاهل أعراضًا مهمة.
حتى المعلومات المتعلقة بالصحة النفسية لم تسلم من الأخطاء، حيث أظهرت نتائج مضللة أحيانًا.
هذه الحالات أثارت قلق الخبراء والجمعيات الصحية، التي أكدت أن الاعتماد على هذه الملخصات دون الرجوع إلى أطباء مختصين قد يكون خطيرًا للغاية.
رد جوجل على المخاوف
قالت جوجل إن الغالبية العظمى من ملخصات AI Overviews دقيقة وموثوقة، وأنها تعتمد على مصادر معروفة وتشجع دائمًا المستخدمين على استشارة الخبراء عند الحاجة.
وأضافت الشركة أنها تعمل باستمرار على تحسين جودة الأداة ومراجعة الأخطاء المحتملة، مؤكدة أن معدل دقة الملخصات يضاهي المقتطفات المميزة في نتائج البحث الموجودة منذ أكثر من عقد.
كما شددت الشركة على أنها ستتخذ الإجراءات المناسبة إذا أساءت الأداة تفسير محتوى الويب أو أغفلت السياق.
نصائح للمستخدمين
خبراء الصحة والتقنية ينصحون بعدم الاعتماد الكلي على أداة AI Overviews، خاصة في المعلومات الطبية الحساسة.
ويمكن للمستخدمين اتباع النصائح التالية:
1. التحقق من مصادر المعلومات الموصى بها في الملخصات.
2. مراجعة طبيب مختص قبل اتخاذ أي قرارات صحية مهمة.
3. استخدام الأداة للحصول على ملخصات عامة فقط، وليس كبديل عن الاستشارة الطبية.
4. مراقبة أي تحديثات من جوجل بشأن تحسينات الأداة وتصحيح الأخطاء.
الخلاصة
تظل أداة AI Overviews من جوجل أداة مبتكرة لتلخيص المعلومات بسرعة، لكنها ليست خالية من المخاطر، خصوصًا في المجال الصحي.
على المستخدمين توخي الحذر والتحقق من المعلومات قبل اتخاذ أي إجراءات قد تؤثر على صحتهم، مع الاستمرار في الاعتماد على المصادر الطبية الموثوقة.
