جوجل تعدّل ملخصات البحث بالذكاء الاصطناعي لتجنب نصائح صحية خطيرة

كشف تحقيق لصحيفة الغارديان أن ميزة AI Overviews في بحث جوجل قدمت معلومات صحية خاطئة ومضللة. واستخدم الصحفيون أسئلة مثل: “ما هو المدى الطبيعي لتحاليل الدم الخاصة بالكبد؟”، لتظهر ملخصات تولدها خوارزميات الذكاء الاصطناعي.

وقدمت هذه الملخصات أرقامًا بدون أي سياق طبي، ولم توضح أن “الطبيعي” يختلف حسب العمر والجنس والعرق وعوامل أخرى. وأوضح خبراء صحة الكبد أن هذه الممارسة خطيرة للغاية، لأنها قد تدفع المرضى للاعتقاد بأن نتائجهم سليمة رغم وجود أمراض خطيرة.

وبالتالي، قد يتجاهل شخص مريض مواعيد المتابعة الطبية، ظنًا منه أن النتائج طبيعية. وبذلك، يخلق هذا الخطأ خطرًا مباشرًا على الصحة العامة.

جوجل تحذف ملخصات محددة وتعمل على تحسينات أوسع

بعد نشر التحقيق، حذفت جوجل بعض ملخصات AI Overviews المتعلقة بعبارات بحث محددة، مثل:

• “what is the normal range for liver blood tests”

• “what is the normal range for liver function tests”

وعلى الرغم من ذلك، لم تعلق الشركة على حالات فردية، لكنها أكدت أنها تعمل على إدخال تحسينات واسعة لتجنب تقديم معلومات صحية مضللة.

كما أظهر اختبار لاحق أن صيغًا قريبة للسؤال مثل “lft reference range” لا تزال تولد AI Overviews مع معلومات قد تكون مضللة، ما أثار قلق الجمعيات الصحية والمستخدمين.

تحذيرات الجمعيات الصحية: المشكلة أكبر من سؤال واحد

وصفت فانيسا هِبتِتش، مديرة التواصل والسياسات في مؤسسة British Liver Trust، إزالة الملخصات بأنها خطوة جيدة، لكنها شددت على أن المشكلة أعمق بكثير من سؤال واحد.

وأضافت هِبتِتش أن اختبار وظائف الكبد (LFT) يتضمن مجموعة من التحاليل، وأن فهم النتائج يتطلب أكثر من مجرد مقارنة أرقام. وأشارت إلى أن الملخصات تعرض القوائم بخط عريض وواضح، ما يجعل المستخدم يسيء تفسيرها بسهولة.

كما أكدت هِبتِتش أن الملخصات لا تنبه المستخدمين إلى أن نتائجهم قد تبدو “طبيعية” رغم وجود مرض كبدي خطير يحتاج إلى متابعة وعلاج. وبالتالي، فإن الملخصات تولّد طمأنة زائفة يمكن أن تكون ضارة جدًا بالصحة.

أمثلة أخرى على معلومات مضللة عبر AI Overviews

أشار التحقيق إلى أن AI Overviews لا تزال تظهر لمجموعة من الاستعلامات الصحية الأخرى، بما في ذلك:

• الاستفسارات المتعلقة بالسرطان

• استفسارات الصحة النفسية

ووصف خبراء هذه الملخصات بأنها خاطئة بالكامل وشديدة الخطورة، خاصة عندما يعرضها محرك البحث أعلى النتائج المصنفة.

وقالت سيو فارينغتون، رئيسة Patient Information Forum، إن إزالة بعض الملخصات خطوة جيدة لكنها ليست كافية للحفاظ على ثقة المستخدمين في المعلومات الصحية على جوجل. وأضافت أن هناك أمثلة كثيرة لمعلومات غير دقيقة لا تزال متاحة، وأن ملايين البالغين حول العالم يعانون في الوصول إلى معلومات صحية موثوقة.

لذلك، ترى الجمعيات أن دور جوجل حاسم في توجيه المستخدمين إلى مصادر موثوقة تعتمد على الأدلة الطبية ومراجعة المتخصصين، بدلًا من الاعتماد على خوارزميات قد تقدم معلومات مضللة.

رد جوجل: الثقة عالية لكن العمل لم ينتهِ بعد

أكدت جوجل أن AI Overviews تظهر فقط عندما تمتلك الشركة درجة عالية من الثقة بجودة الإجابة. وبالإضافة إلى ذلك، تراجع فرق داخلية من الأطباء الحالات التي تتلقى شكاوى المستخدمين.

وأشار متحدث باسم جوجل إلى أن العديد من الأمثلة المعروضة مدعومة بمواقع عالية الجودة، وأن الملخصات تنبه المستخدمين إلى ضرورة مراجعة المختصين عند الحاجة.

ومع ذلك، لاحظ التقرير أن أي خطأ في المعلومات الصحية، خصوصًا المتعلقة بالكبد أو السرطان، له تأثير أكبر بكثير من الأخطاء في مجالات أخرى. لذلك، يشدد الخبراء على أن جوجل أمامها عمل كبير لضمان أن أدوات الذكاء الاصطناعي لا تقدّم نصائح صحية خطيرة.

الخلاصة والتوصيات

بالنظر إلى النتائج، توصي الجمعيات وخبراء الصحة المستخدمين بـ:

• تجاهل الملخصات المبسطة المضللة

• الاعتماد على مصادر طبية موثوقة ومراجعة الأطباء عند الحاجة

• استخدام AI Overviews كأداة مساعدة وليس كبديل للاستشارة الطبية

وبذلك، يجب أن يبقى دور جوجل في تقديم المعلومات الصحية مقيّدًا ودقيقًا لضمان سلامة المستخدمين، وفي الوقت نفسه، متابعة تحسين الخوارزميات لتقديم معلومات واضحة وموثوقة.