تحذير جديد من خبراء التقنية: الاعتماد على الذكاء الاصطناعي في الصحة قد يضللك

أثارت دراسة حديثة جدلًا واسعًا حول ميزة AI Overviews من غوغل. يستخدم نحو ملياري شخص هذه الميزة شهريًا للحصول على ملخصات سريعة للإجابات على استفساراتهم. وبينما تسهّل الميزة الوصول إلى المعلومات، أظهرت الدراسة أن النظام يعتمد بشكل مفرط على يوتيوب، وهو ما يقلق خبراء الصحة الرقمية.

يعتبر الاعتماد على يوتيوب مصدرًا غير تقليدي للمعلومات الصحية. وقد يضع المستخدمين في مواجهة معلومات غير دقيقة أو مضللة. ولهذا السبب، حذر الباحثون من الاعتماد الكامل على هذه الخدمة دون التحقق من مصادر موثوقة.

الاعتماد المفرط على يوتيوب

أجرت أداة SE Ranking دراسة شاملة، ونشرت النتائج في 14 يناير الحالي. وجد الباحثون أن ميزة AI Overviews تستشهد بمقاطع فيديو يوتيوب ضعف إلى ثلاثة أضعاف المواقع الطبية الموثوقة عند تقديم نصائح صحية.

حدد الباحثون أن 34% فقط من الاستشهادات جاءت من مصادر طبية موثوقة، مثل المواقع الحكومية والمجلات الأكاديمية. أما 66% من الاستشهادات فجاءت من مواقع عامة أو غير متخصصة، بما في ذلك المدونات والمواقع التجارية.

وأشار الباحثون إلى أن الاعتماد على مصادر غير موثوقة حتى في دول تتمتع بأنظمة رعاية صحية صارمة، مثل ألمانيا، يدل على أن المشكلة قد تكون عالمية وتؤثر على جميع المستخدمين.

دراسة شاملة عن البحث الصحي

حلل فريق SE Ranking أكثر من 50 ألف عملية بحث متعلقة بالصحة أجراها المستخدمون الألمان. استخدم الباحثون ألمانيا لأنها تتمتع بنظام صحي صارم، ما يسمح بتقييم دقة المعلومات مقارنة بالمعايير العالمية.

أظهرت النتائج أن يوتيوب احتل المركز الأول كمصدر لجميع الاستفسارات الصحية. سجلت الاستشهادات بنسبة 4.43% من إجمالي المصادر، أي أكثر من 3.5 أضعاف الاستشهاد بموقع netdoktor.de، أحد أكبر المواقع الطبية في ألمانيا.

علاوة على ذلك، وجد الباحثون أن المواقع التجارية والمدونات غير المتخصصة تسيطر على غالبية النتائج. وأوضحوا أن هذا النمط يعكس ميل النظام إلى إعطاء الأولوية للمحتوى الشائع على دقة المعلومات.

غوغل ترد على المخاوف

عند مواجهة هذه النتائج، ردت شركة غوغل وأكدت أن البيانات لا تعكس الصورة الكاملة. أوضحت الشركة أن الذكاء الاصطناعي يتعامل مع كل محتوى كمصدر واحد، ويعالج جميع المعلومات وفق خوارزميات تحسين الجودة المستمرة.

كما أكدت غوغل أنها تحسن باستمرار آليات فرز المحتوى لضمان تقديم معلومات دقيقة وموثوقة. ومع ذلك، يطالب الباحثون الشركة بتعديل خوارزميات AI Overviews لتقليل الاعتماد على مصادر غير موثوقة، خصوصًا عند تقديم نصائح صحية حساسة.

مخاطر المعلومات الصحية غير الموثوقة

تطرح الدراسة تساؤلات مهمة حول الاعتماد على الذكاء الاصطناعي في تقديم المعلومات الصحية. فقد يؤدي الاعتماد على مقاطع الفيديو غير الموثوقة أو المحتوى غير الطبي إلى اتخاذ قرارات خاطئة تتعلق بالصحة.

تظهر المخاطر بوضوح عند المستخدمين الذين يعتمدون على هذه الميزة لاتخاذ قرارات عاجلة بشأن حالتهم الصحية أو علاج مرض معين. ويؤكد الخبراء أن الاعتماد على المعلومات المضللة قد يؤدي إلى نتائج صحية خطيرة.

الحاجة إلى التحقق المستقل

شدد خبراء التقنية والصحة الرقمية على ضرورة التحقق من المصادر دائمًا. ينصحون باستخدام المواقع الطبية الرسمية والجهات الصحية المعتمدة. وبهذه الطريقة، يمكن للمستخدمين تقليل المخاطر وضمان الحصول على معلومات صحية دقيقة.

كما نصح الباحثون المستخدمين بتقييم أي نصيحة يقدمها الذكاء الاصطناعي بمقارنتها مع المصادر الموثوقة، وعدم الاعتماد على مقطع فيديو واحد أو مقال غير موثوق.

آثار الاعتماد المفرط على الذكاء الاصطناعي

توضح الدراسة أن الاعتماد المفرط على الذكاء الاصطناعي في المجال الصحي قد يغير سلوك المستخدمين. فبدل البحث في المواقع الرسمية أو المجلات الطبية، يلجأ المستخدمون إلى تلخيصات سريعة، وهو ما قد يقلل من دقة المعلومات المتلقاة.

كما يؤثر هذا النمط على حركة المرور للمواقع الطبية الموثوقة، ويمنح منصات مثل يوتيوب الأفضلية في الوصول إلى الجمهور. وتعتبر هذه النتائج تحذيرًا لكل الشركات التي تعتمد على الذكاء الاصطناعي لتقديم نصائح صحية.

دعوة لتحسين معايير الذكاء الاصطناعي

يدعو الباحثون غوغل لتطبيق معايير صارمة عند اختيار مصادر المعلومات الصحية. وينصحون بتحديد أولوية للمواقع الموثوقة مثل:

• المواقع الحكومية

• المجلات الأكاديمية

• المؤسسات الطبية المعتمدة

كما يقترح الخبراء تطوير آليات تصفية دقيقة تقلل من الاستشهاد بالمحتوى العام أو غير المتخصص. ويؤكد الباحثون أن تحسين هذه الخوارزميات يحمي المستخدمين ويزيد ثقة الجمهور في الذكاء الاصطناعي.

الخلاصة

تظهر نتائج الدراسة أن ميزة AI Overviews من غوغل تقدم معلومات صحية بالاعتماد على يوتيوب أكثر من المواقع الطبية الموثوقة. كما يوضح الباحثون أن الاعتماد على مصادر غير موثوقة يمثل خطرًا على صحة المستخدمين.

تدعو الدراسة المستخدمين للتحقق من المعلومات قبل اتخاذ أي قرار صحي. كما تحث غوغل على تحسين خوارزميات الذكاء الاصطناعي لضمان تقديم محتوى موثوق ودقيق.

باختصار، يمكن للمستخدمين الاستفادة من AI Overviews، لكن يجب عليهم التحقق دائمًا من المصادر الطبية الرسمية لتجنب المعلومات المضللة والمخاطر الصحية.