خوفاً من معلومات مضللة.. "غوغل" تزيل ملخصات صحية للذكاء الاصطناعي

أزالت شركة "غوغل"، اليوم الأحد، عدداً من ملخصات المعلومات الصحية التي ينتجها الذكاء الاصطناعي من نتائج محرك البحث، وذلك عقب مخاوف من احتوائها على بيانات غير دقيقة قد تضر بالمستخدمين.

وأوضحت الشركة أن "ميزة AI Overviews، المعتمدة على الذكاء الاصطناعي التوليدي لتقديم إجابات سريعة عن الأسئلة الشائعة، تُعد مفيدة وموثوقة بشكل عام، إلا أن تحقيقاً نشرته صحيفة غارديان كشف عن وجود أخطاء في بعض الملخصات الصحية التي تظهر أعلى نتائج البحث".

وبيّن التحقيق أن "بعض هذه الملخصات قدّمت معلومات مغلوطة تتعلق بفحوصات وظائف الكبد، وهو ما وصفه خبراء بأنه قد يشكل خطراً، إذ قد يدفع مرضى يعانون من أمراض كبدية خطيرة إلى الاعتقاد الخاطئ بأن نتائجهم الصحية طبيعية".

وأشار التقرير إلى أن "إدخال عبارات مثل (المعدل الطبيعي لفحوصات دم الكبد) في محرك البحث أدى إلى عرض أرقام من دون سياق طبي كافٍ، مع تجاهل عوامل مهمة كالعمر والجنس والخلفية الصحية، ما قد يؤدي إلى تفسيرات خاطئة".

وعلى إثر ذلك، أزالت غوغل ملخصات الذكاء الاصطناعي المرتبطة بعمليات البحث عن المعدلات الطبيعية لفحوصات واختبارات وظائف الكبد.

وقال متحدث باسم الشركة إن "غوغل لا تعلّق على حالات الإزالة الفردية، لكنها تعمل على تحسين الملخصات عندما تفتقر للسياق، وتتخذ الإجراءات اللازمة وفق سياساتها".

من جانبها، عدت فانيسا هيبدتش، مديرة الاتصالات والسياسات في British Liver Trust، هذه الخطوة إيجابية، لكنها حذّرت من أن "تغيير صيغة السؤال قد يؤدي إلى ظهور ملخصات مضللة أخرى"، معربة عن "قلقها من دقة معلومات صحية أخرى يولدها الذكاء الاصطناعي".

وأكدت هيبدتش أن "فحوصات وظائف الكبد معقدة ولا يمكن تفسيرها عبر أرقام مجردة"، مشيرة إلى أن "بعض الملخصات لا تنبّه إلى احتمال وجود مرض خطير رغم نتائج تبدو طبيعية، ما قد يخلق شعوراً زائفاً بالاطمئنان".

ورغم هذه الخطوة، لا تزال ملخصات الذكاء الاصطناعي تظهر في موضوعات صحية أخرى، بينها السرطان والصحة النفسية، وصفها خبراء بأنها غير دقيقة وخطيرة.

ورداً على ذلك، أكدت "غوغل" أن "هذه الملخصات تستند إلى مصادر موثوقة، مع تنبيه المستخدمين إلى ضرورة استشارة مختصين"، لافتة إلى أن "فريقاً داخلياً من الأطباء يراجع المحتوى بشكل مستمر".