بعد تحقيق صحفي كشف عن معلومات طبية خاطئة وخطيرة في نتائج البحث، أوقفت جوجل عرض ميزة "نظرة عامة بالذكاء الاصطناعي" (AI Overviews) لبعض الاستعلامات الطبية الدقيقة. وجاء هذا القرار بعد تقرير نشرته صحيفة الغارديان، والذي أوضح أن النظام قدم معلومات غير صحيحة لمرضى سرطان البنكرياس وأخطاء حول وظائف الكبد.
خلفية الموضوع: تحقيق صحفي يكشف عن أخطاء طبية خطيرة
نشرت صحيفة الغارديان البريطانية في بداية هذا الشهر تحقيقاً واسع النطاق حول أداء ميزة "نظرة عامة بالذكاء الاصطناعي" في محرك بحث جوجل عند التعامل مع الأسئلة الطبية. وأظهر التحقيق أن المستخدمين تلقوا في بعض الحالات معلومات غير صحيحة، بل تتعارض مع الإرشادات الطبية المعتمدة، مما أثار قلق الخبراء بشأن سلامة الاعتماد على هذه الملخصات في المسائل الصحية الحساسة.
حالة سرطان البنكرياس: توصيات تتعارض تماماً مع الطب
أهم ما كشفه التحقيق حالة وصفها الخبراء بأنها "خطيرة جداً"، حيث أوصى ملخص الذكاء الاصطناعي من جوجل مرضى سرطان البنكرياس بتجنب الأطعمة الغنية بالدهون. وأكد الأطباء المتخصصون أن هذه النصيحة تتعارض تماماً مع ما توصي به البروتوكولات العلاجية، محذرين من أن اتباعها قد يزيد من خطر تدهور الحالة الصحية وارتفاع احتمال الوفاة لدى المرضى.
أخطاء أخرى تتعلق بوظائف الكبد
كما أشار التقرير إلى مثال آخر وصف بأنه "مقلق"، حيث قدم النظام معلومات غير صحيحة عن المؤشرات ووظائف الكبد الحيوية. ورأى الخبراء أن نشر هذه البيانات الخاطئة في نتائج البحث الأولى يمكن أن يضلل المرضى ومقدمي الرعاية الصحية غير المتخصصين في البحث العلمي، ويؤدي إلى قرارات صحية تستند إلى معلومات خاطئة.
إزالة النتائج المثيرة للجدل من محرك البحث
بعد نشر التحقيق واستمرار الجدل حول دقة نتائج الذكاء الاصطناعي في المجال الطبي، لاحظ المراقبون أن جوجل أزالت ملخصات الذكاء الاصطناعي من نتائج البحث المتعلقة بهذه الأمثلة وغيرها من الاستفسارات الطبية المماثلة. ولم يتضح بعد ما إذا كان هذا الإجراء دائماً أم مؤقتاً حتى يتم إجراء تحسينات إضافية على نماذج الذكاء الاصطناعي وآليات التحقق من المعلومات.
تساؤلات حول مصداقية الذكاء الاصطناعي في الصحة
أبرزت الحادثة مرة أخرى التحديات المرتبطة باستخدام نماذج الذكاء الاصطناعي التوليدية في المجالات الحساسة مثل الصحة والطب، حيث يمكن أن يؤدي خطأ واحد أو توصية غير دقيقة إلى عواقب مباشرة على سلامة المرضى. ويؤكد خبراء التكنولوجيا والطب على ضرورة وجود ضوابط صارمة لمراجعة المحتوى الطبي الذي تنتجه أنظمة الذكاء الاصطناعي، وعدم التعامل معه كبديل للاستشارة الطبية المتخصصة.
تناول موقع "ذا فيرج" التقني القصة بأكملها وتابع تداعيات التحقيق ورد فعل جوجل على الانتقادات، في الوقت الذي تواصل فيه شركات التكنولوجيا الكبرى دفع منتجات الذكاء الاصطناعي إلى صدارة خدمات البحث والمعلومات على مستوى العالم.
