“خطيرة ومضللة”: غوغل تحذف ملخصات ذكاء اصطناعي صحية بعد تحقيقات عن تهديدها لسلامة المستخدمين
بقلم: يورونيوز
نشرت في
كشفت صحيفة “الغارديان” عن إزالة شركة غوغل بعض ملخصات الذكاء الاصطناعي الخاصة بالصحة بعد أن تبين أنها قد تعرّض المستخدمين لخطر ضرر جسيم نتيجة معلومات “غير دقيقة ومضللة”.
وتهدف ملخصات AI Overviews، التي تعتمد على الذكاء الاصطناعي التوليدي، إلى تقديم لمحات سريعة عن موضوع أو سؤال معين، وتظهر عادة في أعلى نتائج البحث.
ورغم إعلان غوغل أن هذه الملخصات “مفيدة وموثوقة”، أظهرت تحقيقات “الغارديان” أنها قد تُقدّم معلومات صحية خاطئة قد تضلّل المستخدمين، بما في ذلك معلومات عن فحوصات وظائف الكبد الأساسية.
وفي إحدى الحالات التي وصفها خبراء الصحة بأنها “خطيرة ومقلقة”، عرضت غوغل أرقاماً خاطئة حول فحوصات الكبد، ما قد يجعل المرضى المصابين بأمراض خطيرة يظنون خطأ أنهم بصحة جيدة. وقد يؤدي ذلك إلى تجاهلهم المواعيد الطبية المهمة للمتابعة والعلاج.
وذكرت الغارديان أن البحث عن عبارة “ما هو النطاق الطبيعي لفحوصات الدم للكبد” أعطى أعداداً كثيرة دون أي سياق أو مراعاة لاختلافات العمر أو الجنس أو العرق أو الجنسية. وأضاف الخبراء أن ما اعتُبر “طبيعيًا” في الملخصات قد يختلف بشكل كبير عن المعايير الطبية الفعلية.
وبعد هذه النتائج، قررت غوغل إزالة ملخصات الذكاء الاصطناعي المتعلقة بالعبارات: “ما هو النطاق الطبيعي لفحوصات الدم للكبد” و”ما هو النطاق الطبيعي لفحوصات وظائف الكبد”.
وقال متحدث باسم الشركة: “نقوم بإجراء تحسينات واسعة عند فقدان الملخصات للسياق، ونتخذ الإجراءات المناسبة وفق سياساتنا”.
وعلقت فانيسا هيبدتش، مديرة التواصل والسياسات في مؤسسة الكبد البريطانية، بأن القرار “إيجابي” لكنه لا يعالج المشكلة الأكبر المتعلقة بملخصات الذكاء الاصطناعي الخاصة بالصحة، والتي قد تقدم معلومات مضللة عند صياغة السؤال بطريقة مختلفة.
وأشارت سو فارينغتون، رئيسة منتدى معلومات المرضى، إلى أن الخطوة تعد “البداية فقط للحفاظ على الثقة في نتائج البحث الصحية من غوغل”، مؤكدة أن ملايين المستخدمين حول العالم يجدون صعوبة في الوصول إلى معلومات صحية موثوقة.
وأضافت: “من الضروري أن توجه غوغل المستخدمين نحو مصادر صحية مدعومة بالأدلة ومؤسسات موثوقة”.
ولا تزال ملخصات الذكاء الاصطناعي تظهر في مواضيع صحية أخرى، مثل السرطان والصحة النفسية، والتي وصفها الخبراء بأنها “خاطئة تماماً” و”خطيرة جدًا”.
وأوضحت غوغل أن هذه الملخصات ترتبط بمصادر معروفة وموثوقة، وتقوم بتوجيه المستخدمين عند الحاجة لاستشارة الخبراء.
وأكدت الشركة أن ملخصات الذكاء الاصطناعي تظهر فقط عندما تكون هناك ثقة عالية في جودة الإجابة، وأنها تراجع بشكل مستمر جودة الملخصات عبر جميع الفئات.
