معلومات صحية “خطيرة” من الذكاء الاصطناعي.. وغوغل تتحرك

في خطوة احترازية، قامت غوغل بإزالة بعض ملخصات الصحة التي يولدها الذكاء الاصطناعي من نتائج البحث، وذلك بعد مخاوف من احتوائها على معلومات غير دقيقة قد تُربك المستخدمين وتؤثر على قراراتهم الصحية. وأوضحت الشركة أن ميزة “AI Overviews”، التي تعتمد على الذكاء الاصطناعي التوليدي لتقديم لمحات سريعة عن موضوعات أو أسئلة معينة، تُعتبر “مفيدة” و”موثوقة”.

ومع ذلك، أظهر تحقيق أن بعض هذه الملخصات، التي تظهر في أعلى نتائج البحث، قدّمت معلومات صحية غير دقيقة، مما قد يعرض المستخدمين للخطر. في إحدى الحالات، قُدمت معلومات مغلوطة عن اختبارات أساسية لوظائف الكبد، مما قد يدفع أشخاصًا يعانون من أمراض كبدية خطيرة إلى الاعتقاد خاطئًا بأن حالتهم الصحية طبيعية.

كما أظهر التحقيق أن إدخال عبارة مثل “ما هو المعدل الطبيعي لفحوصات دم الكبد” في محرك البحث أدى إلى عرض أرقام كثيرة بلا سياق كافٍ، ودون مراعاة عوامل مثل الجنسية أو الجنس أو العرق أو العمر. وأشار خبراء إلى أن ما يعتبره الذكاء الاصطناعي “طبيعيًا” قد يختلف كثيرًا عما هو معتمد فعليًا، مما قد يدفع مرضى بحالات خطيرة إلى تجاهل المتابعة الطبية اللازمة.

بعد هذا التحقيق، أزالت غوغل ملخصات الذكاء الاصطناعي المتعلقة بـ”المعدل الطبيعي لفحوصات دم الكبد” و”المعدل الطبيعي لاختبارات وظائف الكبد”. وأوضح متحدث باسم غوغل أنهم لا يعلقون على حالات الإزالة الفردية، لكنهم يعملون على تحسينات عامة عند الحاجة.

خمسة خدمات مختلفة لم تعمل بشكل جيد حتى بعد تغير الصيغ المستخدمة في البحث، وهو ما اعتبرته مسؤولة في British Liver Trust مقلقًا. أكدت أنها تخشى أن يؤدي إعادة صياغة السؤال إلى ظهور ملخصات مضللة جديدة، مما يعكس القلق بشأن دقة المعلومات الصحية الأخرى التي ينتجها الذكاء الاصطناعي.

إضافة إلى ذلك، يتطلب فهم نتائج فحص وظائف الكبد النظر في مجموعة اختبارات دموية معقدة، ولا يُنصح بالاعتماد فقط على الأرقام. كما تظهر ملخصات الذكاء الاصطناعي في مواضيع صحية أخرى، حيث وُصفت بعض المعلومات بأنها “خاطئة تمامًا” و”شديدة الخطورة”. وعندما سُئل عن سبب عدم إزالة هذه الملخصات، أكدت غوغل أنها تستند إلى مصادر موثوقة وتحذر المستخدمين من الحاجة لاستشارة المتخصصين عند الضرورة.