آفاق رائعة للذكاء الاصطناعي الطبي.. يحبطها “التضليل”

يُعتبر الذكاء الاصطناعي الطبي أداة واعدة لتحسين الرعاية الصحية، حيث يمكن أن يُساعد الأطباء في اتخاذ قرارات أكثر دقة وسرعة. ومع ذلك، تثير دراسة جديدة قلقًا بشأن إمكانية تمرير الذكاء الاصطناعي لمعلومات طبية خاطئة كما لو كانت حقائق.

أجريت الدراسة من قبل باحثين من كلية إيكان للطب في مستشفى ماونت سايناي في الولايات المتحدة، ونُشرت في مجلة “The Lancet Digital Health”. وقد وجدت أن نماذج الذكاء الاصطناعي اللغوية الكبيرة قد تُعيد إنتاج ادعاءات طبية غير صحيحة إذا تمت صياغتها بطريقة تبدو موثوقة.

حلل الباحثون أكثر من مليون سؤال واختبار تم توجيهها إلى تسعة من أبرز نماذج الذكاء الاصطناعي الحالية، وقاموا بإخضاع هذه النماذج لثلاثة أنواع من المحتوى:
– تقارير خروج مرضى حقيقية تحتوي على توصية طبية واحدة مختلقة.
– خرافات صحية شائعة من منصات التواصل الاجتماعي.
– سيناريوهات طبية قصيرة تناولها أطباء مختصون.

كانت النتائج مثيرة للدهشة، حيث لم تكشف العديد من النماذج عن الأخطاء وتعاملت مع المعلومات الخاطئة كما لو كانت إرشادات طبية صحيحة. في أحد الأمثلة، أدرج تقرير خروج من المستشفى نصيحة غير صحيحة تتعلق بمرضى نزيف المريء، تدعوهم إلى شرب الحليب البارد لتخفيف الأعراض، ورغم خطورة هذه المعلومة، فإن بعض الأنظمة لم تُعاملها كتحذير.

أوضح الدكتور إيال كلانغ، أحد قادة الدراسة، أن الأنظمة الحالية تميل إلى تصديق المعلومات الطبية المقدمة بطريقة واثقة، حتى وإن كانت خاطئة تمامًا. المشكلة لا تكمن في صحة الادعاء بل في كيفية صياغته.

يشير الباحثون إلى أن الخطر يزداد عندما تظهر المعلومات المضللة في سياق مألوف، كالتحذيرات الطبية الرسمية، مما يؤدي إلى فشل أدوات الحماية الحالية في التمييز بين الحقيقة والتضليل. ويرون أن هذا الخلل قد يؤدي إلى عواقب خطيرة إذا تم الاعتماد على الذكاء الاصطناعي في القرارات الطبية دون ضوابط صارمة.

لحماية الرعاية الصحية، يدعو الفريق البحثي إلى الحد من قدرة الذكاء الاصطناعي على تمرير الأكاذيب. يقترحون إجراء اختبارات شاملة على النماذج وربطها بمصادر طبية موثوقة للتحقق من صحة الادعاءات قبل تقديمها للأطباء أو المرضى.

يؤكد الدكتور غيريش نادكارني، أحد المشاركين في الدراسة، أن الذكاء الاصطناعي يحمل إمكانيات هائلة لدعم القطاع الصحي، لكنه يجب أن يكون مصحوبًا بأنظمة تحقق داخلية تمنع تقديم المعلومات الخاطئة كحقائق. على الرغم من تطور الذكاء الاصطناعي الطبي، فإنه لا يزال عرضة للتضليل، ويبقى الاعتماد عليه دون إشراف بشري أو معايير تحقق صارمة مخاطرة يتعذر تجاهلها.