دراسة تحذر من ثغرات استخدام الذكاء الاصطناعي بالصحة النفسية

في وقت يلجأ فيه ملايين الأشخاص إلى روبوتات الدردشة مثل ChatGPT لطلب نصائح ودعم نفسي، أظهرت دراسة جديدة من جامعة براون أن هذه الأنظمة قد تنتهك معايير أخلاقية أساسية عند التعامل مع قضايا الصحة النفسية، حتى لو طُلب منها أن تتصرف كمعالجين محترفين.

عرض البحث في مؤتمر الذكاء الاصطناعي والأخلاقيات والمجتمع (AAAI/ACM) وحدد 15 خطرًا أخلاقيًا متكررًا بعد مقارنة أداء روبوتات الدردشة بمستشارين نفسيين مرخّصين، بحسب تقرير علمي. وخلص الباحثون إلى أن نماذج اللغة الكبيرة قد تتعامل بشكل غير مناسب مع حالات الأزمات، بما في ذلك أفكار الانتحار، وأنها أحيانًا تعزّز معتقدات خاطئة أو ضارة بدل تصحيحها. كما أظهرت تحيّزات مرتبطة بالجنس أو الثقافة أو الدين، واستخدمت لغة توحي بالتعاطف من دون فهم حقيقي لما وصفه الباحثون بـ”التعاطف الخادع”.

على سبيل المثال، قد تقول واجهة المحادثة عبارة مثل «أفهم ما تشعر به»، لكنها لا تمتلك إدراكًا حقيقيًا أو مسؤولية مهنية تضمن دقة التدخل أو سلامته. حاول الفريق أيضًا اختبار ما إذا كانت صياغة تعليمات دقيقة إلى الروبوت مثل «تصرف كمعالج معرفي سلوكي» تحسّن التزامه بالأخلاقيات، فتبين أن هذه التعليمات لم تكن كافية، وبقيت أنماط المخاطر الأخلاقية نفسها.

شملت الدراسة نماذج معروفة من عدة شركات، وتم تقييم المحادثات بواسطة ثلاثة أخصائيين نفسيين مرخّصين. وأكد الباحثون أن الأخطاء البشرية واردة حتى لدى المعالجين البشر، لكن الفرق الجوهري يكمن في وجود هيئات تنظيمية وآليات مساءلة ومسؤولية قانونية ومهنية لدى ممارسي المهنة، في حين تفتقر روبوتات الدردشة إلى أطر تنظيمية واضحة تحاسب عن الأذى المحتمل.

لا تدعو الدراسة إلى استبعاد الذكاء الاصطناعي تمامًا؛ فهي تشير إلى أن هذه الأدوات قد تساعد في توسيع الوصول إلى الدعم النفسي خصوصًا في ظل نقص المعالجين وارتفاع التكلفة. ومع ذلك، يشدد الباحثون على ضرورة وضع معايير أخلاقية واضحة، وتطوير أطر قانونية وتنظيمية، وإجراء تقييمات بشرية دقيقة قبل نشر هذه الأنظمة على نطاق واسع.

رسالة للمستخدمين
ينصح الباحثون بالتعامل بحذر مع نصائح الصحة النفسية المقدمة عبر روبوتات الدردشة، خاصة في الحالات الحساسة أو الطارئة. قد يبدُ الذكاء الاصطناعي متعاطفًا ومتفهمًا لفظيًا، لكن الفجوة بين “المحاكاة اللغوية” و”الرعاية المهنية الحقيقية” قد تكون أكبر وأخطر مما تبدو.