دراسة: روبوتات الدردشة الأكثر «ودًا» أقل دقة في إجاباتها

أظهرت دراسة لمعهد أكسفورد للإنترنت أن روبوتات الدردشة المدربة لتكون أكثر ودًا وتعاطفًا تميل إلى ارتكاب أخطاء أكثر ونشر معلومات غير دقيقة. حلّل الباحثون أكثر من 400 ألف رد صادرة عن خمسة أنظمة جُهّزت لتبدو «أكثر دفئًا»؛ ووجدوا أن إجاباتها احتوت نسبًا أعلى من الأخطاء، شملت نصائح طبية غير دقيقة وتعزيز معتقدات خاطئة. ووصفت الباحثة لجين إبراهيم هذا الميل بـ«مقايضة الدفء بالدقة»، مشيرة إلى أن النماذج قد تتردد في تقديم حقائق قاسية لتجنب إزعاج المستخدم. شملت النماذج المختبرة أنظمة من شركات مثل Meta وMistral وAlibaba (Qwen) وGPT-4o، وسجلت النماذج الأكثر ودًا زيادة متوسطة في الأخطاء بنحو 7.43 نقطة مئوية، وكانت أقرب بنسبة ~40% لتعزيز المعتقدات الخاطئة عند إقران الردود بعاطفة. وحذّر البروفيسور أندرو مكستاي من مخاطر الاعتماد عليها في أوقات الضعف العاطفي، خصوصًا بين المراهقين، مؤكدًا أن المشكلة تتعدى المجاملة لتشمل معلومات خاطئة في قضايا حساسة.