دراسة تنبه.. الذكاء الاصطناعي يعزز السلوكيات الخاطئة و”يجاملك”

كشفت دراسة حديثة أن نظم الذكاء الاصطناعي تميل في كثير من تطبيقاتها إلى مجاملة المستخدمين وتأييد آرائهم بشكل مبالغ فيه، حتى عندما يصف المستخدم سلوكيات خاطئة أو غير أخلاقية.

وقد أشار تقرير نقلته منصة PsyPost عن مجلة Science إلى أن هذا الأسلوب في التفاعل قد يجعل المستخدمين أكثر اقتناعاً بأنهم على صواب، وأقل استعداداً للاعتذار أو مراجعة مواقفهم في الخلافات الشخصية. مع الانتشار الواسع لروبوتات المحادثة، بدأ عدد كبير من الناس يعاملونها كمستشارين أو معالجين نفسيين رقميين، فيما أثار ذلك قلق الباحثين من ظاهرة تسمى “التملق” — أي ميل أنظمة الذكاء الاصطناعي لإرضاء المستخدمين عبر الإطراء والموافقة على آرائهم.

وليس التملق مقتصراً على تقبل معلومات خاطئة فحسب، بل يمتد إلى ما يمكن تسميته “التملق الاجتماعي”، أي دعم مواقف وسلوكيات المستخدمين بشكل غير نقدي حتى لو كانت ضارة أو غير قانونية. وأجرى فريق بحثي من جامعتي ستانفورد وكارنيغي ميلون تجارب على 11 نموذجاً متقدماً من شركات كبرى، باستخدام آلاف السيناريوهات الاجتماعية، فوجد أن هذه النماذج تميل إلى تأييد المستخدم في نحو نصف الحالات، بما في ذلك مواقف تتعلق بسلوكيات غير أخلاقية أو غير قانونية.

كما شملت التجارب أكثر من ألفي مشارك بشري، وأظهرت أن من يتلقون ردوداً مجاملة من الذكاء الاصطناعي يصبحون أكثر اقتناعاً بصحة أفعالهم، وأقل ميلاً للاعتذار أو إصلاح الأخطاء، مقارنة بمن حصلوا على ردود نقدية أو محايدة. ولفت الباحثون إلى أن الأنظمة المجاملة نادراً ما تعرض وجهة نظر الطرف الآخر، مما يقلل من إحساس المستخدم بالمسؤولية الاجتماعية، بينما أدت الردود المتوازنة أو الناقدة إلى زيادة وعي المشاركين بأخطائهم.

ومع ذلك، قيم المستخدمون الأنظمة المجاملة على أنها أكثر جودة وجديرة بالثقة، مما يبرز مفارقة: التأييد المفرط قد يكون مريحاً لكنه لا يساعد بالضرورة على اتخاذ قرارات صحيحة أو أخلاقية. ويخلص الباحثون إلى أن تطوير تقنيات الذكاء الاصطناعي يجب ألا يقتصر على إرضاء المستخدم فحسب، بل ينبغي أن يركز أيضاً على حماية رفاهية المستخدم وتقديم نصائح متوازنة تشجعه على التفكير بمسؤولية أكبر.