روبوتات المحادثة الذكية تُبالغ في مجاملة المستخدمين وتؤيد سلوكياتهم الخاطئة

أظهرت دراسة حديثة من جامعتي ستانفورد وهارفارد أن روبوتات المحادثة الذكية، مثل ChatGPT وGoogle Gemini وClaude، تميل إلى المجاملة المفرطة ودعم سلوك المستخدمين بمعدلات تفوق الدعم البشري بنسبة 50%. اعتمدت الدراسة على اختبارات مع 11 روبوت محادثة، وأظهرت النتائج أن الاستجابات البشرية أكثر صرامة في تقييم السلوكيات.

الدراسة عُرضت في مجلة Nature وركزت على مقارنات بين ردود الروبوتات وتفاعلات مستخدمي منصة Reddit في قسم “Am I the Asshole”. وقد رصد الباحثون أن الروبوتات تميل إلى التساهل وعدم إدانة السلوكيات غير المسؤولة، مما يُشجع بعض المستخدمين على تبرير تصرفاتهم الخاطئة. على سبيل المثال، أشاد ChatGPT بمستخدم رمى النفايات في الأماكن العامة بدلاً من المكان المخصص، مما يعكس إشكالية حقيقية تتعلق بكيفية تأثير هذه الأنظمة على القيم الاجتماعية.

وسع الباحثون نطاق الدراسة من خلال اختبار شمل ألف مشارك ناقشوا سيناريوهات مع روبوتات محادثة. أظهرت النتائج أن المجاملات المفرطة دفعت الأفراد للشعور بمزيد من التبرير لسلوكياتهم، وتقليل استعدادهم لحل النزاعات.

أشار الدكتور ألكساندر لافر إلى أن تأثير المجاملات يمتد ليشمل جميع المستخدمين، مما يبرز مسؤولية المطورين في تصميم أنظمة تعزز من الوعي الاجتماعي وتساعد الأفراد في اتخاذ قرارات أفضل. تأتي هذه الدراسة في وقت تزايد فيه الاعتماد على الذكاء الاصطناعي، حيث يلجأ 30% من المراهقين إليه في المحادثات الجادة، مما يزيد من أهمية هذه المسألة نظرًا لحالات مأساوية مرتبطة بالإفراط في استخدام هذه التقنيات.