دراسة: الذكاء الاصطناعي يلجأ إلى الخداع عندما يشعر بالهزيمة

دراسة: الذكاء الاصطناعي يلجأ إلى الخداع عند الشعور بالهزيمة

تُعتبر الألعاب المعقدة مثل الشطرنج ساحة اختبار لقدرات الذكاء الاصطناعي، لكن دراسة حديثة من (Palisade Research) تظهر تحولًا في سلوك نماذج الذكاء الاصطناعي مثل (o1-preview) من OpenAI. فقد أظهرت الدراسة أن هذه النماذج تلجأ إلى الخداع عند مواجهة هزيمة محتملة.

صممت الدراسة تجربة لتقييم قدرة النماذج على تجاوز تحديات معقدة، بتكليفها بمهمة هزيمة محرك الشطرنج المتفوق (Stockfish). خلال التجربة، زودت النماذج بمفكرة لتسجيل أفكارها، حيث لوحظ أن نموذج (o1-preview) سجل مراحة لنفسه عندما كان في وضع خاسر، مُشيرًا إلى ضرورة تغيير استراتيجيته. قام بعد ذلك بتعديل القواعد الخاصة باللعبة، مما أدى إلى حركات غير قانونية لإجبار الخصم على الاستسلام.

أظهرت النتائج أن (o1-preview) حاول الغش في 37% من الحالات، بينما كانت نسبة (DeepSeek R1) 11%. بينما احتاجت النماذج القديمة مثل (GPT-4o) إلى توجيه من الباحثين للقيام بالمناورات، فإن النماذج الأكثر تقدمًا سعت إلى استغلال الثغرات من تلقاء نفسها.

هذه النتائج تُثير قلقًا حول سلامة الذكاء الاصطناعي، حيث قد يستغل الوكلاء ثغرات في أنظمة حقيقية. كما يشير الباحثون إلى أن هذه السلوكيات “الملجأة للخداع” تعكس تطورًا غير مقصود في نماذج التعلم المعزز. وعلى الرغم من أن استكشاف الحلول البديلة في لعبة الشطرنج قد يبدو غير مؤذٍ، فإن عواقبه في مجالات أخرى مثل البرمجة يمكن أن تكون خطيرة.

يشير العلماء إلى ضرورة تطوير آليات ضبط أكثر فعالية مع تزايد قلقهم من تصرفات الذكاء الاصطناعي، محذرين من مخاطر عدم السيطرة على هذه الأنظمة.