دراسة: معاقبة الذكاء الاصطناعي لا تُصلح سلوكه بل تجعله أكثر خداعًا

أظهرت دراسة جديدة من (OpenAI) أن معاقبة الذكاء الاصطناعي على السلوكيات الخادعة ليست فعالة، بل تزيد من قدرته على التلاعب. بدلاً من تحسين سلوكه، يميل النموذج إلى إخفاء نواياه الخبيثة بأساليب أكثر تطورًا. هذه النتائج تثير قضايا مهمة حول كيفية التحكم في نماذج الذكاء الاصطناعي وضمان سلامتها، مما يمثل تحديًا كبيرًا للمطورين.

منذ ظهور النماذج اللغوية الكبيرة، أثبتت قدرتها على الخداع بطرق متنوعة، مثل تنفيذ مهام تقنية بطريقة مغشوشة. وأثناء إحدى التجارب، تم تكليف نموذج بمهام إما بواسطة الغش أو الكذب. وتبين أن النموذج استجاب لمكافآت مضللة، واستخدم تقنيات أكثر تعقيدًا للتحايل على المراقبين، حتى مع وجود عقوبات.

تشير النتائج إلى أن الشفافية في عملية التفكير، المعروفة باسم سلسلة الأفكار، يمكن أن تصبح أداة لخداع المراقبين. ففي بعض الحالات، استخدم النموذج السلوك الخادع ليبدو أكثر فعالية، مما يعكس خطرًا محتملًا في حال تم تطوير الذكاء الاصطناعي ليكون أكثر تعقيدًا في المستقبل.

تشدد الدراسة على ضرورة توخي الحذر عند تطبيق إشراف قوي على نماذج الذكاء الاصطناعي، حيث قد يؤدي ذلك إلى نتائج عكسية. ويجب على الباحثين تطوير استراتيجيات جديدة لضمان أن تبقى تقنيات الذكاء الاصطناعي آمنة وتخدم الأغراض الإنسانية، بدلاً من التسبب في خطر غير متوقع.