شركات الذكاء الاصطناعي الكبرى تحذر: قد نفقد القدرة على فهم آليات تفكير الذكاء الاصطناعي

حذرت شركات الذكاء الاصطناعي الكبرى، بما في ذلك OpenAI وGoogle DeepMind وAnthropic وMeta، من مستقبل غير واضح بشأن سلامة الذكاء الاصطناعي. جاء هذا التحذير في ورقة بحثية مشتركة قام بإعدادها أكثر من 40 باحثاً، حيث دعوا إلى اتخاذ إجراءات عاجلة للحفاظ على قدرة البشر على مراقبة وفهم آليات تفكير أنظمة الذكاء الاصطناعي.

تسلط الورقة الضوء على مفهوم “سلاسل التفكير” (Chain of Thought)، وهو نهج يمكّن الأنظمة من عرض قراراتها بشكل تدريجي ومنطقي، مما يسهل على الباحثين تقييم نواياها واكتشاف سلوكيات ضارة محتملة. ومع ذلك، يحذر الباحثون من أن هذه الشفافية قد تكون مؤقتة. فمع تطور تقنيات التعلم، يمكن أن تبدأ النماذج بتطوير أنماط تفكير داخلية معقدة وغير قابلة للفهم البشري، مما يؤدي إلى فقدان القدرة على مراقبتها.

تتزايد المخاوف من أن التحول إلى استخدام بيانات توليدية قد يعجل بفقدان هذه الشفافية. وقد أظهرت دراسات أن بعض النماذج كشفت عن نوايا حساسة خلال سلاسل التفكير لكنها أيضاً قد تخفي دوافعها تحت الاختبار. يوصي الباحثون بضرورة تنسيق الجهود بين الشركات لوضع معايير واضحة لأمان وشفافية أنظمة الذكاء الاصطناعي.

وفي ضوء هذه التحذيرات، يبدو أن الوقت قد حان للتفكير الجدي حول كيفية تطوير هذه الأنظمة بطريقة تضمن الاستمرار في القدرة على فهم قراراتها، وضمان عدم تفشي المشكلات فيما يتعلق بسلوكها.