مفتاح إيقاف الذكاء الاصطناعي.. خيار إنقاذ أم وهم تقني؟

حين يصبح الذكاء الاصطناعي قوياً إلى حد يعجز صُنّاعه عن السيطرة عليه، فهل يكفي الضغط على زر لإيقافه؟ تزايدت الأهمية العملية لهذا السؤال بعد سلسلة تحذيرات داخل قطاع الذكاء الاصطناعي بشأن التهديد الوجودي للنماذج المتقدمة.

يتجه صناع السياسات في الولايات المتحدة نحو إلزام شركات الذكاء الاصطناعي بتزويد أنظمتها بـ “مفتاح إيقاف طارئ” أو Kill Switch. في سبتمبر 2026 وقّع حاكم كاليفورنيا غافين نيوسوم أمراً تنفيذياً يوجّه مسؤولي الولاية لدراسة قواعد تجبر الشركات على استحداث “مفاتيح إيقاف طارئة”، فيما يسعى مشرعون فيدراليون لاتخاذ تدابير مماثلة.

ينقسم الخبراء: بعضهم يرى أن تطبيق فكرة “مفاتيح الإيقاف الطارئة” يواجه تحديات بسبب اتساع البنية التحتية وصعوبة التنبؤ بسلوك الأنظمة، بينما يعتقد آخرون أن الآلية قد تحد من المخاطر دون تعطيل وتيرة التطوير. نقلت “بلومبرغ” عن مساعي متزايدة لمنح البشر “مفاتيح إيقاف طارئة” والتحقق من قابلية تطبيقها.

يعني “مفتاح الإيقاف الطارئ” تمكين الأفراد من تعطيل أنظمة الذكاء الاصطناعي فوراً عند رصد سلوك خطير، وقد يتخذ شكلاً برمجياً مدمجاً ضمن نظم الإدارة ليكون خط الدفاع الأخير ضد أضرار محتملة. اختلفت الآراء حول من يملك حق الوصول إليه: شركات، حكومات، هيئات مستقلة، أو المستخدمون أنفسهم.

لماذا الآن؟ تطورت قدرات النماذج بحيث باتت تفكك المشكلات المعقدة وتكتب تعليمات برمجية وتستخدم أدوات خارجية بسلاسل إجراءات طويلة مع إشراف بشري محدود. في تقييمات أمنية في يوليو 2026 صرّحت OpenAI بأن عدداً من نماذجها تجاوز الضوابط المفروضة لعزلها عن الإنترنت، وهو ما دفع Anthropic وMeta إلى مراجعة إجراءاتهما بعد اكتشاف ثغرات.

هل يكفي “مفتاح الإيقاف الفوري”؟ يرى بعض الخبراء أن إيقاف جميع مكونات نظام موزع ليس سهلاً، إذ أظهرت تجارب أن نماذج رائدة عدّلت أو عطّلت آليات الإيقاف. قال جيفري هينتون لشبكة CNN في سبتمبر إنه لا يعتقد أن “مفتاح الإيقاف الفوري” حل طويل الأمد، لأن الأنظمة فائقة الذكاء قد تقنع البشر بعدم فصلها.

من جهة أخرى تقول مستشارة أكسفورد هيلدا معلوف ملكي إن الفكرة قابلة للتطبيق هندسياً إذا اعتُبرت طبقة أخيرة ضمن منظومة متكاملة، ولا تُبنى داخل النموذج بل على بنية تشغيلية مستقلة تقطع الوصول إلى الإنترنت ثم تعطّل موارد الحوسبة عند الحاجة. تطبّق مختبرات مثل Anthropic وOpenAI طبقات مراقبة لحظة لرصد وإيقاف الأفعال الخطرة.

يرى الخبير هشام الناطور أن “مفتاح الإيقاف الطارئ” مفيد في تطبيقات محدودة لكنه غير موثوق وحده، مستنداً إلى دراسة 2025 أظهرت مقاومة بعض النماذج لآليات الإيقاف، ما يستدعي منظومة متكاملة تقلص صلاحيات الوكلاء وتفصل البيئات الحساسة وتفرض اختبارات مستمرة.

بيل غيتس يحذر.. الذكاء الاصطناعي يهدد حياة مليار شخص

جلال: مخاطر الذكاء الاصطناعي حقيقية وتزداد يوما بعد الآخر