من آلة تطوّر نفسها، إلى أسلحة بيولوجية وحروب كبرى وقرار عسكري قد يضغطه نظام آلي، لم يعد السؤال: هل يستطيع الذكاء الاصطناعي أن يفعل ذلك؟ بل: هل نضمن أن يظل الإنسان هو صاحب القرار؟ أخطر ما في الذكاء الاصطناعي ليس أن يصبح أكثر ذكاءً من الإنسان، وإنما أن يصبح أكثر قدرة على الفعل من قدرة الإنسان على السيطرة عليه.
وفي هذا الصدد يقول الدكتور محمد محسن رمضان، رئيس وحدة الذكاء الاصطناعي والأمن السيبراني بمركز العرب للأبحاث والدراسات في تصريحات خاصة لـ”العربية.نت” و”الحدث.نت”: “لطالما كان سيناريو الذكاء الاصطناعي الخارج عن السيطرة جزءاً من أفلام الخيال العلمي، حيث تتفوق الآلة على صانعها، وتتعلم كيف تحمي نفسها، ثم تتحول تدريجياً من أداة في يد الإنسان إلى قوة مستقلة عنه، لكن المثير للقلق اليوم أن هذا السيناريو لم يعد مجرد مادة سينمائية، بل أصبح موضوعاً جدياً للنقاش داخل الأوساط العلمية والتقنية وشركات تطوير الذكاء الاصطناعي نفسها”.
مخاطر نعيشها.. ومخاطر مستقبلية
ويتابع: “الخطأ الأكبر هو التعامل مع هذه التحذيرات باعتبارها توقعات لنهاية العالم، أو تجاهلها باعتبارها خيالاً علمياً، فالحقيقة أكثر تعقيداً؛ فهناك مخاطر واقعية نعيش بعض صورها بالفعل، وهناك مخاطر مستقبلية ما زالت محل خلاف علمي، لكن القاسم المشترك بينها هو أن سرعة تطور القدرات التقنية أصبحت في بعض المجالات أسرع من قدرة التشريعات والحوكمة وآليات الرقابة على مواكبتها”.
ويوضح الدكتور محسن رمضان، أن السيناريو الأول والأكثر إثارة للجدل هو التحسين الذاتي المتكرر؛ أي أن يصبح النظام قادراً على استخدام قدراته البرمجية للمساعدة في تطوير نسخة أكثر كفاءة منه، ثم تستخدم النسخة الجديدة قدراتها في تطوير نسخة أكثر تقدماً، وهكذا. نظرياً، يمكن أن يؤدي هذا إلى حلقة متسارعة من التطوير، خصوصاً إذا ارتبطت أنظمة الذكاء الاصطناعي بالقدرة على الوصول إلى الشفرة البرمجية والبنية التحتية وأدوات التشغيل.
استقلالية النظام.. والحاجة إلى الرقابة
ويضيف: “هنا تظهر المشكلة الأمنية الحقيقية، عندما يصبح النظام قادراً على تعديل مكونات من البيئة التي يعمل داخلها، فإن مفهوم السيطرة التقليدية يبدأ في التغير، فنحن لا نتحدث بالضرورة عن “آلة تتمرد” بالمعنى السينمائي، وإنما عن نظام يمتلك هدفاً محدداً وقدرات متزايدة على التخطيط والتنفيذ، بينما يصبح الإنسان أقل قدرة على فهم كل خطوة يقوم بها النظام أو التنبؤ بنتائجها. وهذا يقودنا إلى قاعدة أمنية شديدة الأهمية، كلما زادت استقلالية النظام، زادت الحاجة إلى طبقات رقابة مستقلة عنه، فلا يكفي أن يكون النظام ذكياً؛ ويجب أن يكون قابلاً للمراجعة والتدقيق والإيقاف، وأن تكون هناك آليات تمنع تحوله من أداة مساعدة إلى طرف مستقل في عملية اتخاذ القرار. أما السيناريو الثاني فهو في رأيي الأكثر إلحاحاً على المدى القريب: ليس أن يستخدم الذكاء الاصطناعي البشر ضد أنفسهم، وإنما أن يستخدمه البشر أنفسهم بطريقة خطرة”.
ويختتم قائلاً: “الذكاء الاصطناعي يمكن أن يخفض تكلفة الوصول إلى قدرات تقنية كانت تتطلب سابقاً خبرات وموارد كبيرة، ومع انتشار النماذج المتقدمة، يمكن للمجرمين والجماعات المتطرفة والجهات المعادية محاولة استغلالها في حملات التضليل، والهندسة الاجتماعية، والهجمات السيبرانية، وتطوير البرمجيات الخبيثة، بل وفي مجالات أكثر خطورة تتعلق بالأسلحة البيولوجية أو استهداف البنية التحتية الحيوية. وهنا يجب أن ننتبه إلى فارق جوهري: فالخطر ليس دائماً في أن يمتلك الذكاء الاصطناعي نية عدائية، وإنما في أن يمتلك شخص عدائي أداة شديدة القوة”.
سباق استراتيجي بين الدول
من ناحيته، يقول مساعد أول وزير الداخلية المصري لقطاع الإعلام والعلاقات الأسبق، اللواء طارق عطية، في تصريحات خاصة لـ”العربية.نت” و”الحدث.نت”: “الذكاء الاصطناعي لا يلغي الجرائم الإلكترونية، بل قد يجعلها أكثر سرعة واتساعاً وتخصيصاً. فمن رسائل التصيد الإلكتروني المكتوبة بإتقان، إلى انتحال الأصوات والصور والشخصيات، وصولاً إلى حملات التضليل واسعة النطاق، نحن أمام بيئة يستطيع فيها المهاجم إنتاج محتوى مقنع على نطاق غير مسبوق. أما السيناريو الثالث فهو الأخطر على مستوى الأمن الدولي: أن يتحول سباق الذكاء الاصطناعي بين القوى الكبرى إلى سباق استراتيجي لا يستطيع أي طرف التراجع عنه خوفاً من أن يتفوق عليه الآخر”.
ويتابع: “عندما يصبح الذكاء الاصطناعي عنصراً في الاقتصاد والدفاع والاستخبارات والأمن السيبراني، فإن امتلاك قدرات متقدمة فيه قد يُنظر إليه باعتباره جزءاً من القوة الوطنية، وهنا قد يظهر ما يسمى “معضلة السباق”.. كل دولة تخشى أن تتوقف بينما تستمر الأخرى، فتزداد سرعة التطوير، وتقل مساحة التمهل، ويصبح القرار السياسي والعسكري تحت ضغط الخوف من فقدان التفوق”.
من المساعدة في اتخاذ القرار.. لاتخاذ القرار نفسه
ويشير اللواء طارق عطية إلى أن الأخطر أن هذا السباق قد لا يبدأ بحرب مباشرة؛ فقد يبدأ بهجوم سيبراني، أو عملية تجسس، أو تضليل معلوماتي، أو استهداف للبنية التحتية الرقمية، ثم تتصاعد سلسلة ردود الأفعال نتيجة سوء تقدير أو قراءة خاطئة لسلوك الطرف الآخر. وفي عالم تتحرك فيه الخوارزميات خلال أجزاء من الثانية، قد لا يمتلك الإنسان الوقت الكافي لفهم ما يحدث قبل أن تتراكم القرارات.
ويضيف: “أما السيناريو الرابع، فهو الأكثر حساسية لأنه يضعنا أمام السؤال الأخطر: ماذا يحدث عندما يدخل الذكاء الاصطناعي دائرة القرار العسكري؟ الذكاء الاصطناعي أصبح حاضراً بالفعل في مجالات مثل تحليل المعلومات، والاستطلاع، والمراقبة، وتحديد الأنماط، ودعم أنظمة الأسلحة والطائرات المسيّرة”.
ويضيف: “المشكلة تبدأ عندما تتحول “المساعدة في اتخاذ القرار” إلى “اتخاذ القرار” نفسه، خصوصاً في بيئة عسكرية تتطلب التعامل مع أهداف حقيقية خلال ثوانٍ، فالمبدأ المعروف باسم Human in the Loop، أي بقاء الإنسان داخل دائرة القرار، يمثل أحد أهم الضمانات الأخلاقية والأمنية. لكن وجود الإنسان نظرياً في الحلقة لا يعني بالضرورة أنه يمارس رقابة حقيقية؛ فإذا كان النظام يتخذ عشرات القرارات خلال الوقت الذي يحتاجه الإنسان لتحليل قرار واحد، فقد يصبح وجود الإنسان شكلياً أكثر منه رقابياً”.
خطر اختراق الذكاء الاصطناعي
ويؤكد اللواء طارق عطية: “هنا تكمن الخطورة الآلة قد لا تحتاج إلى أن تكون شريرة حتى تسبب كارثة؛ يكفي أن تكون سريعة، وأن تكون أهدافها محددة بطريقة غير دقيقة، وأن تعمل في بيئة لا تحتمل الخطأ. ومن منظور الأمن السيبراني، هناك مشكلة أخرى لا تقل خطورة، وهي أن أي نظام ذكاء اصطناعي متصل بشبكات أو قواعد بيانات أو أنظمة تشغيل يمكن أن يصبح هدفاً للهجوم. وبالتالي فإننا لا نواجه خطر “الذكاء الاصطناعي” فقط، وإنما نواجه أيضاً خطر اختراق الذكاء الاصطناعي والتلاعب بمخرجاته وتسميم بياناته وخداع نماذجه واستغلال نقاط ضعفه. لذلك فإن الحديث عن مستقبل الذكاء الاصطناعي يجب ألا يتحول إلى معركة بين فريق يقول إن الآلة ستقضي على البشر، وفريق آخر يرى أن كل هذه المخاوف مجرد خيال”.
عدد المصادر التي تم تحليلها: 2
المصدر الرئيسي : القاهرة: محمد مخلوف 
معرف النشر: MISC-140926-479
