شهدت ساحة الأمن السيبراني تحولاً جذرياً، فلم تعد المعركة مقتصرة على الأساليب التقليدية، مثل القتال ضد الفيروسات الرقمية أو محاولات الاختراق المباشرة للشبكات والحسابات، بل امتدت لتصل إلى مستوى أكثر تعقيداً يتعلق بطريقة فهم وإدراك أنظمة الذكاء الاصطناعي للتعليمات والمعلومات التي تتعامل معها.
ومن هنا يبرز مصطلح “الدارك برومبت” ]شقن Dark Prompt أو الأوامر المظلمة، وهو مصطلح يُستخدم للتعريف بـ”المطالبات الخبيثة” أو المضللة المصممة بعناية للتأثير المباشر في سلوك النماذج الذكية ودفعها لتجاوز قيودها الأمنية والغرض الذي أُنشئت من أجله.
وتندرج تحت هذا التعبير تقنيات أمنية خطيرة، وعلى رأسها ما يُعرف بـ”حقن الأوامر” و”كسر قيود النموذج”، اللذين صنفهما مشروع الأمن السيبراني العالمي المفتوح ضمن المخاطر الرئيسية التي يجب الحذر منها.
وحول آلية عمل هذه الهجمات، أوضح الدكتور محمد محسن رمضان، رئيس وحدة الذكاء الاصطناعي والأمن السيبراني بمركز العرب للأبحاث والدراسات، في تصريحات خاصة لـ”العربية.نت” و”الحدث.نت”، أن نماذج الذكاء الاصطناعي تعتمد كلياً على معالجة التعليمات والسياقات لإنتاج الاستجابات المرجوة.
وأضاف قائلاً: “وهنا يسلك المهاجم أحد طريقين، إما صياغة تعليمات خبيثة مباشرة وتوجيهها للنموذج لإجباره على الانحراف عن مهمته الأصلية، أو إخفاء ودسّ هذه التعليمات المضللة بأسلوب مستتر داخل محتوى يعالج النظام نقاشه أو تلخيصه، مثل بريد إلكتروني أو صفحة ويب أو مستند مرفق، ليتأثر بها النظام تلقائياً دون علم المستخدم”.
واستطرد المتخصص في الأمن السيبراني، شارحاً أن الخطر الحقيقي يكمن عندما تكون هذه الأنظمة متصلة ببيانات مؤسسية وصلاحيات عملية تمكّنها من تنفيذ مهام فعلية، كالبحث في المستندات وإدارة خطوط العمل، مشيراً إلى أن الضرر لا يتوقف عند إخراج إجابة غير صحيحة، بل يمتد إلى محاولة الوصول إلى معلومات سرية أو استدعاء وظائف غير مصرح بها إذا كانت الضوابط الأمنية ضعيفة.
وقال إن هذه المخاطر تزداد مع ظهور النماذج متعددة الوسائط التي تتعامل مع الصور والصوت والفيديو، حيث يمكن دمج التعليمات المضللة داخل ملفات وسائط لا تنتبه إليها العين البشرية، مما يفرض توسيع نطاق الاختبارات الأمنية لتشمل كافة أنواع المدخلات.
وفيما يتعلق بسبل الوقاية والتصدي، كشف اللواء محمود الرشيدي، مساعد وزير الداخلية المصري الأسبق لأمن المعلومات، في تصريحات خاصة لـ”العربية.نت” و”الحدث.نت”، أن الحماية الفعالة ممكنة عبر تطبيق منظومة أمنية متكاملة متعددة الطبقات، مؤكداً عدم وجود وسيلة فريدة تضمن منع هجمات حقن الأوامر بشكل مطلق؛ نظراً لأن النماذج اللغوية تعالج التعليمات والبيانات داخل سياق برمجي واحد، مما يجعل عملية الفصل بينهما تحدياً جوهرياً.
وشدد اللواء محمود الرشيدي على أن خط الدفاع الأول يبدأ بتطبيق مبدأ “أقل قدر من الصلاحيات”، بحيث لا يُمنح النظام إلا الوصول الضروري جداً لأداء مهمته، مع منع تخزين كلمات المرور والمفاتيح السرية داخل التعليمات النصية، وفرض تحقق مستقل قبل تنفيذ أي عمليات حساسة.
وتابع أن الحماية من هذا الخطر تشمل كذلك فحص المدخلات والمخرجات بدقة، وعزل المحتوى الخارجي غير الموثوق، وإجراء اختبارات أمنية محاكية، إلى جانب المراقبة المستمرة لسجلات الاستخدام لرصد أي سلوك غير معتاد.
وأضاف مساعد وزير الداخلية الأسبق أن مواجهة مخاطر الأوامر المظلمة مسؤولية مشتركة تتطلب وضع سياسات مؤسسية واضحة، وتدريب الموظفين، وتوعية المستخدم العادي بعدم إدخال بيانات سرية في أدوات غير معتمدة. وأشار إلى أن المرحلة المقبلة ستشهد تطوراً في أساليب استهداف الذكاء الاصطناعي مع التوسع في استخدام الوكلاء الذكيين، مما يجعل الأمن السيبراني مطالباً بحماية مسار اتخاذ القرار الرقمي وضمان عدم تحول التعليمات المضللة إلى أفعال ذات آثار حقيقية تضر بالأفراد والمؤسسات.
عدد المصادر التي تم تحليلها: 7
المصدر الرئيسي : القاهرة: محمد مخلوف 
معرف النشر: MISC-121026-423
