دراسة عالمية تكشف أن 24% من المؤسسات في الإمارات العربية المتحدة والمملكة العربية السعودية تستخدم بالفعل وكلاء ذكاء اصطناعي مستقلين في ظل تطبيق مبادئ حوكمة ضعيفة أو شبه معدومة، بينما يعترف 52% من الموظفين بأنهم قد لا يكونون قادرين على رصد الهجمات على شاكلة التزييف العميق.
أعلنت اليوم شركة KnowBe4، الرائدة في أمن القوى العاملة الرقمية وتأمين وكلاء الذكاء الاصطناعي والبشر، عن إطلاق تقريرها البحثي الجديد بعنوان: “من مخاطر الوكلاء إلى انتصارات البشر: بناء ثقافة أمنية في عصر الذكاء الاصطناعي الوكيلي”. تكشف النتائج عن واقع خطر تواجهه المؤسسات الحديثة في الإمارات العربية المتحدة والمملكة العربية السعودية، حيث تعمل أدوات الذكاء الاصطناعي المستقلة على توسيع نطاق الهجوم المؤسسي بشكل أسرع من قدرة فرق الأمن على وضع الضوابط الوقائية.
مع انتشار الذكاء الاصطناعي الوكيلي في الأعمال اليومية، أفاد 84% من قادة الأمن السيبراني في الإمارات العربية المتحدة والمملكة العربية السعودية بأن وكلاء الذكاء الاصطناعي ينفذون إجراءات ضمن سير العمل المؤسسي. ومع ذلك، فإن غياب مبادئ الحوكمة يترك المؤسسات عرضة للمخاطر؛ إذ يظهر التقرير أن نحو مؤسسة واحدة من كل أربع مؤسسات (24%) تفيد بأن استخدام الذكاء الاصطناعي لديها غير مُعتمد أو غير خاضع لمبادئ الحوكمة. وبالتالي، يعد “الذكاء الاصطناعي الظِلّي” غير المُدار بمثابة طبقة خفية من الموظفين الظليين الذين يتعاملون مع بيانات مؤسسية حساسة من دون أي رقابة.
أبرز النتائج من التقرير:
88% من الموظفين في الإمارات العربية المتحدة والمملكة العربية السعودية يذكرون أن محتوى الصوت والفيديو بتقنية التزييف العميق أصبح واقعيًا لدرجة أنه من المستحيل معرفة ما يمكن الوثوق به، كما يعترف 52% بأنهم قد ينخدعون بهجمات احتيالية تعتمد على التزييف العميق في العمل.
أكثر من نصف (54%) قادة الأمن السيبراني في الإمارات العربية المتحدة والمملكة العربية السعودية أفادوا بأن الأخطاء المرتكبة أثناء العمل اليومي كان لها التأثير الأكبر على أمن مؤسساتهم السيبراني خلال الأشهر الـ 12 الماضية. ومما يفاقم هذه المشكلة، أن 44% من الموظفين يقرون بأن ضغوط الوقت ومشتتات بيئة العمل تدفعهم لارتكاب أخطاء أمنية جسيمة، حتى عندما يكونون على دراية تامة بالبروتوكول الآمن.
36% من قادة الأمن السيبراني في الإمارات العربية المتحدة والمملكة العربية السعودية أفادوا بأن الهجمات المدعومة بالذكاء الاصطناعي تُعد من العوامل الرئيسية المسببة لمخاطر الأمن السيبراني المرتبطة بالعنصر البشري في المستقبل.
41% من الموظفين قالوا إنهم غالبًا ما يلجؤون إلى استخدام أدوات الذكاء الاصطناعي الوكيلي الخاصة بهم عندما تكون الخيارات المتاحة غير متوفرة أو مقيدة، ما يترك المؤسسات عُرضة لهجمات سيبرانية. في الوقت نفسه، أفاد 52% من قادة الأمن السيبراني بأن استخدام البرمجيات غير المُصرَّح بها وتطبيقات الذكاء الاصطناعي غير المعتمدة أثّر بشكل مباشر على وضعهم الأمني خلال الأشهر الـ 12 الماضية.
على الرغم من أن 76% من قادة الأمن السيبراني يشعرون بأنهم “على أتم استعداد” للتعامل مع التهديدات غير المتوقعة أو الناشئة القائمة على الذكاء الاصطناعي في العام المقبل، فإن 84% منهم أكدوا أن هناك حاجة إلى تحسينات إضافية لضمان عمل أدوات ووكلاء الذكاء الاصطناعي ضمن سياسات الأمن وحدود المخاطر المعتمدة في المؤسسة.
يظهر التقرير أن المؤسسات التي تحقق تقدمًا هي التي تعطي أولوية للأمن السيبراني باعتباره ثقافة مؤسسية وليس مجرد وظيفة بحتة، حيث تدمج سلوكيات الأمان بشكل سلس في سير العمل اليومي. وبالتالي، تنشئ هذه المؤسسات بيئات عمل يشعر فيها الموظفون بالأمان عند الإبلاغ عن الأخطاء، حيث وافق 82% من الموظفين على ذلك.
صرح الدكتور Martin Kraemer، مستشار الرئيس التنفيذي لقسم أمن المعلومات في KnowBe4، قائلًا: “لقد دخل الأمن السيبراني مرحلة متقلبة، حيث تحاول المؤسسات تأمين قوة عمل هجينة من البشر والذكاء الاصطناعي، ولكن موازين هذه المنظومة تتغير بسرعة تفوق قدرة قادة الأمن على مواكبتها”. “يتحرك المهاجمون بسرعة فائقة، مستخدمين هجمات مثل التزييف العميق لاستهداف الموظفين، وتقنيات حقن التعليمات لاختطاف وكلاء الذكاء الاصطناعي. إن ترك نحو ربع استخدامات الذكاء الاصطناعي داخل مؤسستك من دون رقابة يعد بمثابة دعوة مفتوحة لجهات التهديد.”
يخلص تقرير “من مخاطر الوكلاء إلى انتصارات البشر: بناء ثقافة أمنية في عصر الذكاء الاصطناعي الوكيلي” إلى أن تحقيق “الانتصارات” يتطلب من المؤسسات تصميم أنظمة توجّه السلوك، وبناء ثقافات داعمة، والتحول من تتبّع الإخفاقات إلى تعزيز السلوكيات الإيجابية، مع ترسيخ منهجية فعالة تعطي الأولوية للأمن وتتوسع لتشمل كلاً من وكلاء الذكاء الاصطناعي والبشر.
يعتمد هذا البحث على استطلاع رأي عالمي أجرته شركة Vanson Bourne، وشمل 4,000 من المتخصصين: شمل الاستطلاع 800 من صُنّاع القرار في مجال الأمن و3,200 من الموظفين الذين يمثلون مؤسسات تضم 250 موظفًا أو أكثر عبر مناطق الأمريكيتين وأوروبا والشرق الأوسط وأفريقيا وآسيا والمحيط الهادئ.
