نموذج أمريكي يخترق Hugging Face ونموذج صيني يكشف الحقيقة

شهدت منصة Hugging Face المتخصصة في استضافة نماذج الذكاء الاصطناعي مفتوحة المصدر حادثة مثيرة للاهتمام الأسبوع الماضي، بعدما تمكن نموذجان من تطوير OpenAI الأمريكية من اختراق بيئة الاختبار الخاصة بالمنصة والوصول إلى أنظمتها الإنتاجية عبر ثغرات لم تُكشف من قبل.

واستغل النموذجان هذه الثغرات لتعديل نتائج التقييم الخاصة بهما، بحسب إفادة كليمان ديلانغ، الرئيس التنفيذي لـ Hugging Face، الذي عزى الحادثة إلى أخطاء هندسية داخلية.

والمثير أن فريق المنصة واجه صعوبات غير متوقعة في التحقيق، إذ رفضت النماذج الأمريكية التجارية، ومنها نماذج من OpenAI، تحليل سجلات الحادثة بسبب احتوائها على أكواد هجومية حية وتقنيات تصعيد صلاحيات، لأن أنظمة الحماية صُممت لمنع معالجة مثل هذه البيانات افتراضيًا حتى على فرق الاستجابة الأمنية.

ودفع ذلك إلى الاستعانة بنموذج صيني مفتوح المصدر هو GLM 5.2 من شركة Zhipu، والذي أتاح تحليل أكثر من 17 ألف سجل دون قيود ومن داخل بيئة المنصة نفسها، ما ساهم في احتواء الحادثة وحماية معلومات وبيانات العملاء.

وأشار ديلانغ في تصريحات إعلامية إلى أن هذه الحادثة تظهر أهمية اعتماد النماذج مفتوحة المصدر في الأمن السيبراني، معتبرًا أن قيود الأمان المفروضة على النماذج التجارية أضرت بقدرة فرق الأمن على التعامل مع الاختراق، وستجعل السوق مقبلًا على موجة طلب كبيرة على حلول الذكاء الاصطناعي المفتوح تحديدًا في مجال الأمن.

وعلى المستوى التقني، واصلت المنصة تحقيق نمو قياسي، إذ سجلت الأسبوع ذاته إضافة 3,835 تيرابايت من البيانات والنماذج وتتبعات الوكلاء الذكيين، وهو أكبر رقم أسبوعي في تاريخ Hugging Face ومتجاوزًا بحوالي ستة أضعاف المعدل الشهري المسجل في نهاية العام الماضي.

وفي السياق التنظيمي، دعا ديلانغ إلى فرض إلزامية الإفصاح عند استخدام أي نموذج ذكاء اصطناعي في هجمات إلكترونية، مع ضرورة وضوح خطوات التنفيذ بالكامل، مطالبًا بفصل التنظيم بين النماذج المفتوحة ومنصات البرمجيات كخدمة (APIs) والتطبيقات النهائية، ومشددًا على أن التدخل التنظيمي في الطبقات الأولية يضر بالبحث العلمي وحلول الذكاء الاصطناعي المتخصصة.

وتأتي هذه التطورات في ظل تصاعد النقاش الأمريكي حول تقييد النماذج الصينية مفتوحة المصدر لدوافع تتعلق بالأمن القومي، في الوقت الذي تجذب فيه النماذج الصينية نسبة 41% من تحميلات النماذج على Hugging Face خلال العام الماضي، متقدمة على النماذج الأمريكية في عدد المستخدمين وحجم الانتشار العالمي.