تحذير.. إخفاء أوامر في الصور المنشأة بالذكاء الاصطناعي لسرقة البيانات

حذر خبراء أمنيون من تهديد جديد في عالم الهجمات الإلكترونية، حيث يتم إخفاء أوامر خبيثة داخل الصور المعالجة بواسطة نماذج الذكاء الاصطناعي التوليدية. وكشفت دراسة أجراها فريق باحثين من شركة “Trail of Bits” عن هذه الطريقة التي تستغل الآليات المستخدمة في تحجيم الصور، مما يتيح للقراصنة الوصول إلى البيانات الشخصية دون علم المستخدم.

تعتمد هذه التقنية على تعديل حجم الصور، وهو ما يكشف أنماطًا خفية في النسخ الأصلية تصبح مرئية بعد عملية التحجيم. وقد أظهر الباحثون أن التقنيات مثل “أقرب جار” و”ثنائي الخطي” تكشف تشويهات بصرية تحمل نصوصاً مخفية يمكن أن تتحول إلى أوامر قابلة للتنفيذ.

في تجاربهم، استطاع الباحثون تطبيق هذه الهجمات عبر نظم مختلفة مثل Gemini CLI وVertex AI Studio، ونجحوا في استخراج بيانات من تقويم جوجل وإرسالها إلى بريد إلكتروني خارجي دون إذن المستخدم، مما يؤكد خطر هذا النوع من التهديدات.

بغية التحذير من هذه المخاطر، طور الباحثون أداة مفتوحة المصدر باسم “Anamorpher” يمكنها إنشاء صور تحتوي على تعليمات خفية. كما شددوا على أن الفجوات الأمنية في أنظمة الدفاع التقليدية تتيح للمهاجمين استغلال هذه الثغرات.

أوصى الخبراء المستخدمين بتوخي الحذر عند تحميل الصور، وتقييد أبعادها، ومراجعة نتائج التحجيم. كما دعا الباحثون إلى تطوير أنظمة دفاعية متعددة الطبقات لضمان الحماية من هجمات “حقن الأوامر” سواء في النصوص أو الصور.