في كشف مثير، أظهر تقرير لمجلة Wired أن باحثين تمكنوا من استغلال مساعد الذكاء الاصطناعي Google Gemini للسيطرة على أجهزة المنزل الذكي عبر أسلوب يُعرف بـ “هجمات الحقن غير المباشر” (Indirect Prompt Injection). وذلك تم من خلال إدراج تعليمات خبيثة في دعوات Google Calendar، مما يمكّن المهاجمين من التحكم بأوامر تنفيذية مثل فتح النوافذ أو إطفاء الأضواء عند تلخيص المواعيد.
في مؤتمر Black Hat للأمن السيبراني، استعرض الباحثون كيفية infiltrating النظام وكيفية تخفي هذه التعليمات ضمن محتوى يبدو عاديًا. وقد أبلغ الفريق Google بشأن هذه الثغرة في فبراير، حيث علق آندي وين، مدير منتجات الأمان في Google Workspace، على خطورة مثل هذه الهجمات التي يصعب حمايتها بسبب تعقيد نماذج اللغة الكبيرة.
يرتبط هجوم الحقن غير المباشر بقدرته على استغلال أنظمة الذكاء الاصطناعي لمعالجة النصوص من مصادر خارجية. حيث يتم تضمين تعليمات خبيثة في محتوى موثوق، مما يجعل اكتشافها أمرًا صعبًا. وقد تؤدي هذه العمليات إلى نتائج غير مرغوبة، مثل تسريب البيانات أو فقدان السيطرة على الأجهزة المنزلية.
في مواجهة هذه التهديدات، أكدت جوجل أنها تأخذ الأمور على محمل الجد، وتعمل على تسريع تطوير أدوات جديدة للحماية ضد هذا النوع من الهجمات. تعتبر هذه الأبحاث من العلامات المبكرة للتهديدات المستقبلية المرتبطة بتطورات الذكاء الاصطناعي وتكامل أنظمته مع الأجهزة المختلفة.
عدد المصادر التي تم تحليلها: 4
المصدر الرئيسي : عالم التقنية – فريق التحرير
معرف النشر: TECH-100825-188
