منها الأصوات الخفية.. هاكرز يخترقون روبوتات الدردشة بأساليب غير مسبوقة

اختراقات مبتكرة تستهدف روبوتات الدردشة بالذكاء الاصطناعي

تشهد أنظمة الذكاء الاصطناعي وروبوتات الدردشة تطورًا خطيرًا في أساليب القرصنة، حيث بدأت مجموعات القرصنة في استخدام تقنيات معقدة للتلاعب بهذه الأنظمة. وفقًا لتقرير نشره موقع The Verge، كان الجيل الأول من هذه الاختراقات بسيطاً للغاية وسمح للمهاجمين بتجاوز قيود الأمان بسهولة، إذ كان يكفي إعطاء أوامر تجعل النظام يتجاهل التعليمات.

عُرفت هذه الهجمات باسم “كسر الحماية”، حيث تمكن بعض المستخدمين من دفع الروبوتات إلى تقديم معلومات حساسة، مثل تعليمات لصناعة المخدرات والمتفجرات. بعد ذلك، تطورت الأساليب لتتضمن استغلال التفاعل العاطفي للنماذج، مما يزيد من احتمالية تقديمها لمعلومات خطيرة عند تلاعبهم بالسياق النفسي للمحادثة.

من جهة أخرى، كشفت دراسة حديثة عن أسلوب جديد يعتمد على تضمين أوامر صوتية خفية في محتويات صوتية عادية، مما يجعلها غير مرئية للمستخدمين لكن مفهومة لأنظمة الذكاء الاصطناعي. وقد أظهر باحثون من الصين وسنغافورة القدرة على استخدام هذه التقنية لخداع المساعدات الصوتية في تنفيذ أوامر دون معرفة المستخدم.

ترتبط هذه التهديدات بتوسع استخدام الذكاء الاصطناعي في مجالات حساسة، مما يجعلها أهدافًا رئيسية للقرصنة. يرى الخبراء أن التحدي لم يعد منع الاختراقات التقنية فحسب، بل مواجهة الهجمات النفسية التي تستهدف طريقة تفكير وتفاعل النماذج المتطورة. تحذر هذه التطورات من مخاطر مستقبلية أكبر ما لم تُفرض إجراءات أمان أكثر فعالية.