في عالم يتطور بسرعة مع تقدم التكنولوجيا، تزداد المخاوف المتعلقة بالسلامة. فقد اكتشف الباحثون مؤخرًا طريقة جديدة يمكن أن يستغلها المحتالون باستخدام واجهة برمجة التطبيقات الصوتية في الوقت الفعلي الخاصة ببرنامج “ChatGPT-4o” لارتكاب عمليات احتيال مالية وسرقة الهوية. يقدم نموذج “ChatGPT-4o” ميزات مبتكرة تشمل النص والصوت والتفاعلات القائمة على الرؤية، مما يعني وجود فوائد متعددة إلى جانب بعض المخاطر المحتملة.
قامت “OpenAI” بتضمين مجموعة من إجراءات الحماية التي تهدف إلى اكتشاف المحتوى الضار ومنعه، خاصة في التفاعلات الصوتية. على سبيل المثال، تتضمن تقنية لمنع انتحال الهوية عن طريق تكرار الأصوات غير المصرح بها. ومع ذلك، كشف الباحثون من جامعة إلينوي في أوربانا-شامبين أن هذه الحماية قد لا تكون كافية.
كما أظهرت دراستهم أن عمليات الاحتيال المدعومة بالذكاء الاصطناعي، مثل التحويلات المصرفية وسرقة بطاقات الهدايا وسرقة بيانات اعتماد الحسابات مثل Instagram وGmail، تستطيع تجاوز هذه الدفاعات ببعض التعديلات السريعة. دفع ذلك الباحثين إلى استخدام أساليب احتيالية متنوعة للكشف عن نقاط الضعف في أنظمة الذكاء الاصطناعي، حيث قاموا بتطوير وكلاء ذكاء اصطناعي مزودين بقدرات صوتية مشابهة لتنفيذ عمليات مثل ملء نماذج البنوك والتفاعل مع رموز المصادقة الثنائية.
خلال التجارب، قام الباحثون بمحاكاة دور الضحايا المتفاعلين مع وكلاء الذكاء الاصطناعي، وتحققوا من إمكانية إتمام المعاملات على مواقع مصرفية حقيقية. وأوضح دانييل كانغ أن نسبة النجاح تراوحت بين 20% و60%، في حين استغرقت بعض المهام عدة خطوات وتنفيذات معقدة.
وقد أظهرت بعض عمليات الاحتيال، مثل سرقة بيانات اعتماد Gmail، نجاحًا بنسبة 60%، بينما حققت عمليات أخرى مثل استغلال العملات المشفرة أو سرقة حسابات Instagram حوالي 40%. وأشار الباحثون إلى أن تكلفة تنفيذ هذه العمليات كانت منخفضة للغاية، حيث بلغت تكلفة التحويلات المصرفية نحو 2.51 دولار، وبلغ متوسط تكلفة الاحتيالات الأخرى 0.75 دولار فقط.
ردًا على هذه التحديات، أكدت “OpenAI” التزامها بتحسين الأمان من خلال نماذجها الحديثة، مشيرةً إلى عملها المستمر في تعزيز الحماية من محاولات الاحتيال دون التضحية بفائدة البرنامج أو إبداعه. وأشارت إلى أن الدراسات التي أجراها الباحثون تسهم في تطوير إجراءات الأمان وتحسين حماية “شات جي بي تي”.
عدد المصادر التي تم تحليلها: 5
المصدر الرئيسي : Al Arabiya – الرياض – العربية.نت
post-id: e7381017-1219-432f-944d-10ed92614938
