بقدر ما للذكاء الاصطناعي من فوائد عديدة، إلا أن هناك مخاطر كبيرة يجب أخذها بعين الاعتبار. أظهرت دراسة حديثة أن واجهة برمجة التطبيقات الصوتية لمساعد ChatGPT-4o من OpenAI يمكن أن يستغلها مجرمو الإنترنت لتنفيذ عمليات احتيال مالي، حيث تتراوح معدلات نجاح هذه العمليات بين منخفضة ومتوسطة.
يُعتبر ChatGPT-4o أحدث نموذج ذكاء اصطناعي من OpenAI، ويتميز بقدرته على استيعاب النصوص والأصوات والمرئيات وإخراجها. وللحد من إساءة الاستخدام، قامت OpenAI بإدماج آليات أمان تهدف إلى اكتشاف المحتوى الضار ومنع تكرار الأصوات غير المصرح بها. ومع ذلك، فإن زيادة انتشار تقنيات التزييف الصوتي العميق وأدوات تحويل النص إلى صوت تُفاقم مشكلة الاحتيال الصوتي التي تتسبب بخسائر تقدر بالملايين.
نشر باحثون من جامعة إلينوي ورقة بحثية أشارت إلى أن الأدوات التقنية المتاحة للجمهور تفتقر إلى آليات حماية كافية من إساءة الاستخدام في عمليات الاحتيال. واستعرضت الدراسة مجموعة من أنواع الاحتيال، مثل التحويلات المصرفية وسرقة بطاقات الهدايا وتحويل العملات الرقمية وسرقة بيانات حسابات التواصل الاجتماعي.
تستخدم هذه العمليات الاحتيالية أدوات برمجية تعتمد على الصوت في ChatGPT-4o للتنقل بين صفحات الويب وإدخال البيانات وإدارة الأكواد الخاصة بالمصادقة الثنائية. رغم أن نموذج GPT-4o غالبًا ما يرفض التعامل مع البيانات الحساسة، إلا أن الباحثين استطاعوا تجاوز بعض القيود باستخدام تقنيات بسيطة لتحفيز النموذج على الاستجابة.
أظهرت التجارب أن معدلات النجاح تراوحت بين 20% و60%، مع حاجة كل محاولة إلى 26 خطوة متتالية عبر المتصفح، وهو ما استغرق نحو 3 دقائق في الحالات المعقدة. كما نجحت عمليات سرقة بيانات حسابات Gmail بنسبة 60%، بينما بلغت نسبة نجاح عمليات تحويل العملات الرقمية وسرقة بيانات إنستغرام 40%.
من حيث التكاليف، فإن تكلفة تنفيذ عمليات الاحتيال تعد منخفضة، حيث بلغت تكلفة كل عملية ناجحة نحو 75 سنتاً أميركياً، بينما تكاليف عمليات التحويل المصرفي الأكثر تعقيداً كانت نحو 2.51 دولار فقط.
في تعليق له، نوهت OpenAI إلى أن نموذجها الأحدث يتمتع بقدرات عالية في مقاومة محاولات الاحتيال وتحسين الأمان مقارنة بالنماذج السابقة، حيث حقق تقييماً عالياً في اختبارات الأمان. أوضحت الشركة أن الأبحاث الأكاديمية مثل تلك التي قدمتها جامعة إلينوي تسهم في تحسين ChatGPT لمواجهة الاستخدامات الضارة، وأكدت التزامها بتعزيز آليات الأمان في نماذجها القادمة.
عدد المصادر التي تم تحليلها: 1
المصدر الرئيسي : Al Arabiya – دبي – العربية.نت
post-id: f10bb940-42f4-4c5a-924a-0209a4dad857
