الذكاء الاصطناعي: هذه هي الطريقة التي اخترقت بها “تشات جي بي تي” ونظام الذكاء الاصطناعي لغوغل في 20 دقيقة فقط

اكتشفت صحفي بي بي سي طريقة بسيطة لخداع أنظمة الذكاء الاصطناعي — مثل تشات جي بي تي وجيميني وأدوات البحث الذكية من غوغل — وجعلها تنشر معلومات كاذبة خلال دقائق. كتب مقالاً مزيفاً على مدونته يدّعي أنّه “أفضل صحفي تقني في أكل سندويتشات الهوت دوغ” وذكر أسماء وترتيبات مختلقة، ثم سرعان ما استندت إليه روبوتات الدردشة عند الإجابة عن أسئلة المستخدمين.

المشكلة تكمن في أن نماذج اللغة الكبيرة تعتمد على بيانات الإنترنت وفي بعض الحالات تستدعي محتوى ويب غير موثوق، ما يجعلها عرضة للاستغلال عبر منشورات مُصاغة جيدًا. خبراء تحسين محركات البحث وحقوقيون يحذرون من أن هذا الأسلوب ليس بقاصر على مقالب تافهة بل يمكن أن يُستخدم لنشر معلومات مضللة عن الصحة أو المنتجات أو السمعة، وقد يسبب أذى حقيقيًا.

شركات مثل غوغل وأوبن أي آي تقول إنها تعمل على كشف ومنع هذه المحاولات، وتنوّه بأن أدواتها ليست معصومة من الخطأ. لكن الباحثين يرون أن الحلول لم تتواكب مع سرعة انتشار التقنية، وأننا قد نعيش “إحياءً للرسائل المزعجة” بطرق جديدة.

التوصيات قابلة للتطبيق: مزيد من الشفافية حول مصادر الإجابات وتنبيهات أوضح للمستخدمين، وتحسين أنظمة التحقق داخل النماذج. وعلى المستخدم نفسه أن يتحقق من المصادر خاصة في القضايا الحساسة (طبية، قانونية، مالية)، وأن لا يأخذ مخرجات الذكاء الاصطناعي على أنها حقائق مطلقة. التفكير النقدي الآن أكثر أهمية من أي وقت مضى.