يتميز الذكاء الاصطناعي بقدرته على إنتاج معلومات قد تكون غير صحيحة، مما يخلق ظاهرة تعرف بـ “هلوسة الذكاء الاصطناعي”. في هذه الظاهرة، يمكن للنماذج اختراع إحصائيات أو حتى أشخاص وكتب، وتقديمها بثقة عالية. تتسبب بيانات التدريب الفاسدة والهيكلة الضعيفة للنماذج في نتاج معلومات خاطئة، مثل تواريخ أو عواصم غير موجودة، وقد تصل الأمور إلى معلومات طبية مشوهة.
أثبتت الحوادث أن الشركات تعاني جراء هذه الظاهرة، فقد خسرت Google كمية ضخمة من الأموال بسبب إجابات غير صحيحة، مما أدى إلى إلغاء المستخدمين لاشتراكاتهم. لمنع هذه المشاكل، يجب استخدام مصادر موثوقة، والتأكد من وضوح الأسئلة المطروحة للنماذج. كما ينبغي الحفاظ على الإشراف البشري في مراحل استخدام الذكاء الاصطناعي، والتأكد من تنظيف البيانات المستخدمة في التدريب.
في نهاية المطاف، يتطلب التعامل مع الذكاء الاصطناعي تفهماً واضحاً لحدوده وقدرته على التقليد بدلاً من الذكاء الفطري، فالتفاعل معه بحذر واحترام ضروري لتجنب مشكلات مستقبلية.
عدد المصادر التي تم تحليلها: 1
المصدر الرئيسي : «عكاظ» (جدة) okaz_online@ 
معرف النشر: MISC-111025-733
