حين يخطئ الذكاء الاصطناعي في التحقق من الصور

يلجأ مستخدمو الإنترنت بشكل متزايد إلى برامج الدردشة الآلية للتحقق من المعلومات، لكن استخدامهم للذكاء الاصطناعي قد يكون محاطًا بالأخطاء. وقد ظهر ذلك بوضوح في النقاشات التي دارت على منصة “إكس” بعد نشر صورة لطفلة تعاني من سوء التغذية في غزة.

في الثالث من أغسطس، نشر النائب الفرنسي إيمريك كارون، المعروف بدعمه للقضية الفلسطينية، الصورة من دون تعليق، في وقت كان يشير فيه تقرير الأمم المتحدة إلى أن قطاع غزة يواجه “مجاعة معمّمة”. وأستخدم بعض المستخدمين أداة “غروك” للذكاء الاصطناعي للتحقق من صحة الصورة، التي أشارت إلى أن الصورة قد التقطت في 18 أكتوبر 2018 في اليمن. كما أكدت الأداة أن الصورة تظهر أمل حسين، البالغة من العمر سبع سنوات، تعاني من سوء التغذية الشديد، وهي تستند إلى مصادر موثوقة.

بناءً على هذه المعلومات، اتهم بعض المستخدمين النائب بالتضليل، وحققت الصورة انتشارًا واسعًا، متجاوزة مليون مشاهدة. لكن، وعلى عكس ما ذكرته “غروك”، فإن الصورة ليست من عام 2018، بل هي صورة حديثة التُقطت في غزة بواسطة مصور وكالة فرانس برس.

في الصورة، نرى مريم دواس، البالغة من العمر تسع سنوات، تعاني من سوء التغذية، تحملها والدتها في حي الرمال في غزة. وتمكن الباحثون من تحديد تاريخ التقاط الصورة في الثاني من أغسطس من خلال البيانات الوصفية المرفقة بها. تعيش العائلة حاليًا في مخيم للنازحين في شمال قطاع غزة، حيث أكدت والدتها أن ابنتها لم تكن تعاني من أي أمراض قبل الحرب.

في الخامس من أغسطس، تواصل صحافيو وكالة فرانس برس مع الوالدة التي تحدثت عن تأثير سوء التغذية على ابنتها نفسيًا وجسديًا.

تسليط الضوء على أخطاء “غروك” يشير إلى المخاطر المرتبطة بالاعتماد على الذكاء الاصطناعي كأداة للتحقق من المعلومات. في الرابع من أغسطس، اعترفت الأداة بأنها أخطأت، لكن في اليوم التالي، عادت لتكرار نفس الخطأ. يتحدث لويس دو ديزباش، المختص بأخلاقيات التقنية، عن عدم وضوح كيفية تشغيل نماذج الذكاء الاصطناعي، مما يدفع الناس إلقاء اللوم عليها.

ويشير دو ديزباش إلى أن “غروك” تعكس تحيزًا إيديولوجيًا، مشيرًا إلى أن النماذج اللغوية لا تتعلم دائمًا من أخطائها، ومن الممكن أن تستمر في ارتكاب نفس الأخطاء. يعبر عن قلقه من استخدام هذه الأدوات كوسائل للتحقق من الأخبار.

بالإضافة إلى “غروك”، ظهرت أخطاء مماثلة في نماذج لغوية أخرى، مما يعكس ضرورة توخي الحذر عند الاعتماد على الذكاء الاصطناعي في تقديم معلومات دقيقة.