ثغرات في غروك تسيء للأطفال على إكس.. وتحرك فرنسي

ثغرات في “غروك” تضر بالأطفال وتحرك فرنسي

كشف روبوت الدردشة الآلي “غروك” التابع لإيلون ماسك، عن وجود ثغرات في إجراءات الحماية التي أدت إلى ظهور “صور غير لائقة” تظهر قاصرين على منصة إكس. يأتي ذلك في وقت اتخذ فيه نواب فرنسيون خطوات لملاحقة الأمر.

قامت وزراء فرنسيون بإبلاغ الادعاء العام عن محتوى جنسي غير قانوني تم إنشاؤه بواسطة “غروك”، وأكدوا في بيان أن هذا المحتوى يتعارض تمامًا مع القوانين المعمول بها. كما أشار الوزراء إلى أنهم قدّموا الأمور للجهة المنظمة لوسائل الإعلام في فرنسا للتحقق من التوافق مع قانون الخدمات الرقمية في الاتحاد الأوروبي.

وشارك مستخدمون على إكس لقطات شاشة تظهر علامة تبويب الوسائط العامة في “غروك” وهي مليئة بالصور التي قام الروبوت بتغييرها عند تحميلها. وفي رد على هذه الحوادث، قال “غروك” عبر منشور على إكس إن هناك حالات معزولة طلب فيها المستخدمون صورًا توضح قاصرين بملابس غير لائقة، مشيرًا إلى أن لديه إجراءات حماية، لكنهم يعملون على تحسينها بشكل فعّال.

وأكد “غروك” أنه قد تم تحديد الثغرات في الحماية وأن العمل جاري للإصلاح، مشددًا على أن المواد المتعلقة بالاعتداء الجنسي على الأطفال محظورة وغير قانونية. هذه التطورات تعكس الحاجة الملحة لمراجعة وتحديث أنظمة الحماية في التطبيقات التي تعتمد على الذكاء الاصطناعي.