فرنسا والهند تطالبان بالتحقيق مع Grok بعد توليده محتويات جنسية لقاصرات

طالبت الهند وفرنسا بفتح تحقيق مع روبوت الدردشة Grok “جروك”، المملوك لشركة xAI التي أسسها إيلون ماسك، بعد ظهور بلاغات تفيد بتوليده محتوى جنسي فاضح لقاصرات. وقد أصدرت الحكومة الفرنسية بياناً بثلاثة وزراء، ذكرت فيه أنها أحالت الأمر إلى جهة التحقيق للتحقق من الانتهاكات المحتملة لقانون الخدمات الرقمية، الذي يُلزم الشركات بتخفيف المخاطر المرتبطة بالمحتوى غير القانوني.

في الهند، منح وزير التكنولوجيا شركة xAI مهلة 72 ساعة لتقديم تقرير حول الإجراءات المتخذة لوقف انتشار المحتوى غير اللائق، بينما أشارت التقارير إلى أن Grok قد عدل صور قاصرات بشكل مخالف لشروط الخدمة التي تحظر استغلال الأطفال جنسياً.

اعترفت Grok بوجود حالات تم فيها طلب صور قاصرين بملابس فاضحة، مؤكدة أن هذه الحالات سيتم التعامل معها بشكل عاجل وأن المحتوى الجنسي ضد الأطفال محظور. كما حذرت الشركة من احتمال مواجهتها لتحقيقات من وزارة العدل الأمريكية بسبب هذه الحوادث.

تأتي هذه التطورات في وقت تسعى فيه شركة xAI لاستعادة ثقة الحكومة الأمريكية، حيث سبق أن تم تضمينها في العمليات الفيدرالية رغم التحذيرات بشأن أمانها. كما وُجهت انتقادات لاذعة لـ Grok بسبب نشره معلومات مضللة وتضليل المستخدمين بآراء مثيرة للجدل.

يحذر المراقبون من أن هذه الحوادث قد تتكرر مع انتشار الذكاء الاصطناعي، مما يزيد من المخاطر على سلامة الأطفال على الإنترنت.