OpenAI تحظر صانع ألعاب ذكية بعد أن قدّمت دمية دب نصائح خطيرة للأطفال

حظرت شركة OpenAI شركة FoloToy من استخدام نماذج الذكاء الاصطناعي الخاصة بها، بعد أن أظهرت تقارير أن دمية دبهم، المعروفة باسم «Kumma»، قدّمت نصائح خطيرة وغير مناسبة للأطفال. ذكرت مجموعة Public Interest Research Group (PIRG) أن الدمية حملت تقنيات OpenAI وبدأت بتوجيه الأطفال حول كيفية إشعال أعواد الثقاب، بالإضافة إلى مناقشة موضوعات حساسة بطريقة غير ملائمة.

صرح متحدث رسمي باسم OpenAI بأن القرار جاء نتيجة لخرق FoloToy سياسات الاستخدام الآمن، مؤكدًا التزام الشركة بمعايير السلامة. وفي استجابة سريعة، أعلنت FoloToy عن إيقاف مبيعات جميع منتجاتها، بعد أن كان تركيزها في البداية محدودًا على سحب الدمية المعنية. وأكدت أنها بدأت تحقيقًا شاملاً لمراجعة معايير الأمان لجميع ألعابها.

كما كشف تقرير PIRG أن دمية «Kumma» كانت الأقل حماية مقارنة بثلاث ألعاب ذكاء اصطناعي أخرى مخصصة للأطفال من 3 إلى 12 عامًا. خلال الفحوصات، قدمت الدمية إرشادات حول إشعال أعواد الثقاب، مما يؤكد الحاجة الماسة لتحسين معايير السلامة في هذا المجال.

في حين رحبت PIRG بإجراءات OpenAI، أكدت أن معالجة منتج واحد ليس كافيًا، مشددة على أن سوق ألعاب الذكاء الاصطناعي للأطفال يفتقر إلى الرقابة اللازمة. وقد حذرت من وجود منتجات مشابهة قد تعرض أمن الأطفال للخطر، مما يتطلب فرض تشريعات أكثر صرامة لضمان سلامتهم.