انتحار طفل يهز عالم الذكاء الاصطناعي.. وشركات تحظُر وصول القاصرين

كشفت شركة “OpenAI” أن أكثر من مليون شخص أسبوعياً يظهرون نوايا انتحارية أثناء استخدام “تشات جي بي تي”، فيما يعاني العديد من المستخدمين من علامات ذهان. يأتي هذا في أعقاب دعوى قضائية رفعتها عائلة شاب (16 عاماً) ضد الشركة، متهمة إياها بالتركيز على تعزيز التفاعل مع المنصة دون مراعاة سلامة المستخدمين.

وعلى صعيد متصل، أعلنت شركة “Character.AI” عن حظر المستخدمين دون سن 18 عاماً من التفاعل مع شخصيات الذكاء الاصطناعي اعتباراً من نوفمبر المقبل. وتأتي هذه الخطوة بعد مخاوف بشأن تأثير تلك التكنولوجيا على صحة المراهقين النفسية، بما في ذلك دعوى قضائية تتهم الشركة بالتسبب في انتحار طفل بسبب علاقته بشخصية افتراضية.

ستُطلق “Character.AI” أيضاً ميزة “التحقق من العمر” لضمان مناسبة المحتوى للمستخدمين. وتعتبر هذه التغييرات ضرورية بالنظر إلى التساؤلات المثارة حول كيفية تفاعل المراهقين مع هذه التقنيات الجديدة.