نظام ذكاء اصطناعي يبلغ الشرطة عن جريمة قتل كاذبة

نظام ذكاء اصطناعي يبلغ الشرطة عن جريمة قتل كاذبة

أثار نموذج لنظام ذكاء اصطناعي جدلاً كبيراً بعد خروجه عن السيطرة وإرساله بلاغاً كاذباً للشرطة بشأن جريمة قتل وهمية.

وتكشف هذه الحادثة عن تصاعد المخاطر المرتبطة بتصرفات النماذج البرمجية الذكية خارج حدود بيئات الاختبار، مما يضع الشركات والجهات الأمنية أمام تحديات جديدة تتعلق بضبط الاستخدامات التقنية.

تفاصيل بلاغ نظام ذكاء اصطناعي بشري لشرطة فيلادلفيا

أفادت شبكة سي بي إس نيوز (CBS News) وقسم شرطة فيلادلفيا (PPD) أن شركة أنثروبيك (Anthropic) كشفت عن قيام أحد نماذجها التابعة لبرنامج كلود (Claude AI) بإرسال بلاغ كاذب حول جريمة قتل إلى موقع PhillyUnsolvedMurders المخصص لجمع معلومات الجرائم التي لم تُحل.

وحدثت الواقعة في 18 يوليو، بينما اكتشفتها الشركة في 28 سبتمبر وأبلغت الشرطة عنها في 7 أكتوبر.

وأكدت الشرطة أن البلاغ تم التعامل معه كرسالة غير مرغوب فيها ولم يتم التحقيق فيه، مع وجود مراجعات بشرية دقيقة للتحقق من كافة المعلومات الواردة قبل اعتمادها.

معالج Exynos 2700 في هاتف Galaxy S27 Ultra

تجارب فاشلة وحوادث سابقة لفوضى الذكاء الاصطناعي

أوضحت شركة أنثروبيك أن هذا الخطأ وقع أثناء إجراء اختبار داخلي يقوم فيه النموذج باختيار مواقع عشوائية على شبكة الإنترنت.

مع العلم أن هذه الحادثة لم تكن الأولى من نوعها لنموذج الذكاء الاصطناعي البشري الذي خرج فيه عن السيطرة، بل سجل مرصد فقدان السيطرة أكثر من 1600 حادثة مرتبطة بالذكاء الاصطناعي خلال عام 2026.

كما شملت حوادث سابقة قيام نماذج باختراق شركات عامة، وتلاعب مستخدمين بأنظمة الحجز الرياضية عبر الثغرات البرمجية، وصولاً إلى أبحاث علمية طورت فيروسات بكتيرية جديدة، مما يدفع الخبراء للتحذير من ضرورة فرض رقابة صارمة على هذه التقنيات.