أنظمة المراقبة بالذكاء الاصطناعي تتسبب في موجة من الاعتقالات الخاطئة في المدارس الأميركية

تشهد المدارس الأميركية زيادة ملحوظة في استخدام أنظمة المراقبة المعتمدة على الذكاء الاصطناعي، تهدف لرصد سلوكيات عنيفة أو تهديدات محتملة بين الطلاب. إلا أن هذه الأنظمة أثارت قلقًا كبيرًا بسبب ما تُسجله من “إنذارات كاذبة” تؤدي إلى اعتقالات واحتجازات غير مبررة. فقد أظهر تقرير من صحيفة Milwaukee Independent أن نظامًا في ولاية كانساس سجّل أكثر من 1200 إنذار خلال عشرة أشهر، حيث لم يكن ثلثاها يشير إلى تهديدات حقيقية.

تفرض قوانين صارمة في بعض الولايات، مثل تينيسي وفلوريدا، على المدارس إبلاغ الشرطة بأي علامة تدل على العنف، حتى لو كانت غير ذات مغزى. في منطقة بولك بفلوريدا، أدت هذه الأنظمة إلى اعتقال 72 طالبًا خلال أربع سنوات لنكات أو تعليقات غير ناضجة على الإنترنت. وقد مرّ العديد من هؤلاء الطلاب بتجارب صادمة، ومنها الاعتقال والتحقيق دون علمهم بوجود مراقبة على رسائلهم.

تجربة ليسلي ماثيس، التي اعتُقلت ابنتها بسبب مزحة بين زملاء الصف، تُظهر التأثير السلبي لهذه التقنيات. الدراسات تشير إلى أن التعرض للاحتجاز في مرحلة المراهقة يمكن أن يؤثر سلبًا على فرص النمو الصحي والوظيفي في المستقبل. في الوقت الذي يبرر فيه بعض مسؤولي المدارس الاستمرار في استخدام هذه الأنظمة بأنها “ضرورة عامة”، يظل غياب الأدلة على فعاليتها في الحد من العنف المدرسي مثار تساؤل.