Học sinh bị còng tay vì AI nhầm túi bim bim với súng

Taki Allen, 16 tuổi, đang ngồi chơi với bạn bè tối ngày 20/10 bên ngoài trường trung học Kenwood ở Baltimore, bang Maryland, thì bị cảnh sát có vũ trang tiếp cận. "Lúc đầu, em không biết họ đang đi đâu cho đến khi họ tiến về phía mình với súng trong tay, vừa đi vừa nói 'Nằm xuống'. Em đã rất ngạc nhiên", Allen chia sẻ với đài truyền hình WBAL-TV 11 News.

Allen kể lại, nhóm cảnh sát bắt cậu quỳ xuống, còng tay và khám xét nhưng không tìm thấy gì. Sau đó, họ cho cậu xem bức ảnh đã kích hoạt cảnh báo. "Em cầm một túi bim bim bằng hai bàn tay và một ngón thò ra ngoài. Họ nói nó trông giống một khẩu súng", cậu cho biết.

"Chúng tôi hiểu sự việc gây khó chịu thế nào cho học sinh bị khám xét cũng như những học sinh khác chứng kiến sự cố. Các nhà tư vấn tâm lý của chúng tôi sẽ hỗ trợ trực tiếp những em liên quan đến sự việc", Kate Smith, Hiệu trưởng trường trung học Kenwood, nói trong thư gửi phụ huynh.

Năm ngoái, các trường trung học ở Baltimore bắt đầu dùng hệ thống phát hiện súng bằng camera và AI. Nếu thấy bất kỳ vật thể nào đáng ngờ, công cụ sẽ gửi cảnh báo đến nhà trường và nhà chức trách.

Hệ thống của trường trung học Kenwood do Omnilert, công ty công nghệ ứng phó khẩn cấp bằng AI, cung cấp. Omnilert từng bị phản ứng hồi tháng 1 khi giải pháp của họ không thể phát hiện khẩu súng trong vụ xả súng tại trường trung học Antioch ở Nashville, khiến một nữ sinh 16 tuổi thiệt mạng và một người khác bị thương. Người phát ngôn của Metro Nashville Public Schools (MNPS), hệ thống trường công lập tại Nashville, khi đó giải thích vấn đề liên quan đến "vị trí của kẻ xả súng với camera không đủ gần để hệ thống đọc chính xác và kích hoạt báo động".

Thu Thảo (Theo Guardian, Independent)