Học sinh bị còng tay vì túi bim bim bị AI nhận diện nhầm thành súng

Vụ việc xảy ra tại trường trung học Kenwood, khi học sinh Taki Allen đang chờ bạn sau buổi tập bóng bầu dục. Hệ thống phát hiện súng do AI điều hành bất ngờ cảnh báo có người mang vũ khí, dẫn đến việc cảnh sát được huy động đến trường.

Theo lời kể của Allen, anh bị yêu cầu quỳ xuống, đặt tay ra sau đầu và bị còng tay trong khi cảnh sát chĩa súng vào.

“Điều đầu tiên tôi nghĩ là liệu mình có sắp chết không, vì họ đang chĩa súng vào tôi”, Allen nói.

Allen cũng cho biết thêm rằng có khoảng tám xe cảnh sát xuất hiện tại hiện trường.

Sau khi lục soát, cảnh sát phát hiện “vật khả nghi” thực chất chỉ là một túi khoai tây chiên Doritos rỗng.

“Tôi chỉ đang cầm túi Doritos, họ nói trông giống như tôi đang cầm súng”, Allen kể lại.

Cảnh sát hạt Baltimore xác nhận họ đã phản ứng trước một báo cáo “về người khả nghi mang vũ khí”, nhưng nhanh chóng xác định học sinh không mang súng.

Hiệu trưởng Kate Smith của trường Kenwood cho biết hệ thống an ninh của học khu đã kiểm tra và hủy cảnh báo sau khi xác nhận không có vũ khí thật.

Tuy nhiên, vị Hiệu trưởng cho biết, do sự nhầm lẫn trong liên lạc nội bộ, cảnh sát vẫn được gọi đến.

“Chúng tôi hiểu sự việc này đã gây hoang mang cho học sinh và phụ huynh. Đảm bảo an toàn cho học sinh luôn là ưu tiên cao nhất”, bà Smith nói trong thông cáo gửi đến phụ huynh.

Công ty Omnilert, đơn vị vận hành hệ thống AI nhận diện súng, bày tỏ lấy làm tiếc về sự việc.

“Chúng tôi xin chia sẻ mối quan tâm sâu sắc tới học sinh và cộng đồng bị ảnh hưởng. Dù vật thể sau đó được xác định không phải là súng, quy trình đã vận hành đúng chức năng nhằm ưu tiên an toàn và xác minh nhanh chóng”, đại diện Omnilert cho biết.

Hệ thống AI này được triển khai tại các trường công lập hạt Baltimore từ năm 2023, sử dụng camera giám sát sẵn có để phân tích hình ảnh và phát hiện vật thể nghi là vũ khí.

Tuy nhiên, sau vụ việc, làn sóng phản đối bùng lên. Ông Lamont Davis, ông nội của Allen, yêu cầu phải có người chịu trách nhiệm: “Chuyện này không thể tiếp diễn, cần có thay đổi và ai đó phải chịu trách nhiệm.”

Các quan chức địa phương cũng lên tiếng. Nghị viên Izzy Patoka viết trên mạng xã hội: “Không học sinh nào nên bị cảnh sát khống chế chỉ vì đang ăn một túi Doritos”.

Trong khi đó, Nghị viên Julian Jones yêu cầu rà soát toàn bộ hệ thống “để bảo đảm có cơ chế phòng ngừa sai sót tương tự.”

Giám thị Myriam Rogers của học khu Baltimore gọi đây là “sự cố đáng tiếc” và cam kết việc đánh giá lại hệ thống an ninh cùng quy trình xử lý là “một phần của thực hành thường xuyên” nhằm tránh những vụ việc tương tự trong tương lai.

Việt Vũ