Tranh cãi về công nghệ ghi nhận cảm xúc dùng trong máy quay an ninh

Ga tàu điện ngầm Waterloo tại Luân Đôn (Anh) - Ảnh: Getty Images

Máy quay sở hữu tính năng nhận dạng rất hữu ích cho phát hiện người vượt làn an toàn, đếm số lượng người, ghi nhận hành vi bất thường như chạy nhảy, la hét, trượt ván hay hút thuốc. Đặc biệt, thông tin mà WIRED có được còn cho biết “chỉ số cảm xúc của hành khách” có thể được sử dụng để đo lường mức độ hài lòng, tăng hiệu quả quảng cáo lẫn doanh số bán hàng.

AI mà các ga tàu triển khai thử nghiệm là Rekognition do tập đoàn Amazon phát triển. Máy quay chụp ảnh hành khách khi họ đi qua rào chắn soát vé rồi gửi về hệ thống phân tích. Giám đốc điều hành Purple Transform (công ty thị giác máy tính tham gia chương trình thử nghiệm) Gregory Butler nói với WIRED rằng tính năng ghi nhận cảm xúc đã bị ngừng trong quá trình thử nghiệm, không còn hình ảnh nào được lưu trữ.

Ghi nhận cảm xúc là công nghệ dùng AI nhận dạng gây tranh cãi nhưng đang dần phổ biến ở Ấn Độ. Năm 2021 cảnh sát bang Uttar Pradesh thông báo lắp đặt máy quay an ninh trang bị AI hỗ trợ nhằm phát hiện “phụ nữ đang gặp chuyện” dựa trên biểu cảm gương mặt của họ. Ga Rajkot thuộc tuyến đường sắt phía tây Ấn Độ cũng công bố kế hoạch triển khai hệ thống nhận diện gương mặt (FRT) ghi nhận cả cảm xúc.

Theo Tổ chức Tự do Internet: “Cảm xúc con người không đơn giản chỉ phản ánh trên gương mặt một cách đơn nhất. Mặc dù công nghệ ghi nhận cảm xúc vô căn cứ và nặng tính phân biệt chủng tộc, nhưng nó vẫn phổ biến vì FRT giúp công tác thu thập dữ liệu gương mặt quy mô lớn trở nên khả thi hơn”.

Nhà khoa học Vidushi Marda (Viện Carnegie Ấn Độ) cũng nhận định: “Công nghệ ghi nhận cảm xúc dựa trên "nền khoa học có vấn đề" và mất uy tín, làm trầm trọng thêm khác biệt về nhân quyền theo nhiều cách”.

Cẩm Bình