AI theo dõi từng cái ngẩng đầu trong lớp học Trung Quốc gây tranh cãi

Ảnh chụp màn hình hệ thống giám sát lớp học ứng dụng AI lan truyền trên mạng cho thấy các dữ liệu thống kê như số lượng học sinh đến muộn, tỷ lệ chuyên cần và "tỷ lệ ngẩng đầu". Ảnh: Jimu News

Tranh cãi bùng phát sau khi những hình ảnh chụp màn hình hệ thống “lớp học thông minh” của Đại học Nam Kinh bị rò rỉ, cho thấy phần mềm trí tuệ nhân tạo (AI) có khả năng theo dõi tình trạng chuyên cần, số sinh viên đến muộn và “tỷ lệ ngẩng đầu” - chỉ số được sử dụng để đánh giá mức độ tập trung của người học trong giờ giảng.

Theo SCMP, hệ thống này được nâng cấp trong mùa hè và bắt đầu triển khai vào tuần đầu tiên của tháng 11. Công nghệ kết hợp camera trong lớp học với các thuật toán AI có khả năng nhận diện khuôn mặt, đếm số người, tự động điểm danh và theo dõi mức độ chú ý của sinh viên.

“Tỷ lệ ngẩng đầu” được tính toán dựa trên việc sinh viên có hướng sự chú ý lên bài giảng hay không, thay vì cúi xuống sử dụng điện thoại, máy tính hoặc ngủ gật. Những hình ảnh về tính năng này nhanh chóng lan truyền trên mạng, kéo theo nhiều ý kiến phản đối liên quan đến quyền riêng tư, việc giám sát bằng thuật toán và giới hạn sử dụng AI trong môi trường giáo dục.

Trước sức ép dư luận, Đại học Nam Kinh ngày 4/11 đăng thông báo trên tài khoản mạng xã hội chính thức, giải thích hình ảnh đang lan truyền được ghi lại trong một đợt thử nghiệm hệ thống tại một cơ sở của trường hồi tháng 5. Nhà trường khẳng định hệ thống không thu thập dữ liệu khuôn mặt hoặc dữ liệu sinh trắc học khác khi chưa được cho phép, đồng thời cho biết đã ngừng tính toán chỉ số “tỷ lệ ngẩng đầu”.

Sinh viên cảm thấy lo ngại về vấn đề bảo mật thông tin cá nhân liên quan đến hệ thống giám sát lớp học ứng dụng AI. Ảnh minh hoạ: Shutterstock

Theo nhà trường, việc nâng cấp hệ thống lớp học thông minh nhằm cải thiện thiết bị nghe nhìn, hỗ trợ phát trực tiếp bài giảng, tăng cường tương tác giữa các cơ sở đào tạo, lưu trữ và phát lại bài giảng, cũng như phục vụ hoạt động quản lý chất lượng giảng dạy. Việc thống kê tỷ lệ chuyên cần là một phần của đợt kiểm tra giảng dạy giữa kỳ, nhằm cung cấp dữ liệu cho công tác cải tiến phương pháp giảng dạy và phát triển chương trình học.

Tuy nhiên, một số sinh viên vẫn bày tỏ lo ngại về quyền riêng tư, cho rằng nhà trường chưa tham khảo ý kiến hoặc xin sự đồng thuận trước khi triển khai hệ thống. Họ cũng đặt câu hỏi về khả năng dữ liệu sinh trắc học có thể được chia sẻ với các doanh nghiệp công nghệ tư nhân.

Jimu News, cơ quan truyền thông tỉnh Hồ Bắc, đặt vấn đề liệu những tính năng giám sát như vậy có thực sự cần thiết để xây dựng lớp học thông minh hay không. Bài viết nhấn mạnh sinh viên cần được tham gia vào quá trình quyết định những công nghệ tác động trực tiếp đến mình, đồng thời cảnh báo thiếu minh bạch có thể dẫn đến nghi ngờ và hiểu lầm.

Vụ việc cho thấy khi các công nghệ giám sát ngày càng được triển khai rộng rãi, những câu hỏi về tính minh bạch trong thu thập, xử lý dữ liệu và quyền riêng tư của người học cũng trở nên cấp thiết. Một số học giả Trung Quốc cũng cảnh báo nguy cơ sử dụng dữ liệu lớn và thuật toán để lượng hóa các hoạt động của người dân, từ đó hình thành những hệ thống giám sát quy mô lớn, thiếu minh bạch và tiềm ẩn nguy cơ phân biệt đối xử.