Lo ngại rủi ro khi AI tham gia quyết định hành chính

Cảnh báo được đưa ra trong báo cáo Computer Says No, đánh giá việc các cơ quan chính phủ sử dụng công cụ ra quyết định tự động.

Theo phóng viên TTXVN tại Australia, Robodebt là chương trình được Chính phủ Australia triển khai năm 2015, sử dụng thuật toán để xác định và thu hồi các khoản trợ cấp xã hội bị cho là chi trả thừa. Do phương pháp tính toán thiếu căn cứ pháp lý và không được kiểm tra đầy đủ, hệ thống đã xác định sai nhiều khoản nợ, ảnh hưởng đến hàng trăm nghìn người.

Trong báo cáo, CPI đưa ra 8 khuyến nghị cải cách, đáng chú ý là bắt buộc kiểm toán, công khai danh mục các hệ thống ra quyết định tự động và thành lập cơ quan giám sát độc lập có quyền kiểm tra, điều tra việc sử dụng các công cụ này. Giám đốc điều hành CPI Catherine Williams cảnh báo người dân có thể không biết liệu những quyết định ảnh hưởng trực tiếp đến quyền lợi của họ có được đưa ra bằng thuật toán hay không.

Một ví dụ đáng chú ý là Công cụ Đánh giá tích hợp (Integrated Assessment Tool) được chính phủ sử dụng để xác định mức hỗ trợ chăm sóc tại nhà cho người cao tuổi. Công cụ này bị phát hiện thường xuyên đánh giá thấp nhu cầu và quyền lợi của người sử dụng dịch vụ, trong khi nhân viên đánh giá không được phép điều chỉnh kết quả sai do thuật toán đưa ra. Theo bà Williams, những bất cập này cho thấy Australia chưa có khuôn khổ đủ chặt chẽ để quản lý các công cụ ra quyết định tự động trong khu vực công.

Bộ Tư pháp Australia đang xây dựng khuôn khổ quản lý lĩnh vực này sau khi kết thúc tham vấn công chúng vào tháng 1/2025, nhưng chưa công bố thời điểm đưa ra dự thảo.

Trong khi đó, tháng 9/2026, nghị sĩ Kate Chaney đã trình Hạ viện dự luật nhằm thiết lập khuôn khổ pháp lý bắt buộc đầu tiên của Australia về việc Chính phủ sử dụng các công cụ ra quyết định tự động. Dự luật đề xuất yêu cầu cơ quan chức năng thông báo cho người dân khi quyết định được đưa ra bằng hệ thống tự động, giải thích căn cứ và bảo đảm quyền yêu cầu xem xét lại. Văn bản hiện vẫn đang được Hạ viện xem xét.