Hà Nội: Cấm để AI tự động ban hành văn bản hành chính

UBND TP Hà Nội mới ban hành quy định về bảo đảm an toàn, quản lý rủi ro và biện pháp ứng dụng trí tuệ nhân tạo (AI) trong hoạt động quản lý nhà nước, trong đó cấm để AI tự động ban hành văn bản hành chính, yêu cầu mọi hệ thống AI phải chịu sự giám sát của con người.

Chủ tịch UBND TP Hà Nội Vũ Đại Thắng đã ký Quyết định số 102/QĐ-UBND ban hành Quy định về bảo đảm an toàn, quản lý rủi ro và biện pháp ứng dụng trí tuệ nhân tạo trong quản lý nhà nước trên địa bàn thành phố. Quyết định có hiệu lực từ ngày 31/7/2026.

Ảnh minh họa.

Ảnh minh họa.

Quy định áp dụng đối với các cơ quan, đơn vị thuộc UBND TP Hà Nội cùng các tổ chức, doanh nghiệp và cá nhân tham gia hoặc có liên quan đến hoạt động ứng dụng AI trong các cơ quan này.

Đối với các hệ thống AI dùng chung có sự tham gia của cơ quan, tổ chức ngoài phạm vi quản lý của UBND thành phố, Hà Nội khuyến khích áp dụng quy định này hoặc thực hiện theo quy chế phối hợp và văn bản của cơ quan có thẩm quyền.

Các hoạt động liên quan đến bí mật nhà nước vẫn phải tuân thủ các quy định về bảo vệ bí mật nhà nước, an ninh mạng và cơ yếu.

Quy định mới nêu rõ một số hành vi bị nghiêm cấm trong quá trình triển khai AI.

Trong đó, các cơ quan không được sử dụng hệ thống AI vượt quá mục đích, phạm vi hoặc thẩm quyền được giao; không đưa vào hệ thống dữ liệu chưa được chủ quản hệ thống AI phê duyệt.

Đồng thời, không được để AI tự động ký, ban hành, công bố, phát hành văn bản, quyết định hành chính, trả lời chính thức hoặc thực hiện các giao dịch có giá trị pháp lý.

Bên cạnh đó, quy định cũng cấm can thiệp trái phép vào nhật ký hệ thống, cơ chế cảnh báo, kiểm soát truy cập, bảo mật hoặc luồng phê duyệt; cấm che giấu việc sử dụng AI trong các trường hợp pháp luật yêu cầu phải thông báo hoặc công khai. Các hành vi cản trở việc kiểm tra, giám sát, truy vết, xử lý sự cố; không cung cấp hoặc cung cấp không đầy đủ thông tin theo yêu cầu hợp pháp của cơ quan có thẩm quyền cũng bị nghiêm cấm.

Cán bộ, công chức phải có trách nhiệm kiểm tra, xác thực tính hợp pháp của kết quả đầu ra do hệ thống AI tạo ra, không được sử dụng kết quả chưa kiểm chứng làm căn cứ tham mưu, xử lý hồ sơ, ban hành quyết định hành chính hoặc thực hiện giao dịch công vụ, gây ảnh hưởng, xâm phạm quyền và lợi ích hợp pháp của tổ chức, cá nhân, vi phạm quy định pháp luật.

Quy định nêu rõ, việc quản lý và sử dụng AI trong hoạt động công vụ phải tuân thủ các nguyên tắc của Luật Trí tuệ nhân tạo, trong đó lấy con người làm trung tâm và bảo đảm con người luôn có quyền giám sát, kiểm soát và can thiệp vào quá trình vận hành của hệ thống.

Các hệ thống AI cũng phải đáp ứng yêu cầu về minh bạch, có trách nhiệm giải trình phù hợp với mức độ rủi ro; bảo đảm an ninh mạng, bảo vệ dữ liệu cá nhân, bí mật nhà nước, bí mật công tác và quyền sở hữu trí tuệ.

Ngoài ra, việc phát triển và ứng dụng AI phải phù hợp với Khung đạo đức trí tuệ nhân tạo quốc gia, đồng thời hướng tới mục tiêu an toàn, xanh, bao trùm, sử dụng hiệu quả năng lượng và hạn chế tác động đến môi trường.

Hiền Thảo

Nguồn Doanh Nghiệp: https://doanhnghiepvn.vn/cong-nghe/ha-noi-cam-de-ai-tu-dong-ban-hanh-van-ban-hanh-chinh/20260723102750805