Hà Nội ban hành khung quản lý AI an toàn, minh bạch trong hoạt động công vụ

Cán bộ trực xử lý thông tin tại Trung tâm Điều khiển giao thông

UBND thành phố Hà Nội đã ban hành Quyết định số 102/2026/QĐ-UBND Quy định về bảo đảm an toàn, quản lý rủi ro và biện pháp ứng dụng trí tuệ nhân tạo (AI) trong hoạt động quản lý nhà nước trên địa bàn thành phố. Quy định đặt ra các nguyên tắc, yêu cầu và trách nhiệm cụ thể nhằm bảo đảm việc ứng dụng AI phục vụ hoạt động quản lý nhà nước, cung cấp dịch vụ công và hoạt động công vụ diễn ra an toàn, minh bạch, đúng quy định của pháp luật.

Một trong những nội dung đáng chú ý là Quy định xác định rõ các nguyên tắc quản lý và sử dụng hệ thống AI trong hoạt động công vụ. Theo đó, việc ứng dụng AI phải lấy con người làm trung tâm; bảo đảm sự giám sát, kiểm soát và khả năng can thiệp có ý nghĩa của con người; công khai, minh bạch, có trách nhiệm giải trình phù hợp với tính chất, phạm vi sử dụng và mức độ rủi ro của hệ thống. Đồng thời, việc quản lý phải dựa trên mức độ tác động của hệ thống đối với quyền, lợi ích hợp pháp của tổ chức, cá nhân và lợi ích công cộng; bảo đảm an ninh mạng, bảo vệ dữ liệu cá nhân, bí mật nhà nước, bí mật công tác, bí mật công nghệ và quyền sở hữu trí tuệ; phù hợp với Khung đạo đức trí tuệ nhân tạo quốc gia và các tiêu chuẩn kỹ thuật hiện hành.

Hà Nội đẩy nhanh triển khai hệ thống camera AI phục vụ bảo đảm an ninh, trật tự

Quy định cũng nêu rõ các hành vi bị nghiêm cấm trong quá trình triển khai, vận hành AI. Trong đó có việc sử dụng hệ thống AI vượt quá mục đích, phạm vi hoặc thẩm quyền được giao; đưa dữ liệu chưa được phê duyệt vào hệ thống; can thiệp trái phép vào cơ chế bảo mật, nhật ký hệ thống; để AI tự động ký, ban hành hoặc công bố văn bản, quyết định hành chính hay giao dịch có giá trị pháp lý.

Về quản lý rủi ro, Quy định yêu cầu việc phân loại rủi ro của hệ thống AI thực hiện theo Luật Trí tuệ nhân tạo và các văn bản hướng dẫn. Cơ quan chủ quản có trách nhiệm sử dụng kết quả phân loại rủi ro làm căn cứ để quản lý, kiểm soát an toàn, bảo vệ dữ liệu, giám sát của con người, kiểm tra điều kiện vận hành và xử lý sự cố. Trường hợp hệ thống có thay đổi về chức năng, mục đích sử dụng, dữ liệu, mô hình hoặc môi trường vận hành làm phát sinh rủi ro mới, phải tiến hành rà soát và phân loại lại. Mỗi hệ thống AI cũng phải có hồ sơ quản lý với các thông tin về mục đích sử dụng, nguồn dữ liệu, mức độ rủi ro, đánh giá hiệu năng, cơ chế ghi nhật ký, an ninh mạng và quy trình xử lý sự cố.

Đối với việc ứng dụng AI trong quản lý nhà nước, Quy định nhấn mạnh hệ thống AI chỉ được triển khai khi xác định rõ mục tiêu, căn cứ pháp lý, phạm vi sử dụng, dữ liệu sử dụng, cơ quan chủ quản, đơn vị vận hành, người chịu trách nhiệm và biện pháp kiểm soát rủi ro tương ứng. Việc ứng dụng AI không làm thay đổi thẩm quyền, trách nhiệm của cơ quan nhà nước trong giải quyết thủ tục hành chính, cung cấp dịch vụ công hay ban hành quyết định hành chính. Đáng chú ý, kết quả đầu ra của hệ thống AI không được sử dụng là căn cứ pháp lý độc lập để ban hành quyết định hành chính, xử lý hồ sơ, kết luận thanh tra, kiểm tra, xử phạt vi phạm hành chính hoặc hạn chế quyền, lợi ích hợp pháp của tổ chức, cá nhân.

Cán bộ trực xử lý thông tin tại Trung tâm Điều khiển giao thông

Đến nay, Công an TP Hà Nội đã hoàn thành khảo sát trên 21.000 vị trí lắp đặt camera, hơn 1.000 tuyến cáp quang; khảo sát hiện trạng hệ thống camera, hệ thống truyền dẫn tại 126 Công an cấp xã, các trung tâm mạng lõi và khoảng 40.000 thiết bị. Trên cơ sở kết quả khảo sát, đơn vị đã xây dựng hoàn chỉnh phương án kỹ thuật tổng thể cho toàn bộ hệ thống.

Theo báo cáo, dự án không chỉ phục vụ giám sát giao thông mà còn hướng tới xây dựng hệ thống camera AI chuyên dụng phục vụ công tác bảo đảm an ninh, trật tự, quản lý đô thị và hỗ trợ giải quyết các điểm nghẽn của thành phố.