Công bố danh mục 46 hệ thống AI rủi ro cao

Xây dựng hành lang pháp lý cho AI, lấy con người làm trung tâm

Đây là lần đầu tiên Việt Nam xác lập danh mục AI rủi ro cao, đánh dấu bước tiến quan trọng trong xây dựng hành lang pháp lý nhằm phát triển AI theo hướng an toàn, minh bạch và lấy con người làm trung tâm.

Trí tuệ nhân tạo (AI) đang bước vào mọi lĩnh vực của đời sống, từ giáo dục, y tế, tài chính đến giao thông, tư pháp và quản trị công. Khi AI ngày càng tham gia trực tiếp vào những quyết định có ảnh hưởng lớn đến quyền lợi của con người và lợi ích quốc gia, yêu cầu quản lý rủi ro cũng trở nên cấp thiết hơn bao giờ hết.

Việc Chính phủ lần đầu tiên ban hành Danh mục hệ thống AI có rủi ro cao được xem là bước đi quan trọng trong quá trình hoàn thiện thể chế về AI, hướng tới mục tiêu vừa thúc đẩy đổi mới sáng tạo, vừa bảo đảm AI được phát triển theo hướng an toàn, minh bạch và lấy con người làm trung tâm.

Theo quy định, một hệ thống AI được xác định là có rủi ro cao khi có khả năng gây ảnh hưởng đáng kể đến tính mạng, sức khỏe, quyền và lợi ích hợp pháp của tổ chức, cá nhân, lợi ích công cộng hoặc an ninh quốc gia.

Danh mục lần này gồm 46 hệ thống AI thuộc 6 lĩnh vực có tác động trực tiếp đến người dân và xã hội gồm giáo dục; dân tộc và tôn giáo; y tế; ngân hàng; tố tụng; giao thông vận tải.

Trong lĩnh vực giáo dục, các hệ thống AI tự động đánh giá, xếp hạng người học, giám sát hành vi học tập hay cung cấp nội dung học tập từ nguồn dữ liệu không kiểm soát đều được đưa vào diện quản lý.

Ở lĩnh vực y tế, các hệ thống hỗ trợ phẫu thuật, robot phẫu thuật sử dụng AI được xếp vào nhóm có mức độ rủi ro cao do liên quan trực tiếp đến sức khỏe và tính mạng người bệnh.

Trong lĩnh vực ngân hàng, AI tự động quyết định cấp tín dụng hoặc thực hiện giao dịch điện tử cũng phải đáp ứng các yêu cầu quản lý nghiêm ngặt nhằm hạn chế nguy cơ sai lệch, phân biệt đối xử hoặc gây thiệt hại tài chính.

Đáng chú ý nhất là lĩnh vực giao thông vận tải với 31 hệ thống AI được đưa vào danh mục, bao gồm xe tự hành cấp độ cao, hệ thống điều khiển tín hiệu giao thông, điều độ đường sắt, điều hành hạ tầng giao thông trọng yếu...

Quyết định cũng quy định rõ nguyên tắc vận hành của AI. Theo đó, AI phải tuân thủ các nguyên tắc cơ bản của Luật Trí tuệ nhân tạo; không làm thay đổi hoặc thay thế trách nhiệm pháp lý của cơ quan, tổ chức và cá nhân có thẩm quyền; luôn bảo đảm sự giám sát và khả năng can thiệp của con người trong quá trình vận hành; đồng thời không được thực hiện các hành vi bị pháp luật nghiêm cấm.

Đối với những hệ thống AI đã được đưa vào hoạt động trước ngày 15/8/2026, Chính phủ cho phép tiếp tục vận hành trong thời gian chuyển tiếp nhưng yêu cầu hoàn thành đầy đủ các nghĩa vụ tuân thủ theo lộ trình. Trong đó, các hệ thống thuộc lĩnh vực y tế, giáo dục và tài chính phải hoàn thành trước ngày 1/9/2027; các lĩnh vực còn lại trước ngày 1/3/2027.

Trong thời gian chuyển tiếp, nếu cơ quan nhà nước xác định hệ thống AI có nguy cơ gây thiệt hại nghiêm trọng thì có quyền yêu cầu tạm dừng hoặc chấm dứt hoạt động theo quy định của Luật Trí tuệ nhân tạo.

Kiosk AI toàn trình được kỳ vọng giảm tải các công việc hành chính công. (Ảnh minh họa: MST)

Phát triển AI phải đi cùng AI có trách nhiệm

Việc ban hành danh mục AI rủi ro cao cho thấy Việt Nam đang tiếp cận quản lý AI theo hướng dựa trên mức độ rủi ro thay vì quản lý đồng loạt mọi công nghệ.

Đây cũng là xu hướng đang được nhiều quốc gia và tổ chức quốc tế áp dụng. Thay vì hạn chế sự phát triển của AI, các quốc gia tập trung kiểm soát những hệ thống có khả năng tác động trực tiếp đến quyền con người, an toàn xã hội và lợi ích công cộng.

Cách tiếp cận này tạo điều kiện để các ứng dụng AI thông thường tiếp tục được đổi mới, trong khi những hệ thống có ảnh hưởng lớn phải đáp ứng các tiêu chuẩn cao hơn về minh bạch, khả năng giải trình, quản trị dữ liệu, an toàn và giám sát của con người.

Đây được xem là “lan can an toàn” cần thiết để AI phát triển bền vững trong bối cảnh công nghệ này đang tiến nhanh hơn bao giờ hết.

Cùng với việc hoàn thiện hành lang pháp lý, yêu cầu nâng cao năng lực sử dụng và quản trị AI trong khu vực công cũng đang được đẩy mạnh.

Việt Nam đang bước vào giai đoạn phát triển AI với tốc độ nhanh cùng sự xuất hiện ngày càng nhiều sản phẩm, nền tảng và mô hình AI trong mọi lĩnh vực kinh tế - xã hội. Điều này mở ra cơ hội lớn để nâng cao năng suất, đổi mới sáng tạo và xây dựng nền kinh tế số.

Tuy nhiên, đi cùng với cơ hội là những thách thức về quyền riêng tư, thiên lệch dữ liệu, trách nhiệm pháp lý, an toàn hệ thống và nguy cơ AI thay thế các quyết định vốn cần sự đánh giá của con người.

Khi hành lang pháp lý được hoàn thiện song hành với việc nâng cao năng lực quản trị và nhận thức của đội ngũ cán bộ, doanh nghiệp và người dân, AI sẽ trở thành công cụ phục vụ phát triển kinh tế - xã hội, đồng thời vẫn bảo đảm các giá trị cốt lõi về quyền con người, đạo đức và lợi ích quốc gia. Đây cũng là nền tảng quan trọng để Việt Nam xây dựng một hệ sinh thái AI tin cậy, có khả năng cạnh tranh trong kỷ nguyên số.

Phát triển AI an toàn bắt đầu từ năng lực con người

Mới đây, tại Hà Nội, Học viện Chiến lược Khoa học và Công nghệ phối hợp với UNESCO, Liên minh châu Âu và các đơn vị thuộc Bộ Khoa học và Công nghệ tổ chức Hội nghị tập huấn “Nâng cao năng lực ứng dụng AI trong khu vực công” dành cho cán bộ, công chức.

Giám đốc Học viện Chiến lược KH&CN Phạm Đình Nguyên nhấn mạnh, AI không chỉ là công cụ hỗ trợ mà đang trở thành động lực đổi mới phương thức quản trị nhà nước. Vì vậy, đội ngũ cán bộ cần được trang bị kiến thức và kỹ năng sử dụng AI hiệu quả, đồng thời nâng cao năng lực quản trị AI có trách nhiệm nhằm thúc đẩy đổi mới sáng tạo và cải tiến quy trình làm việc.

Trưởng đại diện UNESCO tại Việt Nam Jonathan Wallace Baker cho rằng, câu hỏi hiện nay không còn là AI có thể làm được điều gì, mà là AI nên được sử dụng như thế nào.

Theo ông, đạo đức AI đã trở thành trọng tâm trong các chính sách phát triển AI trên toàn cầu. Từ năm 2021, các quốc gia thành viên UNESCO đã thông qua Khuyến nghị toàn cầu về Đạo đức AI, tạo ra bộ nguyên tắc chung nhằm hướng dẫn các quốc gia xây dựng hệ sinh thái AI an toàn, minh bạch và lấy con người làm trung tâm.

Chương trình tập huấn cũng tập trung vào nhiều nội dung thiết thực như kỹ năng ứng dụng AI trong khu vực công, AI Agent và tự động hóa quy trình làm việc, quản trị AI có trách nhiệm, công cụ đánh giá tác động đạo đức của AI cũng như chính sách phát triển AI tại Việt Nam.

Bên cạnh các chuyên đề lý thuyết, học viên còn tham gia xử lý các tình huống thực tế nhằm nhận diện rủi ro khi sử dụng AI và xây dựng nguyên tắc ứng dụng AI có trách nhiệm trong công việc hằng ngày.