Cá nhân có thể bị phạt 1 tỷ đồng nếu vi phạm quy định về AI

Bộ trưởng Nguyễn Mạnh Hùng trình bày Tờ trình về dự luật Trí tuệ nhân tạo. Ảnh: Cổng thông tin điện tử Quốc hội.

Nguyên tắc cốt lõi: Phát triển AI vì con người

Bộ trưởng Nguyễn Mạnh Hùng nhấn mạnh, việc xây dựng Luật nhằm cụ thể hóa các nghị quyết lớn của Đảng và Nhà nước về khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số, đặc biệt là yêu cầu phát triển trí tuệ nhân tạo vì con người, vì phát triển bền vững, đồng thời bảo vệ vững chắc lợi ích quốc gia, quyền con người và chủ quyền số. Dự luật được thiết kế theo hướng luật khung, linh hoạt và thích ứng với sự phát triển của công nghệ. Luật quy định một cách có hệ thống, toàn diện các biện pháp nhằm cân bằng giữa quản lý và thúc đẩy hoạt động nghiên cứu, phát triển, triển khai và ứng dụng trí tuệ nhân tạo tại Việt Nam.

Nguyên tắc xuyên suốt của dự thảo Luật là phát triển vì con người, lấy con người làm trung tâm. Luật đặt nguyên tắc tối cao là AI phục vụ con người, không thay thế con người, và con người phải giám sát trí tuệ nhân tạo ở những quyết định trọng yếu. Ngoài ra, AI phải minh bạch, trách nhiệm và an toàn.

Về phạm vi điều chỉnh, Luật quy định các hoạt động nghiên cứu, phát triển, cung cấp, triển khai và sử dụng hệ thống AI tại Việt Nam, cũng như quyền và nghĩa vụ của tổ chức, cá nhân có liên quan. Dự luật áp dụng cả với tổ chức, cá nhân nước ngoài có hoạt động phát triển, cung cấp, triển khai, sử dụng hệ thống trí tuệ nhân tạo tại Việt Nam hoặc có hệ thống trí tuệ nhân tạo tạo ra kết quả được sử dụng tại Việt Nam. Các hệ thống dùng riêng cho quốc phòng, an ninh, tình báo, cơ yếu được tách khỏi phạm vi điều chỉnh để phù hợp với tính chất bí mật và cơ chế quản lý riêng, nhưng nếu sử dụng cho mục đích dân sự thì vẫn phải tuân thủ quy định chung.

Dự thảo Luật gồm 8 chương và 36 điều, tập trung vào các chính sách lớn cho phát triển AI. Bộ KH&CN được giao là cơ quan chủ trì soạn thảo, đóng vai trò “trục kết nối” giữa các bên liên quan và đã tham khảo kinh nghiệm lập pháp quốc tế.

Quản lý theo mức độ rủi ro và trách nhiệm pháp lý

Một nội dung quan trọng của dự thảo Luật là cơ chế quản lý dựa trên rủi ro, phân hệ thống AI thành bốn mức: rủi ro không chấp nhận được, rủi ro cao, rủi ro trung bình và rủi ro thấp. Nhà cung cấp phải tự đánh giá, phân loại trước khi đưa hệ thống vào lưu hành và chịu trách nhiệm về kết quả này.

Rủi ro không chấp nhận được: Nhóm này bị cấm hoàn toàn, bao gồm các hệ thống tạo nội dung giả mạo để lừa dối, thao túng, gây tổn hại nghiêm trọng, hoặc lợi dụng điểm yếu của nhóm dễ bị tổn thương (như trẻ em, người cao tuổi) hay các hệ thống có nguy cơ đe dọa an ninh quốc gia, trật tự an toàn xã hội.

Rủi ro cao: Đối với hệ thống AI rủi ro cao, chúng được xác định là "nguồn nguy hiểm cao độ", theo đó nhà cung cấp và bên triển khai phải bồi thường thiệt hại kể cả khi không có lỗi, trừ trường hợp được miễn trừ theo Bộ luật Dân sự. Mức phạt hành chính tối đa là hai tỷ đồng với tổ chức và một tỷ đồng với cá nhân; vi phạm nghiêm trọng có thể bị phạt lên đến 2% doanh thu năm trước liền kề.

Dự thảo lần đầu đưa ra khung quản lý cho mô hình AI đa dụng, bao gồm mô hình nguồn mở, yêu cầu các nhà phát triển phải bảo đảm mức độ an toàn, minh bạch cơ bản và đánh giá rủi ro trước khi cung cấp.

Để thúc đẩy phát triển, dự luật đưa ra nhiều chính sách lớn như hỗ trợ nghiên cứu, đào tạo nhân lực chất lượng cao, phát triển hạ tầng dữ liệu và hạ tầng tính toán hiệu năng cao.

Luật cũng quy định về việc thành lập Ủy ban quốc gia về Trí tuệ nhân tạo để điều phối chiến lược, chính sách, xây dựng Cổng thông tin một cửa và Cơ sở dữ liệu quốc gia về hệ thống AI để phục vụ giám sát.

Cần làm rõ phạm vi điều chỉnh và phân loại rủi ro

Quốc hội nghe Chủ nhiệm Ủy ban KH,CN&MT Nguyễn Thanh Hải báo cáo thẩm tra về dự án Luật Trí tuệ nhân tạo. Ảnh: Cổng thông tin điện tử Quốc hội.

Đại diện cơ quan thẩm tra, Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường (KH,CN&MT) của Quốc hội (Ủy ban) Nguyễn Thanh Hải cho biết, Ủy ban nhất trí với sự cần thiết ban hành Luật. Dự thảo Luật đã bám sát các chủ trương lớn của Đảng, Nhà nước về phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số.

Tuy nhiên, cơ quan thẩm tra cũng chỉ ra nhiều vấn đề cần tiếp tục làm rõ:

Phạm vi điều chỉnh: Cần làm rõ hơn ranh giới giữa Luật AI với các luật liên quan như Luật Dữ liệu, Luật Công nghiệp công nghệ số, Luật Khoa học, Công nghệ và Đổi mới sáng tạo để tránh trùng lặp, chồng lấn.

Phân loại rủi ro: Dự thảo chưa xác định rõ tiêu chí định lượng hoặc định tính cụ thể để phân loại rủi ro, và chưa có đầy đủ biện pháp quản lý tương ứng, dễ khiến doanh nghiệp lúng túng khi thực hiện.

Cơ chế quản lý: Ủy ban đề nghị rà soát, cắt giảm các quy định mang tính tiền kiểm (như yêu cầu hồ sơ kỹ thuật, nhật ký hoạt động) và chuyển mạnh sang cơ chế hậu kiểm để giảm chi phí tuân thủ và tăng tính cạnh tranh.

Chất lượng dữ liệu: Cần bổ sung nguyên tắc cốt lõi về chất lượng dữ liệu phục vụ AI (dữ liệu phải “đúng - đủ - sạch - cập nhật”/“sống”) và cơ chế kết nối, chia sẻ dữ liệu để tránh phân tán, tạo điểm nghẽn. Đồng thời, cần quy định nguyên tắc bắt buộc về an ninh mạng và phòng vệ đối với hạ tầng AI quốc gia.

Trách nhiệm pháp lý: Cần bổ sung nguyên tắc để phân biệt trách nhiệm giữa các chủ thể trong chuỗi giá trị (kể cả nhà cung cấp nước ngoài xuyên biên giới) và phân biệt giữa các trường hợp cố ý, không cố ý, hoặc lỗi do giới hạn kỹ thuật.

Nghiên cứu và đổi mới: Đề nghị bổ sung một mục riêng về việc sử dụng AI trong đào tạo, nghiên cứu và đổi mới sáng tạo, bao gồm các vấn đề về Quyền tác giả, bảo vệ dữ liệu nghiên cứu, và cơ chế thử nghiệm có kiểm soát (sandbox) đối với các dự án có giá trị khoa học cao.

Hành vi bị cấm: Cần bổ sung quy định về các hành vi bị cấm, bao gồm cấm sử dụng AI để gây rối, kích động chính trị, xâm phạm an ninh quốc gia, thao túng bầu cử, hoặc tạo dựng nội dung giả mạo phục vụ lừa đảo, xúc phạm danh dự.

Quốc hội sẽ tiếp tục thảo luận dự án Luật Trí tuệ nhân tạo vào ngày 27/11 và dự kiến thông qua vào ngày 11/12.

Hiền Thảo