Vi phạm về AI có thể bị phạt 1-2 tỷ đồng

Bộ trưởng Bộ Khoa học và Công nghệ Nguyễn Mạnh Hùng trình bày tờ trình dự án Luật Trí tuệ nhân tạo sáng 21/11

Lần đầu tiên Việt Nam có luật khung về AI

Sáng 21/11, tiếp tục Kỳ họp thứ 10, Quốc hội nghe Tờ trình và Báo cáo thẩm tra dự án Luật Trí tuệ nhân tạo (AI).

Thừa ủy quyền của Thủ tướng Chính phủ trình bày tờ trình dự án Luật Trí tuệ nhân tạo (AI), Bộ trưởng Bộ Khoa học và Công nghệ Nguyễn Mạnh Hùng cho biết, dự án Luật Trí tuệ nhân tạo gồm 08 Chương với 36 điều nhằm thể chế hóa chủ trương của Đảng và Nhà nước, tạo hành lang pháp lý đột phá cho trí tuệ nhân tạo; kiến tạo môi trường pháp lý thuận lợi để thúc đẩy đổi mới sáng tạo, nâng cao năng lực cạnh tranh quốc gia; đồng thời quản lý rủi ro, bảo vệ lợi ích quốc gia, quyền con người và chủ quyền số. Dự án Luật Trí tuệ nhân tạo đảm bảo thể chế hóa các chủ trương, định hướng đã được xác định trong các văn kiện, nghị quyết của Đảng và Nhà nước.

Luật Trí tuệ nhân tạo là luật khung, linh hoạt và thích ứng với sự phát triển của công nghệ. Luật quy định một cách có hệ thống, toàn diện các biện pháp nhằm cân bằng giữa quản lý và thúc đẩy hoạt động nghiên cứu, phát triển, triển khai và ứng dụng trí tuệ nhân tạo tại Việt Nam.

Luật Trí tuệ nhân tạo đặt con người làm trung tâm với nguyên tắc tối cao là trí tuệ nhân tạo phục vụ con người, không thay thế con người, con người giám sát trí tuệ nhân tạo ở những quyết định trọng yếu; trí tuệ nhân tạo phải minh bạch, trách nhiệm và an toàn.

Luật Trí tuệ nhân tạo quản lý hệ thống trí tuệ nhân tạo theo mức độ rủi ro, khuyến khích phát triển trí tuệ nhân tạo trong nước và tự chủ về trí tuệ nhân tạo, lấy trí tuệ nhân tạo làm động lực tăng trưởng nhanh, bền vững và bảo đảm chủ quyền số quốc gia.

Dự thảo luật cũng phân định nội dung quản lý, trách nhiệm của các cơ quan nhà nước và các nguyên tắc bảo mật trong quản lý.

Chính phủ thống nhất quản lý Nhà nước về AI. Bộ Khoa học và Công nghệ là cơ quan chịu trách nhiệm trước Chính phủ, chủ trì và phối hợp với các bộ, cơ quan ngang bộ thực hiện quản lý Nhà nước về AI.

Nội dung quản lý nhà nước bao gồm: xây dựng chiến lược, chính sách, pháp luật; ban hành tiêu chuẩn, quy chuẩn kỹ thuật; quản lý hạ tầng AI quốc gia; quản lý, giám sát các hoạt động AI; và thanh tra, kiểm tra, xử lý vi phạm.

Cơ quan Nhà nước có thẩm quyền và các cá nhân liên quan có trách nhiệm bảo đảm bí mật thông tin thu được trong quá trình thực hiện nhiệm vụ, đặc biệt là thông tin liên quan đến quyền sở hữu trí tuệ và bí mật kinh doanh (bao gồm hồ sơ kỹ thuật, dữ liệu huấn luyện, mã nguồn và thuật toán).

Dự thảo Luật cũng đề xuất gắn nhãn đối với các sản phẩm do AI là có sự ràng buộc về trách nhiệm đạo đức và pháp lý để xây dựng lòng tin trong kỷ nguyên AI.

Theo tờ trình, dự thảo luật quy định các cơ chế giám sát, chế tài xử lý và trách nhiệm bồi thường thiệt hại.

Hoạt động thanh tra chuyên ngành tuân thủ pháp luật về thanh tra. Cơ quan quản lý nhà nước có trách nhiệm kiểm tra việc tuân thủ pháp luật về AI. Khi có yêu cầu thanh tra, kiểm tra (hoặc yêu cầu của Tòa án, Trọng tài), các bên liên quan có nghĩa vụ cung cấp hồ sơ kỹ thuật, nhật ký lưu vết và dữ liệu huấn luyện để xác định nguyên nhân vi phạm hoặc phân định trách nhiệm.

Việc cung cấp thông tin này phải tuân thủ quy định về bảo vệ bí mật nhà nước, bí mật kinh doanh và dữ liệu cá nhân. Kết luận thanh tra và quyết định xử lý vi phạm phải được công khai trên Cổng thông tin điện tử một cửa, trừ các nội dung thuộc bí mật.

Quốc hội họp bàn về dự án Luật Trí tuệ nhân tạo sáng 21/11

Về xử lý vi phạm và bồi thường thiệt hại, tổ chức, cá nhân vi phạm quy định của luật này sẽ bị xử lý kỷ luật, xử phạt vi phạm hành chính hoặc truy cứu trách nhiệm hình sự; nếu gây thiệt hại thì phải bồi thường theo pháp luật dân sự.

Nội dung then chốt là thiệt hại do hệ thống AI có rủi ro cao gây ra được xác định là thiệt hại do nguồn nguy hiểm cao độ gây ra.

Theo đó, nhà cung cấp và bên triển khai hệ thống phải chịu trách nhiệm bồi thường kể cả khi không có lỗi, trừ các trường hợp được miễn trừ theo Bộ luật Dân sự.

Trường hợp nhiều chủ thể cùng tham gia (phát triển, cung cấp, triển khai) thì phải liên đới bồi thường; trách nhiệm bồi thường được xác định dựa trên mức độ kiểm soát thực tế, khả năng dự báo và các biện pháp quản lý rủi ro mà mỗi bên đã áp dụng.

Mức phạt tiền tối đa đối với vi phạm hành chính là 2 tỷ đồng đối với tổ chức và 1 tỷ đồng đối với cá nhân. Đối với các hành vi vi phạm nghiêm trọng, mức phạt tiền tối đa có thể lên đến 2% doanh thu của năm trước liền kề của tổ chức đó.

Cân nhắc áp dụng hình thức gắn nhãn vô hình

Thẩm tra dự án Luật, Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường Nguyễn Thanh Hải cho biết, Luật xây dựng theo hướng Luật khung là phù hợp thực tiễn. Tuy nhiên, do lĩnh vực AI phát triển rất nhanh nên việc phải sửa đổi Luật trong một thời gian ngắn là có thể xảy ra. Có ý kiến cho rằng, Luật AI là Luật gốc và đối với mỗi Luật chuyên ngành đều cần có 01 chương riêng về AI.

Ủy ban nhận thấy việc gắn nhãn đối với các sản phẩm do AI là có sự ràng buộc về trách nhiệm đạo đức và pháp lý để xây dựng lòng tin trong kỷ nguyên AI.

Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường Nguyễn Thanh Hải trình bày Báo cáo thẩm tra dự án Luật sáng 21/11

Cơ bản tán thành với quy định về gắn nhãn tại dự thảo Luật. Tuy nhiên, Ủy ban đề nghị tham khảo kinh nghiệm quốc tế đối với các sản phẩm do AI tạo ra để bảo đảm phù hợp với điều kiện thực tiễn của Việt Nam.

Đối với các sản phẩm, thiết bị phần cứng có ứng dụng AI (ví dụ như tủ lạnh, Tivi, máy giặt…), đề nghị nghiên cứu, cân nhắc việc áp dụng hình thức gắn nhãn vô hình (invisible watermark) để giảm chi phí, thủ tục nhưng vẫn bảo đảm khả năng quản lý và truy xuất.

Đồng thời, đề nghị quy định tại dự thảo Luật những nguyên tắc để giao Chính phủ hướng dẫn chi tiết về hình thức, tiêu chuẩn kỹ thuật và các trường hợp miễn trừ.

Có ý kiến đề nghị chuyển quy định gắn nhãn từ bắt buộc sang khuyến khích, kèm hướng dẫn kỹ thuật tối thiểu.

Cùng với đó, cần thí điểm cơ chế gắn nhãn tự nguyện ở một số lĩnh vực; đồng thời tăng cường truyền thông để tránh việc hiểu nhầm "không có nhãn là không phải sản phẩm AI".

Về các quy định mang tính tiền kiểm, Ủy ban đề nghị rà soát, cắt giảm các quy định tiền kiểm như yêu cầu hồ sơ kỹ thuật, nhật ký hoạt động trước khi đưa sản phẩm vào lưu hành, sẽ tăng chi phí tuân thủ, chậm quá trình đổi mới và ứng dụng AI, làm giảm tính cạnh tranh và thu hút đầu tư, cần nghiên cứu chuyển mạnh sang cơ chế hậu kiểm.

Minh Minh