Đề xuất gắn nhãn với một số nội dung trí tuệ nhân tạo, phạt tới 2 tỷ đồng nếu vi phạm

Bộ trưởng Nguyễn Mạnh Hùng cho biết, dự thảo luật được xây dựng trên nguyên tắc vừa quản lý các rủi ro, vừa thúc đẩy phát triển và đổi mới sáng tạo đối với trí tuệ nhân tạo.

Theo Bộ trưởng Khoa học và Công nghệ, "luật bảo đảm phát triển trí tuệ nhân tạo vì con người, lấy con người làm trung tâm", Nhà nước giữ vai trò chủ đạo trong quản lý, điều phối và kiến tạo phát triển đối với trí tuệ nhân tạo.

Bộ trưởng Khoa học và Công nghệ Nguyễn Mạnh Hùng trình bày tờ trình. Ảnh: Quốc hội

Dự thảo luật thiết lập cơ chế quản lý theo mức độ rủi ro, bảo đảm việc phát triển, ứng dụng và sử dụng trí tuệ nhân tạo được an toàn, minh bạch, có thể kiểm soát và có trách nhiệm giải trình.

Chính phủ định hướng phát triển AI linh hoạt, hiệu quả và khuyến khích đổi mới sáng tạo. Cụ thể, 4 mức độ rủi ro bao gồm: Không chấp nhận được (mức độ cao nhất), rủi ro cao, rủi ro trung bình và rủi ro thấp.

Nhà cung cấp phải tự phân loại hệ thống trước khi lưu hành và chịu trách nhiệm về kết quả phân loại. Đối với hệ thống rủi ro trung bình và cao, nhà cung cấp phải thông báo cho Bộ Khoa học và Công nghệ.

Các hệ thống có rủi ro không chấp nhận được bị cấm phát triển, cung cấp, triển khai hoặc sử dụng dưới bất kỳ hình thức nào.

Danh mục cấm bao gồm hệ thống dùng cho hành vi bị pháp luật nghiêm cấm, sử dụng yếu tố giả mạo để lừa dối, thao túng gây tổn hại nghiêm trọng, lợi dụng điểm yếu của nhóm người dễ bị tổn thương (trẻ em, người cao tuổi...) hoặc tạo nội dung giả mạo gây nguy hại nghiêm trọng đến an ninh quốc gia.

Theo dự thảo luật, tổ chức, cá nhân vi phạm quy định sẽ bị xử lý kỷ luật, xử phạt vi phạm hành chính hoặc truy cứu trách nhiệm hình sự; nếu gây thiệt hại thì phải bồi thường theo pháp luật dân sự.

Đối với các hành vi vi phạm nghiêm trọng, mức phạt tiền tối đa có thể lên đến 2% doanh thu của năm trước liền kề của tổ chức đó. Trường hợp tái phạm thì phạt tối đa 2% doanh thu toàn cầu của năm trước liền kề của tổ chức đó.

Mức phạt tiền tối đa đối với vi phạm hành chính là 2 tỷ đồng đối với tổ chức và 1 tỷ đồng đối với cá nhân.

Nội dung then chốt là thiệt hại do hệ thống trí tuệ nhân tạo có rủi ro cao gây ra được xác định là thiệt hại do nguồn nguy hiểm cao độ gây ra. Theo đó, nhà cung cấp và bên triển khai hệ thống phải chịu trách nhiệm bồi thường kể cả khi không có lỗi, trừ các trường hợp được miễn trừ theo Bộ luật Dân sự.

Đáng chú ý, dự thảo luật quy định phải gắn nhãn với: Nội dung do hệ thống AI tạo ra hoặc chỉnh sửa có yếu tố giả mạo, mô phỏng người thật, sự kiện thật và có khả năng khiến người xem, người nghe hoặc người đọc hiểu sai là thật; nội dung do AI tạo ra nhằm mục đích truyền thông, quảng cáo, tuyên truyền hoặc cung cấp thông tin công khai.

Về cơ chế khuyến khích, Chính phủ đề xuất nhiều chính sách hỗ trợ nghiên cứu, đầu tư, đào tạo nhân lực chất lượng cao, tạo điều kiện cho doanh nghiệp, tổ chức và cá nhân tham gia phát triển và ứng dụng trí tuệ nhân tạo. Dự thảo luật cũng ban hành khung đạo đức trí tuệ nhân tạo quốc gia, bảo đảm hệ thống AI được phát triển và sử dụng vì con người, không gây hại, không thiên lệch, tôn trọng các giá trị nhân văn.

Không để tạo điểm nghẽn trong nghiên cứu phát triển AI

Trình bày thẩm tra dự thảo luật, Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường Nguyễn Thanh Hải cho biết cơ quan thẩm tra đồng tình với các chính sách lớn tại dự thảo.

Cơ quan thẩm tra đề nghị bổ sung nguyên tắc cốt lõi để đảm bảo chất lượng đối với dữ liệu phục vụ AI, như dữ liệu phải đúng, đủ, sạch, sống và thống nhất dùng chung; có cơ chế kết nối liên thông, chia sẻ dữ liệu, không để dữ liệu bị phân tán, tạo điểm nghẽn trong nghiên cứu phát triển AI.

Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường Nguyễn Thanh Hải. Ảnh: Quốc hội

Ủy ban Khoa học, Công nghệ và Môi trường cũng đề nghị có quy định về nguyên tắc bắt buộc về đảm bảo an ninh mạng, bảo mật dữ liệu, phòng vệ đối với hạ tầng AI quốc gia, chống nguy cơ chiếm quyền điều khiển, rò rỉ dữ liệu.

Theo cơ quan thẩm tra, những hành vi và lỗi do con người thực hiện thì AI cũng có thể thực hiện. Trong khi đó, trách nhiệm pháp lý của bản thân AI còn nhiều quan điểm rất khác nhau, khó xác định trách nhiệm theo nghĩa truyền thống. Khi có vụ việc phát sinh sẽ gây tranh chấp về trách nhiệm hành chính, dân sự và hình sự.

Ủy ban đề nghị bổ sung nguyên tắc để phân biệt trách nhiệm giữa các chủ thể, các bên liên quan đối với nhà cung cấp nước ngoài khi cung cấp dịch vụ AI xuyên biên giới; phân biệt giữa các trường hợp cố ý, không cố ý hoặc lỗi do giới hạn kỹ thuật không tiên lượng trước được.

Trần Thường