Lần đầu trình Quốc hội luật riêng về trí tuệ nhân tạo

Bộ trưởng Khoa học và Công nghệ Nguyễn Mạnh Hùng trình Quốc hội tờ trình dự án Luật Trí tuệ nhân tạo. Ảnh: Quochoi.vn.

Sáng 21/11, thừa ủy quyền của Thủ tướng, Bộ trưởng Khoa học và Công nghệ Nguyễn Mạnh Hùng đã trình Quốc hội tờ trình dự án Luật Trí tuệ nhân tạo. Đây là lần đầu tiên một dự án luật riêng về trí tuệ nhân tạo được mang ra bàn luận.

Bộ trưởng Nguyễn Mạnh Hùng cho biết dự án Luật Trí tuệ nhân gồm 8 Chương với 36 điều nhằm thể chế hóa chủ trương của Đảng và Nhà nước, tạo hành lang pháp lý đột phá cho trí tuệ nhân tạo. Đồng thời kiến tạo môi trường pháp lý thuận lợi để thúc đẩy đổi mới sáng tạo, nâng cao năng lực cạnh tranh quốc gia; quản lý rủi ro, bảo vệ lợi ích quốc gia, quyền con người và chủ quyền số.

Đảm bảo AI phục vụ con người

Luật mới tập trung giải quyết các vấn đề như quy định nguyên tắc, phạm vi và chính sách phát triển trí tuệ nhân tạo; bảo đảm công nghệ này phát triển vì con người, lấy con người làm trung tâm; xác định rõ vai trò của Nhà nước trong quản lý, điều phối và kiến tạo phát triển.

Luật cũng thiết lập cơ chế quản lý theo mức độ rủi ro, bảo đảm việc phát triển, ứng dụng và sử dụng trí tuệ nhân tạo được an toàn, minh bạch, có thể kiểm soát và có trách nhiệm giải trình.

Bộ trưởng Khoa học và Công nghệ cũng cho biết Luật cũng nhằm mục tiêu phát triển hạ tầng và bảo đảm chủ quyền trí tuệ nhân tạo quốc gia; bảo đảm an ninh, an toàn, tự chủ công nghệ và chủ quyền dữ liệu quốc gia.

Thúc đẩy hệ sinh thái đổi mới sáng tạo và phát triển nguồn nhân lực thông qua cơ chế, chính sách hỗ trợ nghiên cứu, đầu tư, đào tạo nhân lực chất lượng cao, tạo điều kiện cho doanh nghiệp, tổ chức và cá nhân tham gia phát triển và ứng dụng trí tuệ nhân tạo.

Luật mới cũng có quy định về đạo đức và trách nhiệm trong hoạt động trí tuệ nhân tạo. Bao gồm khung đạo đức trí tuệ nhân tạo quốc gia, bảo đảm hệ thống AI được phát triển và sử dụng vì con người, không gây hại, không thiên lệch, tôn trọng các giá trị nhân văn.

Đồng thời, Luật có quy định tăng cường cơ chế giám sát, thanh tra và xử lý vi phạm, bảo đảm tính răn đe, công khai, minh bạch và củng cố niềm tin xã hội trong phát triển và ứng dụng trí tuệ nhân tạo.

Đáng chú ý, dự thảo Luật có quy định mức phạt tiền tối đa đối với vi phạm hành chính trong lĩnh vực trí tuệ nhân tạo là 2 tỷ đồng đối với tổ chức và 1 tỷ đồng đối với cá nhân. Đối với các hành vi vi phạm nghiêm trọng, mức phạt tiền tối đa có thể lên đến 2% doanh thu của năm liền trước của tổ chức vi phạm.

Mỗi luật chuyên ngành cần một chương riêng về AI

Trình bày báo cáo thẩm tra, Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường Nguyễn Thanh Hải cho biết Ủy ban cơ bản tán thành việc xây dựng Luật Trí tuệ nhân tạo theo hướng luật khung, tuy nhiên, do AI phát triển rất nhanh nên việc phải sửa đổi Luật trong một thời gian ngắn là có thể xảy ra. Có ý kiến cho rằng, luật AI là luật gốc và đối với mỗi luật chuyên ngành đều cần có một chương riêng về AI.

Về phân loại và quản lý hệ thống AI theo rủi ro, cơ quan thẩm tra cơ bản nhất trí với việc phân loại rủi ro thành 4 mức (thấp, trung bình, cao và không chấp nhận được). Tuy nhiên, dự thảo Luật chưa xác định rõ tiêu chí định lượng hoặc định tính để xác định và phân loại rủi ro, chưa có các quy định về biện pháp quản lý, công cụ và phương pháp đánh giá rủi ro nên việc phân loại, tự phân loại rủi ro gặp khó khăn, dẫn đến lo ngại về trách nhiệm pháp lý trong triển khai.

Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường Nguyễn Thanh Hải cho rằng cần có quy định để nhận diện sớm các hành vi vi phạm từ khâu nghiên cứu đến triển khai sử dụng AI. Ảnh: Quochoi.vn.

Về các quy định mang tính tiền kiểm, Ủy ban đề nghị rà soát, cắt giảm các quy định tiền kiểm như yêu cầu hồ sơ kỹ thuật, nhật ký hoạt động trước khi đưa sản phẩm vào lưu hành, các quy định này sẽ làm tăng chi phí tuân thủ, chậm quá trình đổi mới và ứng dụng AI, làm giảm tính cạnh tranh và thu hút đầu tư, cần nghiên cứu chuyển mạnh sang cơ chế hậu kiểm.

Với nội dung quy định về cơ sở dữ liệu quốc gia hệ thống trí tuệ nhân tạo, và cơ sở dữ liệu phục vụ trí tuệ nhân tạo, Ủy ban đề nghị bổ sung nguyên tắc cốt lõi để đảm bảo chất lượng đối với dữ liệu phục vụ AI như: dữ liệu phải “đúng - đủ - sạch - sống” và thống nhất dùng chung; có cơ chế kết nối liên thông, chia sẻ dữ liệu không để dữ liệu bị phân tán tạo điểm nghẽn trong nghiên cứu, phát triển AI; có quy định nguyên tắc bắt buộc về đảm bảo an ninh mạng, bảo mật dữ liệu và phòng vệ đối với hạ tầng AI quốc gia, chống nguy cơ chiếm quyền điều khiển, rò rỉ dữ liệu.

Về trách nhiệm pháp lý của các bên liên quan, những hành vi và lỗi do con người thực hiện thì AI cũng có thể thực hiện. Trong khi đó, trách nhiệm pháp lý của AI còn nhiều quan điểm rất khác nhau nên rất khó xác định trách nhiệm theo nghĩa truyền thống. Khi có vụ việc phát sinh sẽ gây tranh chấp về trách nhiệm hành chính, dân sự, hình sự. Do vậy, cơ quan thẩm tra cho rằng cần bổ sung nguyên tắc để phân biệt trách nhiệm giữa các chủ thể, các bên liên quan kể cả đối với nhà cung cấp nước ngoài khi cung cấp dịch vụ AI xuyên biên giới và phân biệt giữa các trường hợp cố ý, không cố ý hoặc lỗi do giới hạn kỹ thuật, không tiên lượng được trước.

Về các hành vi bị cấm, Ủy ban đề nghị bổ sung để góp phần nhận diện sớm về các hành vi vi phạm từ khâu nghiên cứu đến triển khai sử dụng AI, trong đó phải gồm cả hành vi của người sử dụng, của tổ chức, cá nhân lợi dụng AI thực hiện các hành vi bị cấm theo hướng: Cấm sử dụng AI để gây rối, kích động chính trị, xâm phạm an ninh quốc gia, thao túng các cuộc bỏ phiếu, bầu cử… ; Cấm sử dụng AI để tạo dựng những nội dung giả mạo, tạo dựng hình ảnh, video clip… phục vụ lừa đảo, xúc phạm danh dự, nhân phẩm, gây chia rẽ và các mục đích xấu khác…

Cơ quan thẩm tra cũng đề nghị làm rõ thẩm quyền thành lập, cơ chế tổ chức và hoạt động của Ủy ban Quốc gia về trí tuệ nhân tạo.

An Viết