Cơ chế thử nghiệm trí tuệ nhân tạo không phải là 'miễn trừ trách nhiệm'

Phó Chủ tịch Quốc hội Lê Minh Hoan điều hành phiên thảo luận. Ảnh: media.quochoi.vn

Các đại biểu đánh giá, đây là đạo luật có tính mở đường và rất quan trọng để tạo nên nền tảng pháp lý cho một lĩnh vực công nghệ có ý nghĩa quyết định đối với năng lực cạnh tranh quốc gia trong nhiều thập kỷ tới, chủ động để tận dụng được các cơ hội của làn sóng công nghệ mới. Trong đó, nội dung về cơ chế thử nghiệm có kiểm soát được nhiều đại biểu quan tâm.

Đề cập quy định cơ chế thử nghiệm có kiểm soát, đại biểu Hoàng Minh Hiếu (Đoàn Nghệ An) cho rằng, trí tuệ nhân tạo (AI) là vấn đề rất mới, liên quan đến rất nhiều lĩnh vực, nếu chỉ dựa trên khuôn khổ pháp lý hiện hành thì không thể tạo điều kiện cho AI phát triển.

Đại biểu Hoàng Minh Hiếu (Đoàn Nghệ An) phát biểu tại phiên thảo luận. Ảnh: media.quochoi.vn

Mục đích chính của cơ chế thử nghiệm có kiểm soát đối với AI là gỡ bỏ rào cản pháp lý đang cản trở các mô hình AI, cho phép thử nghiệm trong phạm vi giới hạn để lấy dữ liệu chứng minh hiệu quả, từ đó thúc đẩy cải cách quy định lâu dài. Cách thức này cũng rất phù hợp với tư duy lập pháp hiện nay, đó là thể chế phải đi trước mở đường cho sự phát triển... Vì vậy, theo đại biểu, các quy định về cơ chế thử nghiệm có kiểm soát phải là trọng tâm trong khuôn khổ pháp luật về trí tuệ nhân tạo.

Góp ý cụ thể, đại biểu Hoàng Minh Hiếu đề nghị xem lại quy định về việc tổ chức, cá nhân tham gia thử nghiệm có kiểm soát được miễn hoặc giảm một số nghĩa vụ tuân thủ tại dự thảo. Cách quy định như vậy dẫn đến phạm vi được miễn trừ chỉ giới hạn trong phạm vi quy định của Luật này trong khi các hệ thống AI thường liên quan rất nhiều đến các quy định khác. Vì vậy, đại biểu đề nghị cơ quan chủ trì soạn thảo nghiên cứu, chỉnh lý quy định tại dự thảo theo hướng xác định rõ tổ chức, cá nhân tham gia thử nghiệm có kiểm soát được miễn hoặc giảm một số nghĩa vụ tuân thủ quy định tại Luật.

Đại biểu Trịnh Thị Tú Anh (Đoàn Lâm Đồng) phát biểu tại phiên thảo luận. Ảnh: media.quochoi.vn

Đề cập quy định: “Tổ chức, cá nhân tham gia thử nghiệm có kiểm soát được miễn hoặc giảm một số nghĩa vụ tuân thủ quy định tại Luật này trong phạm vi thử nghiệm, và không bị xử phạt vi phạm hành chính đối với sai sót phát sinh trong phạm vi, thời gian và điều kiện thử nghiệm được phê duyệt, trừ trường hợp cố ý vi phạm hoặc vi phạm các giới hạn thử nghiệm đã được phê duyệt”, đại biểu Trịnh Thị Tú Anh (Đoàn Lâm Đồng) cho rằng, cần làm rõ khái niệm “cố ý” trong bối cảnh đặc thù của công nghệ AI.

Khác với phần mềm truyền thống chạy theo mệnh lệnh cố định, AI hoạt động dựa trên khả năng tự học và xác suất. Có những trường hợp AI tự đưa ra quyết định sai lệch mà ngay cả nhà phát triển cũng không thể lường trước được do tính chất “hộp đen” (black-box) của thuật toán. Đây là rủi ro công nghệ, không phải là ý chí chủ quan của con người.

“Để doanh nghiệp yên tâm thử nghiệm đổi mới sáng tạo, đề nghị bổ sung quy định: “Các sự cố phát sinh do lỗi kỹ thuật chưa lường trước hoặc do tính chất bất định của thuật toán trong quá trình thử nghiệm, nếu doanh nghiệp đã tuân thủ đúng quy trình an toàn, thì không bị coi là hành vi cố ý vi phạm”, đại biểu Trịnh Thị Tú Anh nhấn mạnh.

Đại biểu Nguyễn Hoàng Bảo Trân (Đoàn thành phố Hồ Chí Minh) phát biểu tại phiên thảo luận. Ảnh: media.quochoi.vn

Còn theo đại biểu Nguyễn Hoàng Bảo Trân (Đoàn thành phố Hồ Chí Minh), Điều 22 về cơ chế thử nghiệm có kiểm soát hiện dừng lại ở mức quy định về nguyên tắc, chưa mô tả rõ mô hình vận hành.

Để cơ chế này hiệu quả, đại biểu nêu kiến nghị: Phải xác định rõ phạm vi hoạt động được đưa vào thử nghiệm; không phải mọi giải pháp trí tuệ nhân tạo đều cần đưa vào thử nghiệm; chỉ nên áp dụng đối với các mô hình có nguy cơ cao, tác động lớn đến người dân và doanh nghiệp.

Theo đại biểu Nguyễn Hoàng Bảo Trân, cần quy định rõ trách nhiệm của doanh nghiệp khi xảy ra rủi ro trong quá trình thử nghiệm. Cơ chế thử nghiệm không phải là “miễn trừ trách nhiệm”. Luật phải khẳng định doanh nghiệp có trách nhiệm cung cấp đầy đủ thông tin, cảnh báo rủi ro, báo cáo định kỳ và xử lý hậu quả khi có sự cố.

Cùng với đó, đại biểu đề nghị phải có thời hạn thử nghiệm cụ thể, tránh tình trạng thử nghiệm kéo dài rồi mặc nhiên trở thành hoạt động chính thức mà không được thẩm định. Bên cạnh đó, luật nên quy định rõ cơ chế đánh giá kết thúc thử nghiệm, tiêu chí chuyển từ thử nghiệm sang chính thức và cơ quan có thẩm quyền quyết định.

“Việc làm rõ những nội dung này sẽ giúp cơ chế thử nghiệm trở thành động lực đổi mới sáng tạo thay vì tạo ra khoảng trống pháp lý” - đại biểu đoàn thành phố Hồ Chí Minh nhấn mạnh.

Giải trình tại phiên thảo luận, Bộ trưởng Bộ Khoa học và Công nghệ Nguyễn Mạnh Hùng đã làm rõ ý kiến các đại biểu quan tâm và cho biết sẽ tiếp thu tối đa các góp ý của đại biểu để hoàn thiện dự án Luật với chất lượng cao nhất.

Minh Thúy