Đưa cơ chế thử nghiệm AI thành động lực đổi mới sáng tạo

Quang cảnh Phiên thảo luận. Ảnh: VPQH

Chiều 27/11, tiếp tục chương trình Kỳ họp thứ 10, Quốc hội thảo luận tại hội trường về Dự án Luật Trí tuệ nhân tạo.

Tham gia thảo luận, đại biểu Nguyễn Hoàng Bảo Trân (Đoàn TP. Hồ Chí Minh) cho rằng, cơ chế thử nghiệm có kiểm soát đối với phát triển AI là công cụ pháp lý rất quan trọng cho đổi mới sáng tạo. Tuy nhiên, Dự thảo Luật mới ở mức quy định về nguyên tắc, chưa mô tả rõ mô hình vận hành.

Để thực hiện hiệu quả cơ chế này, đại biểu kiến nghị, phải xác định rõ phạm vi hoạt động được đưa vào thử nghiệm. Bởi, không phải mọi giải pháp trí tuệ nhân tạo đều cần đưa vào thử nghiệm, chỉ nên áp dụng đối với các mô hình có nguy cơ cao, tác động lớn đến người dân và doanh nghiệp. Nếu không rõ phạm vi, cơ chế thử nghiệm sẽ bị quá tải và mất đi tính trọng tâm.

Đại biểu cũng đề nghị cần quy định rõ trách nhiệm của doanh nghiệp khi xảy ra rủi ro trong quá trình thử nghiệm. “Cơ chế thử nghiệm không phải là “miễn trừ trách nhiệm”. Luật phải khẳng định doanh nghiệp có trách nhiệm cung cấp đầy đủ thông tin, cảnh báo rủi ro, báo cáo định kỳ và xử lý hậu quả khi có sự cố” - đại biểu nói; đồng thời kiến nghị Luật phải có thời hạn thử nghiệm cụ thể, tránh tình trạng thử nghiệm kéo dài rồi mặc nhiên trở thành hoạt động chính thức mà không được thẩm định.

Bên cạnh đó, Luật cần quy định rõ cơ chế đánh giá kết thúc thử nghiệm, tiêu chí chuyển từ thử nghiệm sang chính thức và cơ quan có thẩm quyền quyết định. “Việc làm rõ những nội dung này sẽ giúp cơ chế thử nghiệm trở thành động lực đổi mới sáng tạo thay vì tạo ra khoảng trống pháp lý” - đại biểu Nguyễn Hoàng Bảo Trân nhấn mạnh.

Đại biểu Nguyễn Hoàng Bảo Trân phát biểu thảo luận. Ảnh: VPQH

Cùng quan tâm nội dung này, đại biểu Hoàng Minh Hiếu (Đoàn Nghệ An) - cho rằng, nếu chỉ dựa trên khuôn khổ pháp lý hiện hành thì không thể tạo điều kiện cho AI phát triển. Vì vậy, mục đích chính của cơ chế thử nghiệm có kiểm soát đối với AI là gỡ bỏ rào cản pháp lý đang cản trở các mô hình AI, cho phép thử nghiệm trong phạm vi giới hạn để lấy dữ liệu chứng minh hiệu quả, từ đó thúc đẩy cải cách quy định lâu dài.

Theo đó, các quy định về cơ chế thử nghiệm có kiểm soát phải là trọng tâm trong khuôn khổ pháp luật về trí tuệ nhân tạo. Cơ quan chủ trì soạn thảo cần nghiên cứu, quy định cụ thể hơn về vấn đề này.

Cụ thể, đại biểu Hoàng Minh Hiếu đề nghị xem lại quy định về việc tổ chức, cá nhân tham gia thử nghiệm có kiểm soát được miễn hoặc giảm một số nghĩa vụ tuân thủ. Theo đại biểu, cách quy định như Dự thảo Luật dẫn đến phạm vi được miễn trừ chỉ giới hạn trong phạm vi quy định của Luật này trong khi các hệ thống trí tuệ nhân tạo thường liên quan đến rất nhiều các quy định của pháp luật khác có liên quan.

Vì vậy, Cơ quan soạn thảo cần nghiên cứu, chỉnh lý quy định theo hướng xác định rõ tổ chức, cá nhân tham gia thử nghiệm có kiểm soát được miễn hoặc giảm một số nghĩa vụ tuân thủ quy định tại Luật này và các luật khác có liên quan.

Liên quan quy định về việc giao cơ quan quản lý nhà nước về trí tuệ nhân tạo tổ chức tiếp nhận, thẩm định và xử lý hồ sơ tham gia hoạt động thử nghiệm có kiểm soát theo quy trình thẩm định và phản hồi nhanh, đại biểu đề nghị chỉnh lý lại quy định tại khoản 5 theo hướng "Cơ quan quản lý nhà nước về trí tuệ nhân tạo chủ trì và phối hợp với các cơ quan quản lý nhà nước có liên quan tổ chức tiếp nhận, thẩm định và xử lý hồ sơ tham gia hoạt động thử nghiệm có kiểm soát".

Bổ sung quy định về giám sát lưu hành AI trong y tế

Tham gia góp ý kiến, đại biểu Quốc hội Trần Khánh Thu (Đoàn Hưng Yên) - cho rằng, ngành y tế được đánh giá là một trong những lĩnh vực có nhiều tiềm năng ứng dụng trí tuệ nhân tạo nhất, với những ảnh hưởng rõ rệt lên quy trình chẩn đoán, điều trị, quản lý bệnh nhân, cũng như nghiên cứu và phát triển dược phẩm.

Đại biểu Nguyễn Khánh Thu phát biểu thảo luận. Ảnh: VPQH

Việc kết hợp các phần mềm như học máy (Machine Learning), học sâu (Deep Learning) và dữ liệu lớn (Big Data) đã mở ra nhiều hướng đi mới, giúp nâng cao chất lượng chăm sóc sức khỏe và hiệu quả trong điều trị bệnh tật.

Trí tuệ nhân tạo không chỉ giúp tối ưu hóa các quy trình trong ngành y tế, giảm tải công việc cho các bác sĩ và chuyên gia y tế, mà còn đóng vai trò quan trọng trong việc cá nhân hóa điều trị, từ đó cải thiện kết quả chăm sóc sức khỏe và tăng cường hiệu quả sử dụng nguồn lực.

Tại Việt Nam, việc áp dụng trí tuệ nhân tạo trong y tế đang ngày càng phát triển song vẫn đối mặt với nhiều thách thức như cơ sở hạ tầng hạn chế, khả năng tiếp cận công nghệ và nhân lực y tế chưa đồng đều.

Đại biểu nêu dẫn chứng, mới đây, một bệnh nhân (55 tuổi, ở TP. Hồ Chí Minh) được đưa đến Bệnh viện cấp cứu trong tình trạng lơ mơ, không nhận biết xung quanh. Con gái bệnh nhân cho hay, trước đó thấy mẹ bị chóng mặt, khó thở, cô nhờ trí tuệ nhân tạo chẩn đoán, kết quả cho thấy bị tăng huyết áp. Người con đo huyết áp cho mẹ thấy cao nên càng tin tưởng và ra tiệm thuốc mua thuốc.

Thế nhưng, sau khi uống xong, tình trạng người mẹ ngày càng tệ hơn, mệt, ói nhiều, đến khi không còn nhận thức được thì mới đưa đi cấp cứu. Tại bệnh viện, bác sĩ xác định bệnh nhân bị tổn thương não, đột quỵ và dù được cứu qua nguy kịch, song di chứng để lại khó tránh khỏi.

Theo đại biểu, hiện nay, internet rất phổ biến, đặc biệt là AI - một nguồn thông tin rất tốt cho bệnh nhân khi muốn tìm hiểu thêm về bệnh lý của mình, như cơ chế, nguyên nhân gây bệnh và các triệu chứng để biết về bệnh của mình và chuẩn bị câu hỏi cho bác sĩ khi chưa hiểu rõ hoặc phối hợp với bác sĩ là điều tốt.

"Thế nhưng, tuyệt đối mọi người không dùng kết quả tìm kiếm để chẩn đoán hay kê đơn thuốc cho bản thân được" - đại biểu nói và đặt câu hỏi "người bán thuốc theo các đơn AI này thì có vi phạm pháp luật?".

Đại biểu Khánh Thu cũng chỉ ra, các quy định cụ thể về sản phẩm ứng dụng trí tuệ nhân tạo trong y học vẫn chưa rõ ràng. Các sản phẩm phục vụ khám bệnh, chữa bệnh dựa trên trí tuệ nhân tạo hiện vẫn tuân theo quy trình cấp phép chung dành cho thiết bị y tế, nhưng thiếu các tiêu chuẩn và quy định riêng về trí tuệ nhân tạo cho các sản phẩm đó. Ngoài ra, một số vấn đề như trách nhiệm pháp lý trong trường hợp trí tuệ nhân tạo mắc sai sót, bảo mật dữ liệu y tế, bảo đảm an toàn cho bệnh nhân cũng chưa được quy định rõ ràng trong các văn bản quy phạm pháp luật hiện hành.

Đại biểu hy vọng Dự thảo Luật Trí tuệ nhân tạo lần này sẽ có thêm điều khoản khung pháp lý cụ thể hơn để quản lý các sản phẩm trí tuệ nhân tạo trong y tế, đặc biệt là về trách nhiệm của các bên liên quan.

Cùng quan điểm, đại biểu Lê Văn Khảm (Đoàn Thành phố Hồ Chí Minh) cho rằng cần có quy định riêng cho một số lĩnh vực có rủi ro cao như y tế, tài chính, giao thông. Đặc biệt với y tế, đây là lĩnh vực có rủi ro sai số lớn, liên quan trực tiếp đến sức khỏe, tính mạng người dân nên yêu cầu kiểm soát chặt chẽ hơn.

Đ. KHOA