'Bác sĩ trí tuệ nhân tạo' chẩn đoán, kê đơn thuốc nhầm thì ai chịu trách nhiệm?

Góp ý thảo luận tại phiên thảo luận về dự án Luật Trí tuệ nhân tạo chiều 27/11, đại biểu Phạm Trọng Nhân, đoàn TP.HCM chỉ rõ, trong khi chúng ta xây dựng nền tảng pháp lý đầu tiên cho trí tuệ nhân tạo thì Trung Quốc, chỉ riêng 10 tháng đầu năm nay, đã nộp 62.398 bằng sáng chế trí tuệ nhân tạo, gấp 12 lần tổng số bằng sáng chế trí tuệ nhân tạo của cả Việt Nam từ trước đến nay. Mỹ thu hút hơn 40 tỷ USD vốn tư nhân vào lĩnh vực trí tuệ nhân tạo năm 2024, trong khi 99% mô hình nền tảng chúng ta đang dùng là của nước ngoài.

Đại biểu Phạm Trọng Nhân, đoàn TP.HCM (Ảnh: Quốc hội)

“Đây không chỉ là khoảng cách, mà là cảnh báo về chủ quyền số, sự phụ thuộc công nghệ và về trách nhiệm phải đi nhanh hơn nhưng an toàn hơn trong xây dựng thể chế”, đại biểu đoàn TP.HCM nêu rõ.

Theo đại biểu Phạm Trọng Nhân, hiện 97% dữ liệu tiếng Việt chất lượng cao đang nằm trong tay 5 nền tảng xuyên biên giới. Nếu không hành động ngay, chỉ vài năm nữa việc phát triển mô hình tiếng Việt lớn có thể bị chi phối mạnh bởi các nền tảng nước ngoài. Trong kỷ nguyên mà trí tuệ nhân tạo là hạ tầng mềm của năng suất quốc gia, liệu chúng ta có chấp nhận để Việt Nam chỉ là nơi tiêu thụ dữ liệu và ứng dụng trí tuệ nhân tạo của người khác?

“Hoặc chúng ta chủ động biến trí tuệ nhân tạo thành năng lực cạnh tranh quốc gia, hoặc sẽ bị bỏ lại phía sau trong chuỗi giá trị toàn cầu”, đại biểu Phạm Trọng Nhân nhấn mạnh.

Từ đó, đại biểu đề xuất áp dụng cách tiếp cận dựa trên rủi ro, không dựa trên công nghệ. Với rủi ro thấp, cần tạo hành lang thông thoáng nhất để khuyến khích sáng tạo. Với rủi ro trung bình, yêu cầu gắn nhãn trí tuệ nhân tạo, minh bạch và thông báo cho người dùng. Với rủi ro cao trong các lĩnh vực như y tế, tư pháp, tín dụng, phải có cơ chế kiểm thử bắt buộc, chứng nhận an toàn, giám sát của con người và trách nhiệm giải trình rõ ràng.

“Thực tế đã có không ít “bác sĩ trí tuệ nhân tạo”, “luật sư trí tuệ nhân tạo” tư vấn sai, chẩn đoán sai; nếu không kiểm soát chặt, hậu quả với sức khỏe, quyền con người và tài sản của người dân là không thể lường trước”, đại biểu TP.HCM cho hay.

Cuối cùng, với rủi ro không thể chấp nhận, cần cấm tuyệt đối hoặc hạn chế nghiêm ngặt, nhất là các hệ thống trí tuệ nhân tạo thao túng hành vi; khai thác trẻ em và nhóm yếu thế; deepfake gây tổn hại danh dự; chấm điểm xã hội; nhận dạng sinh trắc học thời gian thực; quảng cáo nhắm mục tiêu theo tôn giáo, sắc tộc, chính kiến. Đây là những ứng dụng có nguy cơ xâm phạm nghiêm trọng nhân phẩm, quyền con người và an ninh quốc gia.

Trí tuệ nhân tạo có ích cho y tế, nhưng không được lạm dụng

Đồng quan điểm, đại biểu Trần Khánh Thu, đoàn Hưng Yên (Tiến sĩ Y khoa), cho rằng, đây là một đạo luật có tính mở đường và rất quan trọng để tạo nên một nền tảng pháp lý cho lĩnh vực công nghệ, có ý nghĩa quyết định đối với năng lực cạnh tranh quốc gia trong nhiều thập kỷ tới, chủ động để tận dụng các cơ hội của làn sóng công nghệ mới.

Đại biểu Trần Khánh Thu, đoàn Hưng Yên (Ảnh: Quốc hội)

Theo nữ đại biểu, trí tuệ nhân tạo đã trở thành một cuộc cách mạng công nghệ và tác động sâu rộng đến nhiều lĩnh vực khoa học công nghệ và đời sống. Trong đó, ngành y tế được đánh giá là một trong những lĩnh vực có nhiều tiềm năng ứng dụng trí tuệ nhân tạo nhất với những ảnh hưởng rõ rệt lên quy trình chẩn đoán, điều trị, quản lý bệnh nhân cũng như nghiên cứu và phát triển dược phẩm.

Việc kết hợp các phần mềm như học máy, học sâu hay dữ liệu lớn Big Data đã mở ra nhiều hướng đi mới giúp nâng cao chất lượng chăm sóc sức khỏe và hiệu quả trong điều trị bệnh tật. Tại Việt Nam, việc áp dụng trí tuệ nhân tạo trong y tế đang ngày càng phát triển. Tuy nhiên, vẫn đang đối mặt với nhiều thách thức như cơ sở hạ tầng hạn chế, khả năng tiếp cận công nghệ và nhân lực y tế chưa thực sự đồng đều.

Nêu vụ việc điển hình, đại biểu Trần Khánh Thu cho hay, mới đây, một bệnh nhân 55 tuổi ở TP.HCM được đưa đến bệnh viện cấp cứu trong tình trạng lơ mơ, không nhận biết xung quanh.

“Theo tìm hiểu, con gái bệnh nhân cho hay trước đó thấy mẹ chóng mặt, khó thở, cô đã nhờ trí tuệ nhân tạo chẩn đoán. Kết quả cho thấy bị tăng huyết áp, người con thực hiện đo huyết áp cho mẹ và thấy huyết áp có tăng thật, đã ra tiệm mua thuốc về cho mẹ uống. Nhưng sau khi uống xong thì tình trạng người mẹ ngày càng tệ hơn, mệt, ói nhiều, dẫn đến không còn nhận thức thì mới đưa đi cấp cứu”, đại biểu đoàn Hưng Yên chia sẻ.

Tại bệnh viện, bác sĩ xác định bệnh nhân bị tổn thương não, đột quỵ, dù được cứu qua cơn nguy kịch song di chứng để lại là khó tránh khỏi.

“Hiện nay Internet rất phổ biến, đặc biệt là trí tuệ nhân tạo là một nguồn thông tin rất tốt cho người bệnh khi muốn tìm hiểu thêm về bệnh lý của mình. Việc tìm hiểu cơ chế nguyên nhân gây bệnh và các triệu chứng để biết về bệnh của mình, chuẩn bị những câu hỏi cho bác sĩ khi chưa thực sự hiểu rõ và phối hợp với bác sĩ là điều tốt. Nhưng, tuyệt đối mọi người không dùng kết quả để tìm kiếm chẩn đoán hay kê đơn thuốc cho bản thân được”, đại biểu Trần Khánh Thu khuyến cáo.

Đại biểu cũng đặt câu hỏi liệu người bán thuốc theo “đơn bác sĩ trí tuệ nhân tạo” có vi phạm pháp luật hay không.

Theo đại biểu, chúng ta chưa có một khung pháp lý cụ thể và đầy đủ dành riêng cho việc ứng dụng trí tuệ nhân tạo trong y tế. Các sản phẩm phục vụ khám bệnh, chữa bệnh dựa trên trí tuệ nhân tạo hiện vẫn đang tuân theo các quy trình cấp phép chung dành cho thiết bị y tế, nhưng thiếu các tiêu chuẩn và quy định riêng về trí tuệ nhân tạo cho các sản phẩm đó.

Ngoài ra, một số vấn đề như trách nhiệm pháp lý trong trường hợp trí tuệ nhân tạo mắc sai sót và bảo mật dữ liệu y tế, bảo đảm an toàn cho bệnh nhân cũng chưa được đưa ra quy định rõ ràng trong các văn bản quy phạm pháp luật hiện hành.

“Tôi rất hy vọng trong dự thảo Luật Trí tuệ nhân tạo lần này sẽ có thêm các điều khoản khung pháp lý cụ thể hơn để quản lý các sản phẩm trí tuệ nhân tạo dành cho y tế, đặc biệt là trách nhiệm của các bên liên quan”, nữ đại biểu nêu ý kiến.

Nhóm PV/VOV.VN