'AI có thể thao túng tâm lý, hành vi của con người'

Tiếp tục chương trình kỳ họp thứ 10, chiều ngày 27/11, Quốc hội thảo luận tại hội trường về dự án Luật Trí tuệ nhân tạo. Các đại biểu đều tán thành với việc ban hành luật nhằm tạo hành lang pháp lý vững chắc, vừa khuyến khích sáng tạo, vừa bảo vệ người dân trước những tác động tiêu cực của công nghệ mới.

Đại biểu Nguyễn Thanh Cầm (Đoàn Đồng Tháp). Ảnh: Media Quốc hội

Đại biểu Nguyễn Thanh Cầm (Đoàn Đồng Tháp) nhìn nhận, trí tuệ nhân tạo (AI) đang ngày càng đi sâu vào cuộc sống của mỗi người dân, mỗi tổ chức, cơ quan... Theo bà, các lợi thế AI mang lại đã thấy rõ, đặc biệt là tốc độ xử lý thông tin, tuy nhiên những mặt trái mà công cụ này mang tới cũng không ít. Điểu hình là việc xói mòn niềm tin của con người, khi thật - giả lẫn lộn.

“AI cũng có thể thao túng tâm lý, hành vi của con người, làm suy giảm tư duy cảm thụ, cảm nhận độc lập của con người; trong khi đây chính là những yếu tố giúp chúng ta khác biệt so với cỗ máy dù được chế tạo hiện đại và tinh xảo tới đâu. Do vậy, việc xây dựng một đạo luật vừa phát triển vừa quản lý, kiểm soát được trí tuệ nhân tạo là điều hết sức cần thiết,” đại biểu nhận định.

Dự thảo Luật Trí tuệ nhân tạo nêu nguyên tắc “lấy con người làm trung tâm”, song với lĩnh vực mới, khó và có tác động sâu rộng tới mọi lĩnh vực, đời sống xã hội của con người như AI, đại biểu Nguyễn Thanh Cầm cho rằng nên điều chỉnh thành “lấy lợi ích và sự an toàn của con người làm trung tâm”.

Ngoài việc đảm bảo bí mật an ninh quốc gia, bí mật kinh doanh và dữ liệu cá nhân như quy định trong dự thảo Luật, đại biểu đề nghị bổ sung quy định đảm bảo bí mật cá nhân, bí mật gia đình, thông tin về cuộc sống riêng tư của công dân. Bà cũng đề xuất có chính sách ưu tiên phát triển các hệ thống đánh giá, cảnh báo rủi ro, phát hiện nguy hiểm liên quan đến AI, gọi tắt là “an toàn AI”.

Nguy kịch vì tin "bác sĩ AI"

Đại biểu Trần Khánh Thu (Đoàn Hưng Yên). Ảnh: Media Quốc hội

Dưới góc nhìn của một chuyên gia y tế, đại biểu Trần Khánh Thu (Đoàn Hưng Yên) cho biết, ngành y tế là một trong những lĩnh vực có tiềm năng ứng dụng AI lớn nhất hiện nay. Công nghệ học máy, học sâu hay dữ liệu lớn đang mở ra hướng tiếp cận mới, hỗ trợ chẩn đoán, điều trị và quản lý bệnh nhân hiệu quả hơn. Tuy nhiên, thực tế cho thấy việc sử dụng AI thiếu kiểm soát có thể dẫn đến hậu quả nghiêm trọng.

Bà Thu dẫn một trường hợp vừa xảy ra tại TP HCM, khi một bệnh nhân 55 tuổi được đưa vào bệnh viện cấp cứu trong tình trạng lơ mơ, không nhận biết xung quanh. Trước đó, người con gái thấy mẹ chóng mặt, khó thở nên đã sử dụng một công cụ AI để "chẩn đoán", và kết quả gợi ý tình trạng tăng huyết áp. Khi tự đo huyết áp cho mẹ thấy chỉ số cao, cô càng tin tưởng và ra hiệu thuốc mua thuốc cho mẹ uống.

Sau khi dùng thuốc, tình trạng bệnh nhân nhanh chóng xấu đi, mệt nhiều, nôn ói liên tục và dần mất nhận thức, khi đó gia đình mới đưa bà đến bệnh viện. Tại đây, bác sĩ xác định người bệnh bị đột quỵ, tổn thương não; dù được cứu qua nguy kịch nhưng di chứng để lại là khó tránh khỏi.

Theo đại biểu, internet và AI là nguồn tham khảo tốt giúp người dân hiểu về bệnh lý và chuẩn bị câu hỏi cho bác sĩ; nhưng "tuyệt đối không được sử dụng kết quả tìm kiếm hoặc gợi ý của AI để tự chẩn đoán hay kê đơn thuốc". Điều này không chỉ gây nguy hiểm mà còn đặt ra câu hỏi liệu người bán thuốc theo "đơn AI" có vi phạm pháp luật hay không.

Đại biểu Trần Khánh Thu đề xuất dự thảo Luật Trí tuệ nhân tạo có thêm điều khoản để quản lý các sản phẩm trí tuệ nhân tạo trong y tế, đặc biệt là về trách nhiệm của các bên liên quan.

Cần phân biệt rõ sản phẩm sử dụng AI

Đại biểu Thạch Phước Bình (đoàn Vĩnh Long). Ảnh: Media Quốc hội

Quan tâm đến quy định minh bạch gắn nhãn và trách nhiệm đối với nội dung do AI tạo ra, đại biểu Thạch Phước Bình (Đoàn Vĩnh Long) cho biết, công nghệ mô phỏng hình ảnh khuôn mặt con người (Deepfake), giả mạo tiếng nói, hình ảnh, video đã gây ra nhiều vụ việc ảnh hưởng nghiêm trọng đến an ninh thông tin và quyền riêng tư.

Điều 9 của dự thảo Luật quy định gắn nhãn đầu ra AI nhưng đại biểu cho rằng cần thiết kế cơ chế gắn nhãn chặt chẽ hơn, làm rõ một số điểm như: Những loại nội dung nào bắt buộc phải gắn nhãn; mức độ gắn nhãn như thế nào để vừa bảo vệ người dùng, vừa không làm giảm trải nghiệm số; trách nhiệm của các nền tảng mạng xã hội trong phát hiện và gỡ bỏ nội dung giả mạo.

Đồng tình, đại biểu Phạm Văn Hòa (Đoàn Đồng Tháp) nhận định, việc gắn nhãn cho công nghệ AI rất cần thiết, để người dân, người tiêu dùng biết đâu là sản phẩm, nội dung do AI tạo ra và đâu là sản phẩm do con người, công nghệ truyền thống tạo ra.

Ông Hòa lấy ví dụ, trí tuệ nhân tạo có thể tạo ra hình ảnh giống hệt con người, ghép khuôn mặt người này vào thân thể người khác, tái tạo giọng nói, khuôn mặt, ID… gây nhầm lẫn.

“Trong hoạt động sản xuất, kinh doanh, việc gắn nhãn giúp người tiêu dùng phân biệt rõ giữa sản phẩm sử dụng công nghệ AI và sản phẩm truyền thống, tạo cơ sở để điều chỉnh hành vi hoặc đánh giá chất lượng, độ tin cậy của sản phẩm trước khi quyết định sử dụng,” ông Hòa nói.

Đại biểu đề nghị cần quy định chặt chẽ, cụ thể việc gắn nhãn, phải thông báo rõ ràng đâu là sản phẩm của AI, không phải là con người thật.