Đại biểu lo trẻ em lạm dụng AI trong học tập, đề nghị giới hạn độ tuổi sử dụng

Sáng 21/11, thảo luận tại tổ về dự án Luật Trí tuệ nhân tạo, đại biểu Lò Thị Luyến (đoàn Điện Biên) cho rằng trong nội dung phát triển trí tuệ nhân tạo (AI), các quy định vẫn còn mang tính định tính, chưa cụ thể.

Đại biểu Lò Thị Luyến (đoàn Điện Biên) góp ý vào dự thảo luật. Ảnh: Media Quốc hội.

Ví dụ, trong dự thảo hiện nay, vấn đề trẻ em tiếp cận với AI chưa được giới hạn rõ. Hiện dự thảo luật chỉ quy định về mức độ rủi ro gồm rủi ro không chấp nhận được, rủi ro cao, rủi ro trung bình và rủi ro thấp nhưng các quy định này chưa rõ về mặt quản lý.

"Nếu chúng ta không có quy định giới hạn độ tuổi tiếp cận AI, thì thế hệ trẻ, những người chưa có đầy đủ nhận thức, như tờ giấy trắng, có thể gặp nhiều nguy hiểm trong tương lai", bà Luyến nói.

Theo bà, thực tế báo chí ở một số nước đã phản ánh tình trạng trẻ em nghe theo AI, làm bạn với AI, thậm chí chỉ yêu AI và kết hôn với AI. Một số nước châu Âu quy định độ tuổi cụ thể trẻ em được phép tiếp cận và sử dụng AI.

Vì vậy, đại biểu đoàn Điện Biên cho rằng nội dung này cần được nghiên cứu rất kỹ. Nếu theo dự thảo hiện nay thì mọi đối tượng trong xã hội đều có thể tiếp cận AI, trong khi chỉ phân loại theo bốn mức độ rủi ro, là rất mong manh.

Đại biểu Nguyễn Lâm Thành (đoàn Thái Nguyên) phát biểu tại tổ. Ảnh: Media Quốc hội.

Đại biểu Nguyễn Lâm Thành (đoàn Thái Nguyên) cũng cho rằng cần làm rõ việc ứng dụng AI trong y tế, giao thông, tài chính, đặc biệt vấn đề kiểm soát tài chính, phân tích thị trường…

Như trong giáo dục, ông Thành cho biết có thực tế học viên sử dụng AI làm bài tập, khóa luận và các trường phải đối phó bằng cách ngoài yêu cầu nộp bài, học viên phải đến phỏng vấn, kiểm tra lại mức độ nhận thức.

Luật phải tiếp cận vấn đề ứng dụng trong các lĩnh vực chứ không đơn thuần ở quy định chung chung về mặt nguyên tắc nữa - ông Thành nói.

Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường Nguyễn Thanh Hải nêu thực tế nhiều sản phẩm hiện nay rất khó phân biệt đâu là thật, đâu là AI tạo ra, vì vậy cần gắn nhãn sản phẩm do AI tạo ra.

Nhận định đây là dự án luật rất mới, Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường Nguyễn Thanh Hải cho biết trên thế giới, nhiều nước phát triển về lĩnh vực này nhưng cũng chưa có luật mà chỉ ban hành khung đạo đức trước khi làm luật.

Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường Nguyễn Thanh Hải phát biểu tại tổ. Ảnh: Media Quốc hội.

Bà cho rằng tốc độ phát triển của AI rất nhanh, có những yếu tố khó lường nên dù đây là luật khung thì rất có thể sẽ tiếp tục phải sửa đổi, bổ sung trong thời gian ngắn.

Góp ý cụ thể liên quan việc gắn nhãn sản phẩm AI, bà Hải chia sẻ thực tế nghe ca sĩ hát nhiều bài hay nhưng không biết là thật hay AI, do đó đề nghị cần gắn nhãn những sản phẩm do AI tạo ra.

Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường cũng nêu thực tế nhiều học sinh sử dụng AI trong quá trình làm bài và dẫn chứng câu chuyện ở Trung Quốc, với những cuộc thi lớn sẽ cắt toàn bộ trợ lý ảo, không cho học sinh dùng khi thi.

"Cần có chương liên quan sử dụng AI trong nghiên cứu khoa học và giảng dạy, vì đó là những vấn đề rất mới", bà Hải nói.

Ngoài ra, Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường cho rằng, dự thảo luật cũng cần nêu rõ các hành vi bị cấm, như sử dụng AI để gây rối, kích động, thao túng các cuộc bỏ phiếu, bầu cử, tạo dựng hình ảnh và video clip lừa đảo….

Cũng lo ngại về thật/giả khi AI ngày càng phát triển, được ứng dụng cao, đại biểu Lê Minh Nam (đoàn Cần Thơ) lo ngại về rủi ro kỹ thuật khi AI đưa ra kết quả dựa trên nguồn dữ liệu đầu vào.

Nếu thông tin đầu vào đúng, chuẩn xác thì mới tạo ra kết quả đúng và chuẩn. Nhưng nếu thông tin sai lệch thì kết quả AI đưa ra cũng không đảm bảo.

Cùng đó, AI còn xử lý cả nguồn dữ liệu mở. Trong khi nguồn dữ liệu mở cho phép bất kỳ ai truy cập, sử dụng, chỉnh sửa và chia sẻ miễn phí.

Nếu dữ liệu mở có nguồn gốc từ Chính phủ hoặc các tổ chức phi lợi nhuận thì có cơ sở, nhưng nếu do cộng đồng người dùng đóng góp, can thiệp, chỉnh sửa thì có thể gây sai lệch.

Đại biểu chỉ ra thực tế trên mạng hiện nay xuất hiện công nghệ tạo ra lượng lớn thông tin giả, đẩy lên hệ thống với số lượng đủ lớn để AI lấy làm dữ liệu huấn luyện và điều này rất nguy hiểm. Trong khi đó, chúng ta luôn yêu cầu thông tin phải "đúng, đủ, sạch, sống" thì mới đảm bảo kết quả tích cực.

Tham khảo thêm

Đề xuất dùng AI để truyền thông, quảng cáo phải dán nhãn, thông báo rõ

Trang Trần