Đề xuất cấm dùng AI thao túng bầu cử, gây rối, kích động chính trị, xâm phạm an ninh quốc gia
Ngày 21-11, Chính phủ đã trình Quốc hội dự án Luật Trí tuệ nhân tạo (AI), nhằm tạo khung pháp lý trong nghiên cứu, phát triển, quản lý sử dụng AI.
Theo báo cáo thẩm tra dự án luật của Ủy ban Khoa học, Công nghệ và Môi trường, cơ quan này đề nghị cơ quan chủ trì soạn thảo nghiên cứu bổ sung một điều riêng về "Các hành vi bị nghiêm cấm trong lĩnh vực AI", tương tự cấu trúc của nhiều luật chuyên ngành khác như Luật An ninh mạng, Luật Giao dịch điện tử, Luật Công nghiệp công nghệ số...
Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường của Quốc hội Nguyễn Thanh Hải trình bày tờ trình tóm tắt trước Quốc hội sáng 21-11. Ảnh: Phạm Thắng
Theo cơ quan thẩm tra, việc bổ sung điều khoản này sẽ giúp xác định rõ các hành vi vi phạm pháp luật trong hoạt động nghiên cứu, phát triển, triển khai và sử dụng AI, bao gồm cả hành vi của người sử dụng, tổ chức, cá nhân lợi dụng AI để thực hiện các hành vi bị cấm.
Đồng thời, quy định này cũng góp phần tăng tính răn đe, minh bạch và thống nhất trong áp dụng pháp luật, bảo đảm tính toàn diện và đồng bộ của hệ thống quy định điều chỉnh lĩnh vực AI.
Ủy ban Khoa học, Công nghệ và Môi trường đề nghị làm rõ mối quan hệ giữa các hành vi bị cấm với các mức độ rủi ro, nhất là rủi ro không chấp nhận được.
Cùng với đó, cân nhắc bổ sung một số hành vi bị cấm như: Cấm sử dụng AI để thao túng bầu cử hoặc gây rối, kích động chính trị, xâm phạm an ninh quốc gia; Cấm sử dụng AI để nhận diện hoặc phân tích cảm xúc của cá nhân tại nơi làm việc, trong môi trường học tập hoặc các bối cảnh tương tự mà không có sự đồng ý của người bị ảnh hưởng; Cấm sử dụng AI nhằm phân biệt đối xử dựa trên dữ liệu sinh trắc học hoặc các đặc tính cá nhân khác…
Cũng theo cơ quan thẩm tra, dự thảo luật hiện mới dừng ở mức khuyến khích chung việc nghiên cứu, phát triển AI mà chưa làm rõ vai trò đặc biệt của AI trong hoạt động nghiên cứu khoa học, lĩnh vực đang chứng kiến sự bứt phá mạnh mẽ, đặc biệt trong y sinh, khoa học vật liệu và dược phẩm, nơi AI đã có thể thiết kế, mô phỏng và phát triển vật liệu, protein hay thuốc mới.
Cơ quan thẩm tra nêu rõ, trong khoa học vật liệu, các mô hình AI có khả năng tạo ra những phương pháp chế tạo vật liệu hoàn toàn mới mà con người chưa thực hiện được bằng phương pháp truyền thống.
Do đó, đề nghị nghiên cứu xây dựng một chương hoặc mục riêng về AI trong nghiên cứu và đổi mới sáng tạo, làm rõ các cơ chế khuyến khích ứng dụng AI, hỗ trợ hạ tầng tính toán, chia sẻ dữ liệu nghiên cứu và thiết lập cơ chế thử nghiệm (sandbox) cho các dự án có giá trị khoa học cao.
Bên cạnh đó, đề nghị nghiên cứu bổ sung cơ chế khuyến khích, chính sách đầu tư, phân bổ nguồn lực để ưu tiên phát triển hạ tầng AI quốc gia, bố trí ngân sách cho phòng thí nghiệm, viện nghiên cứu và trường đại học, nhằm thúc đẩy đổi mới sáng tạo và tạo đột phá cho khoa học Việt Nam trong kỷ nguyên AI.
Về mặt xã hội, Ủy ban Khoa học, Công nghệ và Môi trường nhấn mạnh, AI đang đặt ra nhiều thách thức, bao gồm thay đổi mô hình lao động, nguy cơ thay thế một số nhóm nghề nghiệp, lan truyền thông tin sai lệch, rủi ro thiên vị trong các hệ thống ra quyết định tự động, cùng những tác động tới văn hóa, đạo đức và quyền riêng tư.
Vì vậy, cần thiết quy định rõ cơ chế đánh giá tác động xã hội của AI, bảo đảm việc ứng dụng công nghệ diễn ra an toàn, minh bạch và có trách nhiệm. Đồng thời, cần thiết lập các cơ chế hỗ trợ chuyển đổi việc làm, tái đào tạo và giải quyết các vấn đề phát sinh đối với người lao động bị ảnh hưởng bởi sự thay đổi do AI mang lại.
Đối với đối tượng dễ bị tổn thương như trẻ em, AI cũng tiềm ẩn những mặt trái đáng lo ngại như khi quá phụ thuộc vào AI để tìm câu trả lời hoặc giải quyết bài tập, trẻ em có nguy cơ mất đi cơ hội rèn luyện khả năng suy nghĩ độc lập, phân tích, và sáng tạo; dễ có hành vi lệch chuẩn; có thể lầm tưởng AI là một người bạn thật sự và hành động theo những lời khuyên từ AI mà những lời khuyên này có thể không phù hợp hoặc nguy hiểm; bị thao túng hoặc lừa đảo...
Nghiên cứu kinh nghiệm các nước cho thấy, Đạo luật về AI của Ý quy định người dưới 14 tuổi chỉ được dùng AI khi có sự đồng ý của cha, mẹ hoặc người giám hộ. Theo đề xuất mới đây, người dùng tại Liên minh châu Âu (EU) phải trên 16 tuổi mới có thể sử dụng AI mà không cần sự đồng ý của cha mẹ.
Luật kiểm soát Chatbot AI của Bang California (Mỹ) quy định, các nền tảng AI bắt buộc phải thông báo rõ cho người dùng dưới 18 tuổi định kỳ 3 giờ/lần về việc họ đang trò chuyện với Chatbot chứ không phải con người.
Do đó, cơ quan thẩm tra đề nghị cơ quan chủ trì soạn thảo nghiên cứu bổ sung những quy định riêng nhằm bảo vệ trẻ em trước các mặt trái của AI, hướng trẻ em sử dụng AI một cách an toàn và lành mạnh, trong đó phát huy vai trò, trách nhiệm của phụ huynh, nhà trường trong việc giám sát, nâng cao nhận thức cho trẻ em về AI.
