AI có thể bị phá hoại, bị tấn công, nhiều rủi ro nếu lạm dụng
Đó là nhận định của ông Nguyễn Hoàng Phúc, báo cáo viên chia sẻ về quản lý rủi ro và an toàn thông tin cho AI tại hội thảo tuần lễ chuyển đổi số TP HCM
Chiều 22-10 đã diễn ra hội thảo "AI và an toàn thông tin, đổi mới công nghệ và quản lý rủi ro", một trong hội thảo trong tuần lễ chuyển đổi số công nghệ số - động lực tăng trưởng mới của TP HCM năm 2024.
Ông Võ Minh Thành - Phó Giám đốc Sở Thông tin - Truyền thông chia sẻ tại hội nghị
Phát biểu tại hội nghị ông Võ Minh Thành, Phó giám đốc Sở Thông tin - Truyền thông chia sẻ khi chuyển đổi số cần đảm bảo an toàn thông tin tuyệt đối, cũng như khi xảy ra tai nạn về thông tin sẽ gây mất đi niềm tin của người sử dụng dịch vụ an toàn thông tin, dữ liệu cá nhân.
Chia sẻ thêm thông tin về an toàn thông tin, ông Phạm Văn Hậu, Ủy viên ban chấp hành an toàn thông tin phía Nam, cho biết AI giúp rất nhiều cho sự phát triển an toàn thông tin, AI gia tăng khả năng đảm bảo an toàn thông tin trong các hệ thống phòng thủ.
Tuy nhiên, AI cũng có thể làm công cụ cho tin tặc thực hiện tấn công phá hoại, AI có thể bị phá hoại, bị tấn công làm sai lệch kết quả dự đoán nên cần cung cấp tính riêng tư cho dữ liệu người dùng.
Trình bày tại hội thảo, ông Nguyễn Hoàng Phúc, báo cáo viên trình bày về quản lý rủi ro và an toàn thông tin cho AI, ông Phúc cho rằng hiện tại Việt Nam trong giai đoạn sơ khởi, Việt Nam có nhiều thuận lợi học hỏi kinh nghiệm từ các quốc gia đi trước và nhận diện các rủi ro AI.
Theo ông Phúc, sử dụng AI có nhiều rủi ro về sai lệch thông tin, không thể đảm bảo 100% dữ liệu chính xác, rủi ro lạm dụng như tuyên truyền thông tin sai lệch, tin tặc sử dụng AI để tấn công, rủi ro về đạo đức,...
Đối với rủi ro nội tại như dữ liệu, hạ tầng, mô hình thuật toán là trái tim của AI, các AI hiện tại không thể truy vấn thông tin đầu vào khó truy cứu khi dữ liệu bị sai, rủi ro bị đánh cắp dữ liệu do AI có thể học từ những dữ liệu đầu vào do người dùng nhập dữ liệu, tin tặc có thể đánh cắp dữ liệu qua hạ tầng.
Về biện pháp đảm bảo an toàn thông tin, ông Phúc chia sẻ có nhiều cách để đảm bảo an toàn thông tin như quản trị dữ liệu, các doanh nghiệp đều có quy định về dữ liệu, IT, các doanh nghiệp cần có quy định về AI, về cấp độ doanh nghiệp, nhà nước, pháp luật để đảm bảo an toàn thông tin.
Về công nghệ để đảm bảo an toàn thông tin, cần có công nghệ bảo mật để bảo vệ người dùng, bảo vệ sản phẩm, bảo vệ những người cung cấp dịch vụ sử dụng AI và bảo vệ AI.
