AI mang lại nhiều lợi thế, nhưng cũng tiềm ẩn rủi ro nếu không bảo mật đúng cách

Ngày 30/7, Khoa Kỹ thuật – Công nghệ, Trường Đại học Hùng Vương Thành phố Hồ Chí Minh tổ chức Hội thảo khoa học năm 2025 với chủ đề: “AI KING: Shaping the Future”.

Sự kiện này là một không gian trao đổi học thuật chuyên sâu, tập trung vào những xu hướng, định hướng phát triển của Trí tuệ nhân tạo (AI) trong tương lai. Theo Ban tổ chức hội thảo, các đại biểu tham dự sẽ được cập nhật những tiến bộ mới nhất, những công nghệ đột phá của AI, đặc biệt là trong môi trường giáo dục.

Diễn đàn về học thuật chuyên sâu này sẽ còn tạo cầu nối vững chắc giữa giới học thuật, các nhà nghiên cứu, sinh viên và cộng đồng doanh nghiệp chuyên về công nghệ. Đồng thời, đây còn là cơ hội khuyến khích sinh viên của nhà trường, những người trẻ có niềm đam mê với AI tiếp cận được các kiến thức chuyên sâu, từ đó sẽ được trang bị các kỹ năng cần thiết để trở thành lực lượng dẫn dắt trong kỷ nguyên số.

AI mang lại nhiều lợi thế cho con người, nhưng cũng tiềm ẩn nhiều rủi ro

Phát biểu khai mạc hội thảo, Phó Giáo sư, Tiến sĩ Trần Văn Hưng – Phó Hiệu trưởng Trường Đại học Hùng Vương Thành phố Hồ Chí Minh chia sẻ: “AI KING: Shaping the Future sẽ không chỉ là một diễn đàn trao đổi về kiến thức, mà còn là một nền tảng quan trọng để kết nối cộng đồng AI tại Việt Nam.

Đây còn là dịp để các nhà khoa học, nhà quản lý, giảng viên và sinh viên cùng nhau trao đổi học thuật, chia sẻ các kinh nghiệm về nghiên cứu, cập nhật các tiến bộ mới nhất, và cùng nhìn nhận những xu hướng tương lai của lĩnh vực AI”.

Ông Huỳnh Phúc Vinh - Giám đốc Công nghệ của VinHMS đến tham dự, phát biểu tại hội thảo. Ảnh: DHV.

Theo ông Huỳnh Phúc Vinh – Giám đốc Công nghệ VinHMS, Tập đoàn Vingroup, AI mang lại rất nhiều lợi thế cho con người, nhưng cũng tiềm ẩn rất nhiều rủi ro nếu không được bảo mật đúng cách, bao gồm rò rỉ dữ liệu huấn luyện, thao túng mô hình và các cuộc tấn công kiểu chèn mã độc.

Phát biểu tại hội thảo này, ông Huỳnh Phúc Vinh đã chia sẻ nhiều công cụ sử dụng AI hiện đang đóng vai trò quan trọng trong công việc, tăng cường năng lực phòng thủ mạng, nhờ khả năng tự động nhận diện mối đe dọa, phân tích rủi ro và triển khai các biện pháp phòng ngừa kịp thời.

“AI có thể xử lý, khai thác khối lượng dữ liệu lớn để phát hiện các điểm yếu hệ thống và hành vi bất thường, từ đó có thể hỗ trợ các tổ chức triển khai phản ứng an ninh nhanh chóng và hiệu quả”, ông Huỳnh Phúc Vinh nhấn mạnh.

Cũng theo ông Huỳnh Phúc Vinh, trong thời đại số ngày nay, việc chia sẻ thông tin trên mạng là một phần phổ biến, thiết yếu của nhiều doanh nghiệp và tổ chức. Tuy nhiên, kết nối ngày càng tăng này cũng kéo theo nguy cơ tấn công mạng, vi phạm dữ liệu ngày càng cao.

Ông Huỳnh Phúc Vinh cho rằng: “Chúng ta có thể sử dụng các thuật toán học máy để phân tích lưu lượng mạng, xác định các mẫu có thể chỉ ra một cuộc tấn công mạng. Ngoài ra còn có thể sử dụng AI để giám sát quyền truy cập vào tài nguyên mạng, hay là kết hợp cả mạng nơ-ron nhân tạo và các hệ thống AI có thể xác định và phân loại các loại tấn công mạng khác nhau với độ chính xác cao”.

Song song đó, theo ông Vinh, AI còn có thể được sử dụng để giám sát hành vi của người dùng và hệ thống theo thời gian thực.

Các đại biểu tham dự hội thảo tại Trường Đại học Hùng Vương Thành phố Hồ Chí Minh vào ngày 30/7. Ảnh: DHV.

Vị chuyên gia trong lĩnh vực công nghệ thông tin cũng chỉ ra nhược điểm của AI trong an ninh mạng, đó là mối lo ngại về quyền riêng tư dữ liệu (AI thường yêu cầu một lượng lớn dữ liệu, có thể gây ra rủi ro về quyền riêng tư), độ tin cậy và chính xác (AI có thể xử lý một lượng lớn dữ liệu, nhưng chúng không hoàn hảo. Kết quả dương tính và âm tính giả vẫn có thể xảy ra, dẫn đến lãng phí công sức và thời gian hay bỏ sót các mối đe dọa).

Mặt khác, theo ông Huỳnh Phúc Vinh thì AI cũng có thể có nhược điểm trong rủi ro bảo mật mô hình, rủi ro tiến hóa liên tục,

Cuối cùng, ông Huỳnh Phúc Vinh đề xuất: “Chúng ta cần hiểu biết sâu sắc hơn AI đối với các loại hình, tổ chức riêng biệt, chẳng hạn như các tổ chức trong lĩnh vực tài chính, sản xuất, y tế, giáo dục, cơ sở hạ tầng quan trọng và chính phủ; hỗ trợ việc sử dụng tối ưu AI để tăng cường an ninh mạng. Nó sẽ tạo điều kiện thuận lợi cho việc phát triển các biện pháp giảm thiểu các cuộc tấn công độc hại tiềm ẩn, khi các công cụ AI được sử dụng với mục đích gây hại, cụ thể là nhắm vào một số tổ chức nhất định”.

Ứng dụng AI trong lĩnh vực chăm sóc sức khỏe

Phát biểu tại hội thảo, Thạc sĩ Sử Nhật Hạ - Khoa Công nghệ thông tin, Trường Đại học Nguyễn Tất Thành đã nói về những ứng dụng của AI trong chăm sóc sức khỏe.

Trong lĩnh vực chăm sóc sức khỏe, AI đang nổi lên như một yếu tổ chủ chốt trong tiến trình hiện đại hóa các hệ thống chăm sóc sức khỏe thông minh, bằng cách nâng cao độ chính xác trong chẩn đoán, thúc đẩy điều trị cá thể hóa, và tối ưu hóa vận hành hệ thống.

Ban tổ chức hội thảo tặng hoa cho các diễn giả tham dự, phát biểu tại hội thảo. Ảnh: DHV.

Theo Thạc sĩ Sử Nhật Hạ, ngoài các ứng dụng lâm sàng, AI cũng đóng góp quan trọng trong sinh học phân tử, y học tâm thần và quản trị hệ thống chăm sóc sức khỏe. Trong y học tâm thần, các phương pháp phân tích đa phương thức hỗ trợ AI đang làm sáng tỏ những cơ chế liên quan đến bệnh lý như tâm thần phân liệt hay trầm cảm sau sinh.

Một trong những ứng dụng thực tiễn của AI là hỗ trợ bệnh nhân duy trì thói quen dùng thuốc đúng giờ, thông qua các chatbot thông minh như ChatGPT. Các trợ lý ảo này không chỉ đóng vai trò nhắc nhở theo thời gian thực, mà còn cung cấp thông tin về các tác dụng phụ tiềm ẩn và tương tác thuốc, giúp người dùng nâng cao nhận thức và tuân thủ điều trị.

Bên cạnh đó, khả năng tạo nội dung nhanh chóng của AI cũng hỗ trợ các chuyên gia y tế trong việc tư vấn, giáo dục bệnh nhân và xây dựng kế hoạch chăm sóc phù hợp.

Việt Dũng