AI - 'Canh bạc' may rủi nếu thiếu các biện pháp an ninh mạng phù hợp

Theo ông Patrice Caine, CEO Tập đoàn Thales, các cuộc tranh luận về tác động của AI đang ngày càng gay gắt, đi kèm với nhiều hoài nghi về công nghệ này. Tuy nhiên, AI là xu hướng công nghệ không thể phủ nhận.

Trong khi một số ý kiến chỉ trích những ông lớn công nghệ về mạng xã hội do AI điều khiển hoặc các công cụ dành cho người tiêu dùng đáng nghi ngờ thì bản thân AI đang trở thành công nghệ không thể thiếu. Hiệu quả của nó là vô song, hứa hẹn những lợi ích mà không doanh nghiệp hay chính phủ nào có thể bỏ qua.

Chẳng bao lâu nữa, AI sẽ trở thành một phần không thể thiếu của cuộc sống, giống như điện – giúp vận hành xe ô tô, định hình các dịch vụ y tế, bảo vệ các ngân hàng và quản lý hệ thống đèn chiếu sáng công cộng. Câu hỏi lớn được đặt ra là chúng ta đã sẵn sàng cho những gì tiếp theo chưa?

Các tranh cãi xung quanh AI chủ yếu tập trung vào các vấn đề đạo đức, sai lệch thông tin và tương lai của công việc. Nhưng một vấn đề quan trọng đang nằm ngoài tầm kiểm soát: an ninh AI. Trong cuộc khảo sát năm 2024 của Gartner đối với các giám đốc cấp cao quản lý rủi ro doanh nghiệp, các cuộc tấn công độc hại được tăng cường bởi AI và thông tin sai lệch do AI hỗ trợ là hai rủi ro hàng đầu được ghi nhận.

Ông Patrice Caine, CEO Tập đoàn Thales.

Chúng ta có nhiều lý do để lo lắng. Các quốc gia ở Châu Á-Thái Bình Dương đang ứng dụng AI theo nhiều cách - Trong khảo sát của Finastra được thực hiện năm 2023, các tổ chức tài chính Việt Nam đang dẫn đầu trong việc áp dụng AI tạo sinh (genAI) trên toàn cầu. 40% số người Việt Nam được hỏi cho biết tổ chức của họ đã triển khai hoặc cải thiện khả năng xử lý ngôn ngữ tự nhiên, bao gồm AI tạo sinh. Tuy nhiên, chúng ta sẽ không thể hướng đến tương lại nếu không phát huy sức mạnh tập thể – chính phủ và khối doanh nghiệp cần phải hợp tác để xây dựng một hệ sinh thái AI an toàn và bền bỉ.

Cùng với xu hướng trao quyền để AI tự hoàn thành nhiệm vụ, nguy cơ tấn công mạng sẽ tăng theo cấp số nhân. Điều đáng lo ngại là một số hệ thống AI được cho là mạnh mẽ nhưng trên thực tế vẫn rất "mong manh dễ vỡ".

Có hai cách chính để tấn công một hệ thống AI. Đầu tiên là xâm nhập hệ thống và đánh cắp mọi dữ liệu từ hồ sơ sức khỏe cá nhân đến các bí mật kinh doanh của doanh nghiệp. Tin tặc có thể lừa các mô hình AI đưa ra thông tin nhạy cảm bằng cách khai thác cơ sở dữ liệu y tế hoặc đánh lừa các chatbot vượt qua hàng rào bảo vệ dữ liệu của chính nó.

Cách thứ hai là phá hoại các mô hình, làm sai lệch kết quả một cách nguy hiểm. Ví dụ, một chiếc ô tô sử dụng công nghệ AI có thể bị lừa để đọc biển báo “Dừng xe” thành biển báo tốc độ “100 km/h”. Đây là những nguy cơ nhãn tiền khi sử dụng AI. Và khi việc ứng dụng AI được mở rộng, rõ ràng nguy cơ tấn công hệ thống sẽ ngày càng tăng.

Tuy nhiên, việc từ bỏ AI để tránh những rủi ro này sẽ là sai lầm lớn. Việc hy sinh khả năng cạnh tranh để đảm bảo an toàn sẽ khiến các tổ chức phụ thuộc vào bên thứ ba, thiếu kinh nghiệm và quyền kiểm soát đối với một công nghệ đang nhanh chóng trở nên thiết yếu.

AI đang phát triển mạnh, được nhiều tổ chức, doanh nghiệp ứng dụng.

Vậy làm thế nào để chúng ta thu được lợi ích của AI mà không phải đánh cược vào canh bạc rủi ro của nó? Dưới đây là ba bước quan trọng:

Chọn AI một cách khôn ngoan. Không phải tất cả các hệ thống AI đều dễ bị tấn công. Ví dụ, các mô hình ngôn ngữ lớn rất dễ bị ảnh hưởng vì chúng dựa vào các bộ dữ liệu và phương pháp thống kê rộng lớn. Nhưng các loại AI khác như mô hình biểu tượng (symbolic) hoặc mô hình lai (hybrid), có phạm vi sử dụng dữ liệu hẹp hơn và hoạt động theo các quy tắc rõ ràng, khiến chúng khó bị xâm nhập hơn.

Các mô hình AI lai (hybrid AI) kết hợp logic biểu tượng (symbolic reasoning) với học máy (machine learning), đưa ra các giải thích dựa trên logic và chính xác. AI lai có thể giúp giảm đáng kể các kết quả dương tính giả trong việc phát hiện gian lận, đồng thời tăng cường tính minh bạch khi ra quyết định. Điều này đặc biệt có giá trị đối với các dịch vụ tài chính và doanh nghiệp FinTech trong khu vực.

Triển khai các biện pháp an ninh được kiểm chứng. Các công cụ như watermark số, mật mã (cryptography) và đào tạo tùy chỉnh có thể củng cố các mô hình AI trước các mối đe dọa tiềm ẩn. Ở Châu Á-Thái Bình Dương, những công cụ này rất cần thiết cho các lĩnh vực như ngân hàng, cơ sở hạ tầng trọng yếu và dịch vụ y tế, nơi quá trình chuyển đổi số đang tăng tốc. Tại Thales, chúng tôi có “Battle Box” cho phép các nhóm an ninh mạng kiểm tra kỹ lưỡng các mô hình AI để tìm và sửa các lỗ hổng trước khi tin tặc có thể khai thác chúng. Những giải pháp kiểm tra này sẽ giúp các doanh nghiệp đánh giá và nâng cao khả năng chịu đựng của hệ thống trong bối cảnh các mối đe dọa an ninh mạng ngày càng gia tăng.

Nâng cấp an ninh mạng của tổ chức. AI không hoạt động biệt lập – nó là một phần của hệ sinh thái thông tin của tổ chức. Các biện pháp an ninh mạng truyền thống phải được tăng cường và điều chỉnh cho phù hợp với kỷ nguyên AI. Điều này bắt đầu bằng việc đào tạo nhân viên - suy cho cùng, lỗi của con người vẫn là gót chân Achilles của bất kỳ hệ thống an ninh mạng nào.

Việc thiếu hụt nhân tài an ninh mạng trên khắp Châu Á-Thái Bình Dương là một thách thức ngày càng lớn. Các doanh nghiệp phải đầu tư vào việc nâng cao kỹ năng của nhân viên nhằm bảo mật hệ thống AI của họ. Ví dụ, Chương trình Phát triển Tài năng An ninh mạng của Singapore đưa ra một mô hình nhằm thu hẹp khoảng cách kỹ năng trong khu vực.

Một số ý kiến cho rằng cuộc chiến về AI chỉ là một phần trong cuộc xung đột đang diễn ra giữa những kẻ xấu và những nạn nhân vô tình. Nhưng lần này, cái giá phải trả sẽ là quá đắt. Nếu các doanh nghiệp và chính phủ ở Châu Á-Thái Bình Dương không ưu tiên bảo mật AI, họ không chỉ có nguy cơ bị xâm nhập dữ liệu mà còn cản trở sự phát triển và đổi mới kinh tế.

Cách tốt nhất để ứng phó là biến an ninh AI thành ưu tiên chiến lược và hợp tác cùng nhau. Có như vậy, chúng ta có thể đảm bảo AI sẽ phát huy hết tiềm năng của nó – thúc đẩy các hình thức tăng trưởng & cải tiến mới mà vẫn đảm bảo an toàn cho xã hội.

Hoàng Phương