AI tạo ra vấn đề an ninh mà phần lớn doanh nghiệp không thể xử lý
Các doanh nghiệp có thể đã xây dựng đội ngũ an ninh mạng, nhưng nhiều nơi vẫn chưa sẵn sàng đối phó với cách hệ thống AI thực sự gặp sự cố.
Sander Schulhoff, chuyên gia an ninh mạng AI (trí tuệ nhân tạo), cho biết trong một tập của Lenny’s Podcast rằng nhiều tổ chức thiếu nhân sự có đủ năng lực để hiểu và khắc phục các rủi ro an ninh liên quan đến AI.
Sander Schulhoff là người viết một trong những cẩm nang đầu tiên về prompt engineering và tập trung nghiên cứu các lỗ hổng của hệ thống AI.
Prompt engineering là việc thiết kế, điều chỉnh và tối ưu câu lệnh đầu vào (prompt) để hệ thống AI, đặc biệt là các mô hình ngôn ngữ lớn, tạo ra kết quả đúng mục tiêu, chính xác và an toàn hơn. Nói đơn giản, đây là kỹ năng “trò chuyện với AI” theo cách mà AI hiểu và làm đúng điều bạn muốn. Khác với phần mềm truyền thống vốn tuân theo các quy tắc cố định, AI phản hồi dựa trên xác suất ngôn ngữ. Vì vậy, cùng một yêu cầu, cách diễn đạt khác nhau có thể dẫn tới kết quả rất khác nhau.
Prompt engineering tận dụng đặc điểm này để giảm câu trả lời sai hoặc lan man, hạn chế AI suy diễn ngoài ý muốn, dẫn dắt AI làm việc theo từng bước logic, kiểm soát giọng điệu, định dạng và phạm vi nội dung.
Các đội an ninh mạng truyền thống được đào tạo để vá lỗi và xử lý những lỗ hổng đã biết, nhưng AI không vận hành theo cách đó.
“Bạn có thể vá một lỗi phần mềm, nhưng không thể vá một bộ não”, Sander Schulhoff cho hay, mô tả sự lệch pha giữa cách các đội an ninh tư duy và cách các mô hình ngôn ngữ lớn gặp sự cố.
“Có một khoảng cách rất lớn giữa cách AI hoạt động so với an ninh mạng cổ điển”, ông nói thêm.
Khoảng cách này thể hiện rõ trong các triển khai ngoài thực tế. Theo Sander Schulhoff, các chuyên gia an ninh mạng có thể rà soát một hệ thống AI để tìm lỗi kỹ thuật, nhưng lại không đặt câu hỏi: “Điều gì sẽ xảy ra nếu ai đó lừa được AI làm những việc mà nó không nên làm?”.
Sander Schulhoff cho rằng AI đang tạo ra vấn đề an ninh mà phần lớn các doanh nghiệp không đủ nhân lực để xử lý - Ảnh: Internet
Sander Schulhoff hiện điều hành Learn Prompting (nền tảng prompt engineering) và HackAPrompt (chuyên tổ chức AI red-teaming hackathon).
AI red-teaming hackathon là cuộc thi công nghệ tập trung vào việc tấn công thử nghiệm các hệ AI để tìm ra lỗ hổng bảo mật, lỗi logic hoặc các hành vi không mong muốn trước khi chúng bị kẻ xấu khai thác.
Trong an ninh mạng, red-teaming (đội đỏ) đóng vai kẻ tấn công, chủ động tìm điểm yếu của hệ thống thay vì bảo vệ nó.
Hackathon là sự kiện diễn ra trong thời gian ngắn (vài giờ đến vài ngày), nơi nhiều nhóm cùng thử nghiệm, cạnh tranh và chia sẻ kết quả.
Khác với phần mềm truyền thống, các hệ thống AI có thể bị thao túng thông qua ngôn ngữ và những chỉ dẫn gián tiếp, Sander Schulhoff cho biết thêm.
Sander Schulhoff nói rằng những người có kinh nghiệm cả về bảo mật AI lẫn an ninh mạng truyền thống sẽ biết cách xử lý khi một mô hình AI bị đánh lừa để tạo ra mã độc. Chẳng hạn, họ sẽ chạy đoạn mã đó trong một môi trường cách ly và bảo đảm đầu ra của AI không ảnh hưởng tới phần còn lại trong hệ thống.
Ông cho biết những công việc an ninh trong tương lai sẽ nằm ở điểm giao thoa giữa bảo mật AI và an ninh mạng truyền thống.
Lenny’s Podcast là podcast nổi tiếng về công nghệ, sản phẩm số và kinh doanh, do Lenny Rachitsky (cựu quản lý sản phẩm tại Airbnb) dẫn dắt.
Podcast này tập trung vào các cuộc trò chuyện chuyên sâu với nhà sáng lập startup, lãnh đạo các hãng công nghệ lớn, chuyên gia về sản phẩm, AI, tăng trưởng và quản trị doanh nghiệp.
Điểm đặc biệt của podcast là cách đặt câu hỏi rất cụ thể và thực tế, giúp người nghe hiểu rõ không chỉ thành công, mà cả những sai lầm và đánh đổi phía sau các sản phẩm và hãng công nghệ.
Sự trỗi dậy của các công ty khởi nghiệp an ninh AI
Sander Schulhoff cũng cho biết nhiều công ty khởi nghiệp về bảo mật AI đang quảng cáo các biện pháp bảo vệ không mang lại sự bảo vệ thực sự. Do các hệ thống AI có thể bị thao túng theo vô số cách, việc tuyên bố rằng các công cụ này có thể đảm bảo phát hiện và ngăn chặn mọi tình huống nguy hiểm là sai lệch.
"Đó là một lời nói dối hoàn toàn", Sander Schulhoff nhấn mạnh. Ông nói thêm rằng sẽ có sự điều chỉnh thị trường trong đó "doanh thu của các công ty cung cấp biện pháp bảo vệ và tấn công giả lập tự động này sẽ cạn kiệt hoàn toàn".
Các công ty khởi nghiệp an ninh AI đang tận dụng làn sóng quan tâm của các nhà đầu tư. Các tập đoàn công nghệ lớn và quỹ đầu tư mạo hiểm đã rót tiền mạnh tay vào lĩnh vực này, khi nhiều doanh nghiệp chạy đua để bảo vệ hệ thống AI của mình.
Tháng 3 vừa qua, Google đã mua lại công ty khởi nghiệp an ninh mạng Wiz với giá 32 tỉ USD nhằm mục đích củng cố hoạt động kinh doanh bảo mật đám mây của mình.
Sundar Pichai, Giám đốc điều hành Google, cho biết AI đang mang lại những rủi ro mới trong bối cảnh các thiết lập đa đám mây và kết hợp giữa đám mây với hạ tầng nội bộ ngày càng phổ biến.
“Trong bối cảnh đó, các tổ chức đang tìm kiếm những giải pháp an ninh mạng giúp cải thiện bảo mật đám mây và hoạt động xuyên suốt nhiều nền tảng đám mây”, ông nói thêm.
Wiz là công ty khởi nghiệp về an ninh mạng đám mây, được thành lập năm 2020 và có trụ sở chính tại thành phố New York (Mỹ). Wiz phát triển nền tảng bảo mật giúp các doanh nghiệp phát hiện và xử lý lỗ hổng, rủi ro và những cấu hình sai trong môi trường đám mây như Amazon Web Services, Microsoft Azure, Google Cloud và Oracle Cloud.
Năm ngoái, trang Insider từng đưa tin về những lo ngại ngày càng tăng về an ninh của các mô hình AI đã góp phần thúc đẩy làn sóng công ty khởi nghiệp chào bán các công cụ giám sát, kiểm thử và bảo vệ hệ thống AI.
