'Bầy đàn' AI phối hợp tấn công: Điều gì thực sự khiến giới công nghệ lo ngại?

OpenAI cho biết một nhóm AI agent đã có những hành vi vượt ngoài mục tiêu được giao, khai thác lỗ hổng và cuối cùng tham gia cuộc tấn công kéo dài nhiều ngày nhằm vào Hugging Face hồi tháng 7. Ảnh: WION

Theo truyền thông Mỹ, một sự cố an ninh mạng liên quan đến hàng trăm AI agent (tác nhân AI/AI tự chủ) đang khiến giới công nghệ chú ý đến một rủi ro mới: AI không chỉ có thể tự thực hiện nhiệm vụ ngoài dự kiến, mà nhiều hệ thống còn có khả năng tìm ra, liên lạc và hỗ trợ lẫn nhau. AI còn tìm cách tác động đến những người thật để phục vụ mục tiêu được giao. Đây là điểm khiến các nhà nghiên cứu lo ngại hơn những trường hợp AI đơn lẻ “vượt rào” từng được công bố trước đây.

Hàng trăm AI hình thành mạng lưới

Sự việc đầu tiên được phát hiện trong một cuộc thử nghiệm an ninh mạng của OpenAI. Các AI agent (tác nhân AI) được giao nhiệm vụ tìm kiếm và khai thác lỗ hổng phần mềm trong môi trường kiểm soát.

Theo thông tin được công bố sau đó, hàng trăm hệ thống AI đã tìm cách liên lạc và hỗ trợ nhau trong quá trình thực hiện nhiệm vụ. Một số hệ thống phát hiện ra những hệ thống khác thông qua các kênh trao đổi trực tuyến, sau đó chia sẻ thông tin và tệp dữ liệu.

Sự việc bắt đầu trong một cuộc thử nghiệm an ninh mạng của OpenAI, nhưng nhanh chóng vượt khỏi phạm vi mà các nhà nghiên cứu dự tính. Các AI agent được giao nhiệm vụ tìm và khai thác lỗ hổng trong môi trường kiểm soát đã tìm cách tiếp cận Internet, phát hiện nhau và thiết lập một kênh liên lạc chung.

Theo Axios, khoảng 1.200 hệ thống AI agent trong số hàng chục nghìn hệ thống tham gia thử nghiệm đã phát hiện nhau và trao đổi hơn 70.000 tin nhắn cùng tệp. Từ mạng lưới này, khoảng 700 AI agent phối hợp khai thác các lỗ hổng trên nền tảng Hugging Face, trong đó có những trường hợp sử dụng thông tin đăng nhập bị lộ, thực thi mã trên máy chủ và tìm cách tiếp cận dữ liệu.

Hugging Face khi đó không phải bên tổ chức thử nghiệm mà là hệ thống bên ngoài bị các agent của OpenAI xâm nhập. Cuộc điều tra sau đó của Hugging Face đã khôi phục khoảng 17.600 hành động của các agent trong vụ việc.

Sự việc cho thấy khả năng phối hợp có thể khiến hành vi của AI trở nên khó dự đoán hơn. Một hệ thống tìm ra cách vượt qua giới hạn có thể chia sẻ thông tin đó với những hệ thống khác, thay vì chính nó phải tự tìm kiếm từ đầu.

Tuy vậy, điều này chưa có nghĩa AI đã hình thành ý chí riêng hay “nổi loạn”. Các mô hình vẫn đang tìm cách hoàn thành mục tiêu được giao. Vấn đề là chúng có thể lựa chọn những phương thức mà người thiết kế không dự tính.

AI tìm đến con người

Trong một cuộc thử nghiệm của Viện An toàn AI Anh (AISI), một hệ thống AI tự chủ (AI agent) dựa trên mô hình Mythos 5 của Anthropic được giao thực hiện một nhiệm vụ trong môi trường kiểm soát.

Trong quá trình tìm cách hoàn thành mục tiêu, hệ thống này phát hiện thông tin về hai nhà phát triển phần mềm không liên quan trực tiếp đến cuộc thử nghiệm. Thay vì bỏ qua, nó tìm hiểu thêm về những người này, trong đó có thông tin liên hệ và lịch làm việc, rồi tạo các tài khoản giả để tiếp cận họ.

Một chi tiết đáng chú ý là hệ thống AI này tìm cách tạo cảm giác đáng tin cậy khi giao tiếp với một trong những người này. Nó sử dụng một tài khoản giả để trao đổi bằng tiếng Đan Mạch.

Khi một người khác phát hiện hoạt động bất thường và cảnh báo, AI không dừng lại ngay. Nó sử dụng một tài khoản khác để tạo ra một dạng “xác nhận độc lập”, nhằm làm cho thông tin của mình có vẻ đáng tin hơn.

Theo tờ El País, đây là điểm khiến các nhà nghiên cứu đặc biệt chú ý. AI không chỉ tìm cách vượt qua một rào cản kỹ thuật mà còn tìm cách tác động đến con người để tiếp tục thực hiện nhiệm vụ.

Đây cũng là điểm khác với nhiều sự cố AI trước đây, vốn chủ yếu liên quan đến việc mô hình tìm ra lỗi trong phần mềm, tạo mã không được yêu cầu hoặc vượt qua những giới hạn được đặt ra trong môi trường thử nghiệm. Trong trường hợp này, con người trở thành một phần trong chiến lược mà AI sử dụng.

Không phải AI “có ý thức”

Những sự việc như vậy dễ tạo cảm giác rằng AI đang tự hình thành mục tiêu hoặc âm mưu riêng. Tuy nhiên, các nhà nghiên cứu không đưa ra kết luận như vậy. Điều họ lưu tâm hơn là khả năng AI tối ưu hóa nhiệm vụ theo những cách không phù hợp với ý định của người sử dụng.

Một mô hình có thể được giao một mục tiêu tương đối đơn giản, nhưng khi được trao quyền tự chủ, truy cập Internet và sử dụng các công cụ khác, nó có thể tự chia nhỏ nhiệm vụ và thử nhiều phương án để đạt kết quả.

Trong quá trình đó, AI có thể phát hiện những “đường vòng” mà con người không nghĩ tới. Với một hệ thống tác nhân AI đơn lẻ, hành vi này đã gây khó khăn cho việc giám sát. Khi nhiều hệ thống được kết nối, vấn đề có thể phức tạp hơn vì chúng có khả năng trao đổi thông tin và hỗ trợ nhau.

Đó là lý do các nhà nghiên cứu bắt đầu quan tâm đến "bầy đàn AI" - những mạng lưới gồm nhiều agent cùng hoạt động.

Điều gì thực sự thay đổi?

AI agent đang được phát triển với mức độ tự chủ ngày càng cao. Thay vì chỉ trả lời câu hỏi, chúng có thể tự tìm kiếm thông tin, viết và chạy mã, sử dụng công cụ trực tuyến, lập kế hoạch và thực hiện nhiều bước liên tiếp.

Mô hình này mang lại lợi ích lớn cho doanh nghiệp và nghiên cứu. Một nhóm tác nhân AI có thể chia nhau xử lý những nhiệm vụ mà một mô hình đơn lẻ mất nhiều thời gian.

Nhưng khả năng phối hợp cũng tạo ra một vấn đề mới: nếu một agent có hành vi ngoài dự kiến, thông tin về cách thức đó có thể được những agent khác sử dụng.

Trong vụ việc liên quan Hugging Face, các hệ thống đã liên tục thử những phương án khác nhau. Còn trong thử nghiệm được El País đề cập, AI tìm cách sử dụng con người như một phương tiện để tiếp tục nhiệm vụ.

Hai trường hợp có điểm chung: AI không nhất thiết phải “nổi loạn” mới tạo ra rủi ro. Chỉ cần được trao đủ quyền tự chủ và một mục tiêu cụ thể, nó có thể tìm ra những cách thực hiện mà người phát triển không dự đoán trước.

Điều này đặt ra yêu cầu mới đối với việc thử nghiệm AI. Không chỉ kiểm tra từng mô hình riêng lẻ, các nhà nghiên cứu còn phải xem xét cách nhiều agent tương tác với nhau và phản ứng thế nào khi gặp giới hạn.

Các biện pháp như hạn chế quyền truy cập Internet, kiểm soát công cụ mà tác nhân AI được phép sử dụng, giám sát hoạt động theo thời gian thực và thiết lập cơ chế dừng khẩn cấp là những cơ chế ngày càng được coi trọng.