Scout AI tạo các tác tử AI có khả năng tự tìm và phá hủy mọi thứ

Giống nhiều công ty ở Thung lũng Silicon, Scout AI đang huấn luyện các mô hình và tác tử AI (trí tuệ nhân tạo) để tự động hóa công việc. Điểm khác biệt lớn là thay vì viết mã, trả lời email hay mua sắm trực tuyến, các tác tử AI của Scout AI được thiết kế để tìm kiếm và phá hủy mục tiêu trong thế giới vật lý bằng drone (máy bay không người lái) mang chất nổ.

Trong một buổi trình diễn gần đây, diễn ra tại một căn cứ quân sự không được tiết lộ ở miền trung bang California (Mỹ), công nghệ của Scout AI đã được giao quyền điều khiển một xe địa hình tự lái và hai drone sát thương. Các tác tử AI đã sử dụng những hệ thống này để tìm chiếc xe bán tải đang ẩn nấp trong khu vực, sau đó phá hủy nó bằng một khối thuốc nổ.

“Chúng ta cần đưa AI thế hệ tiếp theo vào quân đội. Chúng tôi lấy một mô hình nền tảng từ các nhà cung cấp dịch vụ điện toán đám mây quy mô lớn (hyperscaler) và huấn luyện nó để chuyển chatbot hoặc tác tử AI đa năng thành chiến binh”, Colby Adcock, Giám đốc điều hành Scout AI, nói trong một cuộc phỏng vấn gần đây.

Brett Adcock, anh trai của Colby Adcock, là giám đốc điều hành Figure AI - công ty khởi nghiệp phát triển robot hình người.

Các tác tử AI của Scout AI được thiết kế để tìm kiếm và phá hủy mục tiêu trong thế giới vật lý bằng drone mang chất nổ - Ảnh: Internet

Chìa khóa cho sự thống trị quân sự trong tương lai

Scout AI là một phần của thế hệ công ty khởi nghiệp mới đang chạy đua để ứng dụng công nghệ từ các phòng thí nghiệm AI lớn vào chiến trường. Nhiều nhà hoạch định chính sách tin rằng việc khai thác AI sẽ là chìa khóa cho sự thống trị quân sự trong tương lai. Tiềm năng chiến đấu của AI cũng là lý do khiến chính phủ Mỹ tìm cách hạn chế việc bán chip AI tiên tiến và thiết bị sản xuất chip cho Trung Quốc, dù chính quyền Trump gần đây đã nới lỏng một số hạn chế.

“Việc các công ty khởi nghiệp công nghệ quốc phòng tiên phong trong việc tích hợp AI là điều tốt. Đó chính xác là những gì họ cần làm nếu Mỹ muốn dẫn đầu trong việc ứng dụng AI vào quân sự”, theo Michael Horowitz, giáo sư tại Đại học Pennsylvania từng phục vụ tại Lầu Năm Góc với vai trò phó trợ lý bộ trưởng quốc phòng phụ trách phát triển lực lượng và năng lực mới nổi.

Tuy nhiên, Michael Horowitz cũng lưu ý rằng việc tận dụng những tiến bộ AI mới nhất có thể gặp nhiều khó khăn trong thực tế.

Các mô hình ngôn ngữ lớn vốn khó dự đoán, và tác tử AI, chẳng hạn OpenClaw, có thể hoạt động sai lệch ngay cả khi được giao những nhiệm vụ tương đối đơn giản như đặt hàng trực tuyến. Michael Horowitz cho biết việc chứng minh rằng những hệ thống AI này đủ vững chắc về mặt an ninh mạng có thể đặc biệt khó khăn - điều vốn là yêu cầu bắt buộc để sử dụng rộng rãi trong quân đội.

Buổi trình diễn gần đây của Scout AI gồm nhiều bước mà trong đó AI có toàn quyền kiểm soát các hệ thống chiến đấu.

Ngay khi bắt đầu nhiệm vụ, lệnh dưới đây đã được đưa vào hệ thống của Scout AI có tên Fury Orchestrator:

Một mô hình AI tương đối lớn với hơn 100 tỉ tham số, có thể chạy trên nền tảng đám mây an toàn hoặc máy tính không kết nối mạng, sẽ diễn giải lệnh ban đầu.

Scout AI sử dụng một mô hình AI mã nguồn mở không được tiết lộ với các hạn chế đã được loại bỏ. Mô hình này sau đó hoạt động như một tác tử AI, gửi lệnh đến các mô hình nhỏ hơn với 10 tỉ tham số chạy trên xe mặt đất và các drone trong bài thử nghiệm.

Các mô hình AI nhỏ hơn này cũng hoạt động như tác tử, tiếp tục gửi lệnh tới những hệ thống AI cấp thấp hơn điều khiển chuyển động của phương tiện.

Chỉ vài giây sau khi nhận lệnh, chiếc xe mặt đất lao đi trên con đường đất uốn lượn giữa bụi rậm và cây cối. Vài phút sau, chiếc xe dừng lại và triển khai hai drone, bay vào khu vực có mục tiêu.

Sau khi phát hiện chiếc xe bán tải, tác tử AI trên một trong hai drone đã ra lệnh bay thẳng tới mục tiêu và kích hoạt khối thuốc nổ ngay trước khi va chạm.

Tác tử AI trên một trong hai drone bay thẳng tới xe bán tải và kích hoạt khối thuốc nổ ngay trước khi va chạm - Ảnh: Scout AI

Mức độ tự chủ cao hơn

Quân đội Mỹ và nhiều nước khác sở hữu hệ thống có khả năng tự động sử dụng vũ lực sát thương trong những giới hạn nhất định. Tuy nhiên, các nhà phê bình cho rằng AI có sẵn trên thị trường có thể cho phép triển khai quyền tự chủ rộng rãi hơn và với ít biện pháp bảo vệ hơn.

Một số chuyên gia cảnh báo rằng việc sử dụng AI để điều khiển hệ thống vũ khí sẽ tạo ra sự phức tạp và rủi ro đạo đức mới. Chẳng hạn, nếu giao cho AI quyền quyết định mục tiêu tấn công, công nghệ này có thể nhầm lẫn giữa binh sĩ và dân thường, dẫn đến hậu quả nguy hiểm và gây tranh cãi về đạo đức.

Cuộc chiến tại Ukraine đã cho thấy phần cứng thương mại giá rẻ như drone dân dụng có thể dễ dàng được điều chỉnh cho mục đích chiến đấu gây chết người. Một số hệ thống này đã có mức độ tự chủ cao, dù con người vẫn thường đưa ra các quyết định quan trọng để đảm bảo độ tin cậy.

Collin Otis, đồng sáng lập và giám đốc công nghệ Scout AI, cho biết công nghệ của công ty được thiết kế để tuân thủ quy tắc giao chiến của quân đội Mỹ cũng như các chuẩn mực quốc tế như Công ước Geneva. Colby Adcock cho biết Scout AI đã có bốn hợp đồng với Bộ Quốc phòng Mỹ và đang cạnh tranh để giành được một hợp đồng mới nhằm phát triển một hệ thống điều khiển đàn drone.

Ông nói thêm rằng công nghệ này sẽ cần ít nhất 1 năm hoặc lâu hơn trước khi sẵn sàng triển khai.

Colby Adcock cho rằng mức độ tự chủ cao hơn chính là yếu tố khiến hệ thống của Scout AI trở nên rất hứa hẹn.

“Đây là điểm khác biệt giữa chúng tôi với các hệ thống tự động truyền thống. Những hệ thống cũ không thể lập kế hoạch lại tại hiện trường dựa trên thông tin quan sát được và ý định của chỉ huy, mà chỉ thực hiện hành động một cách máy móc”, ông nói. Tuy nhiên, khái niệm về một hệ thống AI có thể tự do diễn giải mệnh lệnh cũng làm dấy lên lo ngại về các kết quả ngoài ý muốn.

Giống tác tử AI thông thường, thách thức thực sự sẽ là biến những màn trình diễn ấn tượng thành hệ thống đáng tin cậy. “Chúng ta không nên nhầm lẫn giữa các bản trình diễn và năng lực triển khai thực tế với độ tin cậy cùng an ninh mạng cấp quân sự”, Michael Horowitz nói.

Sơn Vân