Vũ khí hóa AI trong quân đội Mỹ

Trong 24 giờ đầu tiên của cuộc tấn công vào Iran, quân đội Mỹ đã tấn công hơn 1.000 mục tiêu, gần gấp đôi quy mô của cuộc tấn công vào Iraq hơn hai thập kỷ trước. Sự tăng tốc này có được nhờ các hệ thống AI giúp đẩy nhanh quá trình nhắm mục tiêu. Quan trọng nhất trong số đó là hệ thống thông minh Maven.

Trong cuốn sách mới Project Maven, nhà báo Katrina Manson đã điều tra sự phát triển của Maven và cách nó được âm thầm triển khai trong lực lượng quân sự Mỹ và NATO. Hệ thống này bắt đầu được thử nghiệm từ năm 2017 để áp dụng công nghệ thị giác máy tính vào máy bay không người lái.

Quá trình phát triển AI Maven đầy tranh cãi

Dự án này đã làm dấy lên sự phản đối từ các nhân viên tại Google khi họ lo ngại việc sử dụng AI trong máy bay không người lái sẽ đe dọa quyền riêng tư của con người, kèm theo khả năng sử dụng chúng như những vũ khí sát thương có độ chính xác cao. Google, nhà thầu ban đầu của quân đội Mỹ, sau đó từ chối tiếp tục dự án vào năm 2018.

Tuy nhiên, dự án này không dừng lại do được sự thúc đẩy của sĩ quan tình báo thủy quân lục chiến Drew Cukor. Ông là người đứng đầu và kiên trì với dự án sau những thất bại của quân đội Mỹ tại Afghanistan. Theo ông, các binh sĩ Mỹ ở Afghanistan được trang bị các công cụ tình báo rất kém. Ông thất vọng vì mọi dữ liệu chỉ nằm trên giấy và không được chuyển đến các binh sĩ tiền tuyến.

Sau khi Google rút lui, Cukor tiếp tục tìm kiếm các nhà thầu khác. Hệ thống này sau đó được Palantir đỡ đầu, dựa trên các công nghệ của Microsoft, Amazon, Anthropic và những công ty khác.

Ban đầu, dự án nhắm tới áp dụng công nghệ AI vào ảnh vệ tinh, nhưng sau đó được điều chỉnh lại để tích hợp vào máy bay không người lái. Sự thay đổi này là do lực lượng Mỹ dự đoán rằng chiến tranh sẽ diễn biến ngày càng nhanh và nhanh hơn khả năng tư duy của con người. Vì vậy, họ muốn triển khai AI để ra quyết định kịp thời.

Ảnh: The Verge.

Cukor đề xuất ý tưởng ban đầu là áp dụng AI vào phân tích video từ máy bay không người lái vì con người đôi lúc chỉ phân tích được khoảng 4% dữ liệu. Do đó, họ muốn AI thay thế con người trong việc phân tích dữ liệu sẵn có và ở khối lượng lớn hơn nhiều.

Maven hiện được phát triển thành công nghệ tổng hợp hình ảnh từ vệ tinh, radar, mạng xã hội và hàng chục nguồn dữ liệu khác để giúp các loại thiết bị xác định và nhắm mục tiêu chính xác. Trong lĩnh vực quân sự, hệ thống này giúp tăng tốc quá trình được gọi là “chuỗi tiêu diệt”.

Cụ thể, Maven kết hợp thị giác máy tính với một hệ thống quản lý quy trình làm việc giúp tìm kiếm mục tiêu, ghép chúng với loại vũ khí phù hợp và cho phép người dùng nhanh chóng thực hiện các bước khác để thiết lập quy trình tấn công mục tiêu. Một quy trình từng mất hàng giờ giờ đây có thể hoàn thành trong vài giây.

Vũ khí hóa AI và trách nhiệm của con người

Một quan chức nói với Manson rằng công nghệ này tạo thuận lợi cho lực lượng Mỹ tăng số mục tiêu bị tấn công từ dưới 100 mục tiêu mỗi ngày lên 1.000. Chưa kể, với việc áp dụng các mô hình dữ liệu lớn (LLM), con số lên đến 5.000 mục tiêu mỗi ngày.

Maven đang được sử dụng rộng rãi trong lực lượng vũ trang Mỹ và gần đây được NATO mua lại.

Một trong số 1.000 mục tiêu bị tấn công trong ngày đầu tiên tại Iran là một trường nữ sinh, khiến hơn 150 người thiệt mạng, chủ yếu là trẻ em. Trong khi vụ tấn công này gây nhiều tranh cãi về sai lầm của mô hình AI Claude, nhà sử học công nghệ Kevin Baker đã viết trên tờ The Guardian rằng Maven và những tính năng nó mang lại mới là điểm đáng chú ý hơn.

Theo ông, chatbot không phải kẻ giết người. Những người có trách nhiệm không cập nhật cơ sở dữ liệu đầy đủ, trong khi một số người khác thì lại quá nhanh khi xây dựng được một hệ thống biến sự thất bại đó thành đòn sát thương chết người.

Sự phát triển của các công nghệ phục vụ chiến tranh dự kiến còn tăng tốc hơn nữa. Manson phát hiện ra các chương trình quân sự nhằm tự động hóa vũ khí hoàn toàn, bao gồm việc phát triển một chiếc máy bay không người lái gắn kèm mô tô nước có khả năng nhắm mục tiêu và phá hủy mục tiêu một cách độc lập.

Những dự án này đang làm dấy lên nhiều tranh cãi trong quân đội Mỹ về việc họ nên đẩy mạnh ứng dụng AI đến mức nào. Trong khi Bộ Tư lệnh Trung ương Mỹ nói rằng họ đang sử dụng AI và thấy nó hữu ích, thì những tiếng nói khác, ví dụ như Bộ trưởng Quốc phòng Mỹ đã nghỉ hưu Jim Mattis, cho rằng việc tăng khả năng tấn công và nhắm vào nhiều mục tiêu không thể thay thế cho việc xây dựng một chiến lược tốt.

Dù cuộc tranh luận này có kết quả ra sao thì rõ ràng rằng thế giới không thể quay lại những ngày tháng chiến tranh không có AI như trước đây. Điều cần làm là duy trì và thậm chí nâng cao vai trò kiểm tra và giám sát của con người để có thể cứu sống nhiều sinh mạng.