Để AI không vượt 'lằn ranh đỏ' chiến tranh

Khi AI can thiệp vào mạng lưới chỉ huy hoặc tự triển khai tấn công mạng, điều nguy hiểm là đối phương không biết ai thực sự đứng sau hành động ấy.

Theo Reuters ngày 17/9, các chuyên gia Mỹ và Trung Quốc cảnh báo Washington hoặc Bắc Kinh có thể chỉ còn vài phút để xác định một hoạt động như vậy có phải cuộc tấn công được chính phủ đối phương ra lệnh hay không. Khoảng thời gian ấy quá ngắn để sửa một kết luận sai.

Cũng trong ngày 17/9, Reuters ghi nhận mối quan ngại về AI quân sự được đề cập tại Diễn đàn Hương Sơn Bắc Kinh, với hơn 2.000 đại biểu từ 100 quốc gia tham dự. Những tiếng nói từ Thái Lan và Pakistan cho thấy nhu cầu kiểm soát công nghệ này đã vượt khỏi phạm vi cạnh tranh Mỹ, Trung.

Vụ việc tại Hugging Face cho thấy các tác nhân AI đã có khả năng phối hợp thực hiện một chuỗi hoạt động mạng với mức độ giám sát trực tiếp của con người rất thấp.. Ảnh: techcrunch

Con người phải nắm quyền quyết định

Nghiên cứu viên cao cấp tại Viện Brookings, Melanie Sisson và Phó giáo sư Đại học Fudan Tianjiao Jiang đều đồng tình với quan điểm cho rằng những quyết định có thể đẩy nhân loại tới thảm họa hạt nhân phải nằm trong tay con người. Theo Reuters, hai chuyên gia nhấn mạnh không được trao cho AI quyền tự khởi xướng các cuộc tấn công mạng nhằm vào hệ thống chỉ huy hạt nhân hoặc hạ tầng chiến lược trọng yếu của quốc gia khác.

Đây là bước mở rộng cần thiết của tư duy kiểm soát vũ khí. Tuy nhiên, chỉ ngăn máy móc ra lệnh phóng tên lửa có thể chưa giải quyết hết nguy cơ. Theo đó, nếu hệ thống cảnh báo bị đánh lừa hoặc liên lạc bị gián đoạn, người ra quyết định vẫn có thể hành động trên một bức tranh sai lệch.

Trước đó, hồi tháng 11-2024, cựu Tổng thống Mỹ Joe Biden và Chủ tịch Trung Quốc Tập Cận Bình đã tán thành nguyên tắc con người kiểm soát quyết định sử dụng vũ khí hạt nhân. Tuy nhiên, nguyên tắc ấy cần được chuyển thành điều kiện vận hành cụ thể.

Bởi vậy, Phó giáo sư Jiang đề nghị thống nhất định nghĩa “sự kiểm soát có ý nghĩa của con người”. Trong bài bình luận công bố trên Brookings ngày 9-9-2026, ông cảnh báo tốc độ đối đầu mạng tự động có thể vượt giới hạn phản ứng sinh lý của người vận hành.

Từ cảnh báo này, thước đo kiểm soát phải là khả năng hiểu, kiểm tra và bác bỏ đề xuất của máy. Một sĩ quan có quyền phê duyệt nhưng không đủ thời gian đánh giá thông tin vẫn có thể trở thành người hợp thức hóa kết luận sai của thuật toán máy móc. Điều đó không đồng nghĩa mọi ứng dụng AI quân sự đều dẫn tới thảm họa. Vấn đề là mức độ tự chủ được trao cho hệ thống và hậu quả nếu nó sai. Với quyết định có thể kích hoạt chiến tranh hạt nhân, tốc độ xử lý không thể thay thế độ tin cậy.

Việc để AI nắm quyền kiểm soát hoặc tấn công các hệ thống điều khiển tên lửa có thể gây ra thảm hoạ với loài người. Ảnh: Reuters

Thêm thời gian cho quyết định hòa bình

Hồi tháng 2 năm nay, Hội nghị thượng đỉnh về AI quân sự có trách nhiệm tại A Coruña, Tây Ban Nha, kêu gọi duy trì quyền chỉ huy của con người, kiểm định hệ thống và đào tạo người vận hành trước khi triển khai. Theo Reuters, ban đầu 35 trong số 85 nước tham dự ủng hộ văn kiện, sau đó tăng lên 40 nước. Kết quả cho thấy nhiều quốc gia đã nhận rõ rủi ro, song chưa thống nhất cách kiểm soát AI trong quân sự.

Trao đổi với Reuters, Bộ trưởng Quốc phòng Hà Lan Ruben Brekelmans nhận định sự phát triển nhanh chóng của AI vừa tạo sức ép nâng cao năng lực công nghệ, vừa làm tăng nhu cầu sử dụng công nghệ có trách nhiệm.

Nhận định của Bộ trưởng Quốc phòng Hà Lan cho thấy bảo đảm an toàn không đồng nghĩa ngừng phát triển AI. Cốt lõi là phải xác định những giới hạn mà máy móc không được vượt qua. AI có thể phát hiện nguy cơ, xử lý dữ liệu hoặc đề xuất phương án nhưng không được tự quyết định tấn công hệ thống hạt nhân, hạ tầng thiết yếu hay bất kỳ mục tiêu nào có thể đẩy hàng triệu người vào thảm họa.

Đề xuất lập đường dây nóng về AI của Phó giáo sư Đại học Fudan, Tianjiao Jiang cũng nhằm ngăn một sự cố kỹ thuật biến thành xung đột. Khi phát hiện hoạt động bất thường, các bên có thể nhanh chóng thông báo đó là lỗi hệ thống, hành động chưa được cho phép hay sự việc đang được điều tra. Khoảng thời gian dành cho xác minh có thể quyết định một cuộc khủng hoảng được kiểm soát hay tiếp tục leo thang.

Tuy nhiên, một đường dây liên lạc chỉ phát huy tác dụng nếu đi kèm quy trình phản ứng rõ ràng. Chuyên gia tại Trường Nghiên cứu Quốc tế Cao cấp Johns Hopkins, ông Carla Freeman, lưu ý với Reuters rằng quá trình tham vấn và thống nhất phản hồi trong khủng hoảng có thể kéo dài. Trong khi đó, các hệ thống tự động có khả năng phản ứng chỉ trong vài giây, thậm chí nhanh hơn.

Khoảng cách ấy đặt ra yêu cầu phải diễn tập từ trước, xác định người có thẩm quyền trả lời và xây dựng cơ chế buộc hệ thống dừng hoạt động khi xuất hiện dấu hiệu bất thường. Con người chỉ thực sự nắm quyền kiểm soát khi có đủ thông tin, thời gian và khả năng bác bỏ đề xuất của máy móc.

Các quốc gia có thể khác nhau về chính sách và lợi ích an ninh tuy nhiên đều có lý do để ngăn AI tự đưa ra quyết định liên quan đến sự tồn vong của con người. Lý do nằm ở thuật toán không hiểu giá trị của hòa bình và cũng không thể chịu trách nhiệm trước hậu quả. Quyền quyết định cuối cùng đối với chiến tranh, vũ khí hạt nhân và những hành động có nguy cơ gây thảm họa phải luôn nằm trong tay con người.

Tổng hợp