AI và những quả bom

Không hề viễn tưởng

Thế giới đang đối mặt với một sự đổi mới dẫn tới những thay đổi to lớn không kém gì quá trình công nghiệp hóa thế kỷ XIX: Trí tuệ nhân tạo (AI). Những tưởng AI chỉ tồn tại trong khoa học viễn tưởng, nhưng không, sức mạnh của nó đang trở nên ngày càng phổ biến. Nếu như cuộc cách mạng công nghiệp đã tạo ra những cỗ máy mạnh hơn con người thì cuộc cách mạng AI đang tạo ra những cỗ máy thông minh hơn con người. GPT-4, phiên bản kế tiếp của ChatGPT, gần đây đã đạt được hiệu suất ở cấp độ con người trong các bài kiểm tra khác nhau như SAT hay GRE. Và AI đang được cải thiện nhanh chóng. Nó đã làm thay đổi nhiều công việc, từ lập trình máy tính đến lập trình dẫn đường máy bay chiến đấu, và nó sẽ tiếp tục biến đổi các nghề nghiệp khác trong tương lai.

Lần đầu tiên một cuộc họp của hội đồng bảo an liên hợp quốc bàn về nguy cơ từ AI

Trong nhiều năm, các nhà nghiên cứu đã cảnh báo rằng các hệ thống AI tổng quát được đào tạo để tạo ra ngôn ngữ gốc, gọi tắt là “mô hình ngôn ngữ”, và có thể được sử dụng để thực hiện các hoạt động gây ảnh hưởng. Và giờ đây, những mô hình này dường như đang trên đà cho phép người dùng tạo ra nguồn văn bản gốc gần như vô hạn, chỉ với rất ít công sức. Điều này có thể góp phần giúp các chủ thể tuyên truyền thuyết phục những cử tri thiếu đề phòng, xâm chiếm môi trường thông tin trực tuyến và cá nhân hóa các email lừa đảo. Nguy cơ nhân đôi khi các mô hình ngôn ngữ không chỉ làm lung lay niềm tin mà còn có thể làm xói mòn sự tin tưởng của công chúng đối với những thông tin mà mọi người vốn dựa vào để đánh giá và ra quyết định.

Khi các công cụ AI lan rộng khắp thế giới, thật khó để tưởng tượng rằng các chủ thể tuyên truyền sẽ không sử dụng chúng để tung tin giả và đánh lạc hướng dư luận. Để chuẩn bị cho tình huống này, chính phủ, doanh nghiệp và các tổ chức xã hội dân sự nên xây dựng bộ tiêu chuẩn và chính sách cho việc sử dụng văn bản do AI tạo ra, cũng như các kỹ thuật để truy ra nguồn gốc của một đoạn văn bản cụ thể và liệu nó có được tạo ra bằng AI hay không. Nỗ lực của cánh nhà báo và nhà nghiên cứu nhằm bóc trần các tài khoản mạng xã hội và trang web đưa tin giả mạo cũng có thể hạn chế phạm vi tiếp cận của các chiến dịch tuyên truyền bí mật, bất kể nội dung do con người hay AI tạo ra.

Có giới hạn

Trong một báo cáo được công bố vào đầu tháng 2/2023, Hiệp hội kiểm soát vũ khí cho biết AI và các công nghệ mới khác, chẳng hạn như tên lửa siêu thanh, có thể “xóa nhòa sự khác biệt giữa một cuộc tấn công thông thường và tấn công hạt nhân”. Báo cáo cũng cho rằng cuộc tranh giành “khai thác các công nghệ mới nổi vào mục đích quân sự đã gia tăng với tốc độ nhanh hơn nhiều so với nỗ lực đánh giá rủi ro mà công nghệ này mang lại, cũng như xây dựng giới hạn cho việc sử dụng AI. Do đó, cần phải làm chậm tốc độ vũ khí hóa các công nghệ AI, cẩn trọng cân nhắc rủi ro và áp dụng hạn chế đối với việc sử dụng AI vào mục đích quân sự".

Các quan chức Mỹ cho biết họ đang nỗ lực làm điều đó, nhưng có lẽ họ đang “trượt dốc”. Tháng 1/2023, Bộ Quốc phòng Mỹ ra chỉ thị về các hệ thống vũ khí liên quan đến việc sử dụng AI, cho rằng ít nhất phải sử dụng một số đánh giá của con người trong việc phát triển và triển khai các hệ thống vũ khí tự hành. Tuy nhiên, cùng thời điểm đó, Lầu Năm Góc đang thử nghiệm sử dụng AI trong việc tích hợp chức năng ra quyết định từ tất cả các quân chủng và bộ chỉ huy chiến đấu.

Một mối lo ngại khác là công nghệ AI tiên tiến có thể cho phép các đối tượng bất hảo, chẳng hạn như khủng bố, đạt được khả năng chế tạo "bom bẩn" hay các thiết bị gây chết người khác. Và AI hiện nay được nhiều bên chia sẻ hơn rất nhiều so với thời Chiến tranh Lạnh, cụ thể là AI có thể được sử dụng để phát hiện các điểm sản xuất vũ khí hạt nhân, làm giảm khả năng giữ bí mật các địa điểm này.

“Quả bom” AI

Một cuộc chạy đua vũ trang AI đang thực sự diễn ra. Trong một bức thư vào cuối tháng 3/2023, hơn 2.000 nhà lãnh đạo và nhà nghiên cứu công nghệ - bao gồm cả Elon Musk và Steve Wozniak - đã kêu gọi các phòng thí nghiệm trên toàn thế giới tạm dừng phát triển các mô hình trí tuệ kỹ thuật số mới nhất vì lo ngại rằng chúng có thể dẫn đến thảm họa cho loài người.

Lời cảnh báo của các chuyên gia về mối đe dọa mang tính hiện sinh đối với xã hội có thể hơi phóng đại. Bức thư sau đó đã bị một số chuyên gia AI chỉ trích là “gieo rắc nỗi sợ hãi” về ảo tưởng rằng những mô hình này có khả năng nhận thức như trong phim khoa học viễn tưởng. Tuy vậy, giới phân tích cho rằng “nó có thể dẫn đến sai lầm của con người do sự phụ thuộc quá mức. Đó là một loại vũ khí dẫn đường chính xác chống lại trí thông minh và lý trí của con người”.

Hơn nữa, viễn cảnh các chính phủ đồng ý cho dừng phát triển AI vì an toàn rất khó xảy ra. Điều này không chỉ bởi các công ty công nghệ lớn nhất thế giới đang tham gia cuộc cạnh tranh khốc liệt, đặc biệt là ở Thung lũng Silicon, mà còn vì công nghệ mới đang được triển khai trong môi trường quốc tế, ở đó Mỹ, Trung Quốc và Nga hiện đang bị lôi kéo vào một cuộc đấu tranh khốc liệt tranh giành vai trò thống trị.

Để trở thành cường quốc AI hàng đầu thế giới, Trung Quốc hay Mỹ chắc chắn sẽ cần các nguồn lực, nhà nghiên cứu và kỹ nghệ sản xuất hàng đầu. Nhưng để biến chuyên môn và sự đổi mới thành sức mạnh cứng, các quốc gia cần tìm cách tích hợp các phát minh AI vào quân đội. Đó không phải là một nhiệm vụ đơn giản. Không giống như công nghệ tàng hình hoặc tên lửa siêu thanh, hầu hết các tiến bộ AI đến từ khu vực dân sự. Sau đó, chúng phải được thiết kế lại và thay đổi quy mô để có tác động trên chiến trường.

Mặt khác, phần mềm do AI điều khiển có thể khiến các cường quốc rút ngắn thời gian ra quyết định xuống còn vài phút thay vì hàng giờ hoặc vài ngày. Các cường quốc có thể phụ thuộc quá nhiều vào các đánh giá chiến lược và chiến thuật của AI, ngay cả trong chiến tranh hạt nhân. Herbert Lin đến từ Đại học Stanford cho biết điều nguy hiểm là những người ra quyết định có thể dần dần dựa vào AI như một phần của hệ thống chỉ huy và kiểm soát vũ khí, vì AI hoạt động với tốc độ nhanh hơn rất nhiều so với con người.

Các nhà lãnh đạo Mỹ có một nỗi lo rằng đất nước của họ có thể tụt lại phía sau Trung Quốc, phần lớn là do một số người trong ngành công nghệ Mỹ không muốn hợp tác với quân đội Mỹ. Khi các cuộc biểu tình của nhân viên Google khiến công ty ngừng công việc liên quan đến Dự án Maven vào năm 2018, các nhà lãnh đạo quân sự Mỹ lo sợ rằng họ sẽ bị cản trở tiếp cận các công nghệ thương mại có khả năng thay đổi cuộc chơi trong tương lai. Nhưng mối lo này đã không thành hiện thực. Trên thực tế, các công ty công nghệ đã tỏ ra nhiệt tình trong hợp tác với Bộ Quốc phòng về trí tuệ nhân tạo. Khi Lầu Năm Góc mời thầu hợp đồng điện toán đám mây hỗ trợ AI trị giá 10 tỷ USD, Amazon, IBM, Microsoft và Oracle đã cạnh tranh để giành được hợp đồng này. Các công ty khởi nghiệp AI định hướng quốc phòng đã phát triển bùng nổ, từ các công ty lớn như Anduril đến các công ty nhỏ như Heron Systems. (Công ty này đã đánh bại Lockheed Martin trong một cuộc thi không chiến AI năm 2020). Ngay cả Google cũng đã quay trở lại ký hợp đồng quốc phòng.

Để tích hợp AI đúng cách vào các lực lượng vũ trang, quân đội phải xây dựng một quá trình lặp đi lặp lại gồm thử nghiệm, tạo mẫu, dùng thử và phát triển khái niệm. Các nhà lãnh đạo quốc phòng Mỹ cũng thay đổi cách họ đánh giá năng lực quân sự, dành nguồn lực thích đáng cho trí tuệ nhân tạo chứ không chỉ dựa trên thước đo về số lượng. Ngày nay, điều quan trọng hơn là năng lực kỹ thuật số của các hệ thống này, chẳng hạn như liệu tàu và máy bay có cảm biến để phát hiện lực lượng của đối phương, thuật toán để xử lý thông tin và cho phép ra quyết định tốt hơn cũng như đạn dược thông minh để tấn công chính xác mục tiêu hay không. Tất cả những năng lực này có thể được cải thiện bằng trí tuệ nhân tạo.

Thực tế là các hệ thống AI ngày nay có những hạn chế lớn, và do đó đòi hỏi sự thận trọng và quan tâm trong quá trình thực hiện, trong đó chú trọng cả yếu tố con người. Trong suốt lịch sử loài người, tiến bộ công nghệ đã chuyển thành sức mạnh quân sự. Trong hầu hết các trường hợp, các quốc gia kết hợp công nghệ mới nhanh chóng và hiệu quả hơn vào quân đội của họ sẽ giành được lợi thế đáng kể so với đối thủ. Điều tương tự cũng có thể đúng với AI. Cuộc cạnh tranh về AI và ưu thế công nghệ này rất có thể sẽ quyết định bối cảnh toàn cầu trong tương lai. Quan trọng là các quốc gia sẽ ứng dụng quả bom AI ra sao?

Hồng Ngọc