AI tiên tiến có thể đe dọa xã hội như thế nào - Kỳ 1: Từ chiến trường đến hạ tầng trọng yếu

Bộ kit lượn Piranha của Aventra biến đạn dược không dẫn hướng thành hệ thống vũ khí trang bị trí tuệ nhân tạo (AI), có khả năng tấn công mục tiêu ở khoảng cách lên đến 3.000 dặm mà không phụ thuộc vào hệ thống định vị toàn cầu GPS.. Ảnh: Aventra

Khi các hệ thống trí tuệ nhân tạo (AI) ngày càng trở nên mạnh mẽ, những cảnh báo về cách thức chúng có thể gây hại cho con người trải dài từ những mối nguy hiểm đã bắt đầu xuất hiện hiện nay đến nguy cơ nghiêm trọng hơn trong tương lai. Đáng chú ý, AI đang được đưa vào những lĩnh vực có khả năng gây hậu quả lớn như quân sự, an ninh mạng và nghiên cứu sinh học, đặt ra yêu cầu ngày càng cấp thiết về kiểm soát việc sử dụng công nghệ.

AI tiến vào chiến trường

AI ngày càng được tích hợp vào các hệ thống quân sự, nơi công nghệ này có thể phân tích lượng lớn thông tin chiến trường, nhận dạng vật thể, hỗ trợ xác định mục tiêu và giúp vận hành các nền tảng có mức độ tự động hóa ngày càng cao. Chính khả năng xử lý thông tin với tốc độ và quy mô lớn khiến AI trở thành công cụ có giá trị trong hoạt động quân sự, nhưng đồng thời cũng làm xuất hiện những rủi ro mới.

Một trong những vấn đề đáng lo ngại là điều gì sẽ xảy ra khi các khuyến nghị do máy móc tạo ra bị sai, không được giám sát đầy đủ hoặc bị cố ý sử dụng để đẩy nhanh quá trình ra quyết định sử dụng vũ lực gây chết người.

Việc Israel sử dụng các hệ thống có sự hỗ trợ của AI trong cuộc xung đột Gaza đã thu hút sự giám sát đặc biệt. Trong báo cáo "Từ nền kinh tế chiếm đóng đến nền kinh tế diệt chủng", Báo cáo viên đặc biệt của Liên hợp quốc Francesca Albanese đã mô tả cách quân đội Israel sử dụng các hệ thống AI, bao gồm Lavender và Gospel, cũng như một hệ thống được biết đến với tên gọi "Where's Daddy?", để xử lý thông tin và tạo hoặc theo dõi các mục tiêu tiềm năng.

Báo cáo cũng đề cập Project Nimbus, hợp đồng điện toán đám mây trị giá 1,2 tỷ USD mà Israel trao cho Google và Amazon vào năm 2021, đồng thời cho rằng các công ty công nghệ ngày càng đóng vai trò lớn hơn trong việc cung cấp cơ sở hạ tầng và dịch vụ được Israel sử dụng. Báo cáo còn cho biết Palantir, công ty đã hợp tác với Israel từ trước tháng 10/2023, mở rộng hợp tác với chính phủ Israel sau khi xung đột Gaza bùng nổ.

Tổ chức Theo dõi Nhân quyền (HRW) cảnh báo hồi tháng 6 rằng quân đội các nước ngày càng đưa AI vào những quyết định liên quan đến sự sống và cái chết, bao gồm xác định mục tiêu và lựa chọn vũ khí. HRW dẫn các báo cáo cho biết lực lượng Mỹ đã sử dụng Hệ thống Thông minh Maven có tích hợp AI, được kết nối với Claude của Anthropic, trong các cuộc tấn công do Mỹ dẫn đầu nhằm vào Iran năm 2026 để hỗ trợ xác định các mục tiêu ưu tiên và lựa chọn loại đạn dược.

Nguy cơ AI hỗ trợ hoạt động quân sự không chỉ liên quan đến quân đội các quốc gia. Anthropic trong tháng này cho biết họ đã phát hiện người dùng tại miền Bắc Yemen sử dụng Claude để hỗ trợ phát triển vũ khí tiên tiến. Công ty không xác định những người dùng này là Houthi, nhưng cho biết hoạt động xuất phát từ lãnh thổ do Houthi kiểm soát và bao gồm công việc liên quan đến phần mềm cho một loại rocket dẫn đường và một tên lửa đạn đạo có tầm bắn được công bố hơn 2.000 km.

Một trung tâm an ninh mạng. Ảnh minh họa: Transcosmos/TTXVN

AI hạ thấp rào cản tấn công mạng

Nếu quân sự là lĩnh vực AI có thể tác động trực tiếp đến việc sử dụng vũ lực, an ninh mạng lại là một trong những lĩnh vực trước mắt nhất mà công nghệ này có thể góp phần gây ra tổn hại cả về vật chất lẫn kỹ thuật số.

Trả lời phỏng vấn hãng thông tấn Anadolu, Phó Giáo sư Ruizhe Li tại Trường Khoa học Máy tính thuộc Đại học Birmingham cho rằng trong ngắn hạn, những lo ngại về an ninh mạng, chẳng hạn đẩy nhanh quá trình tạo phần mềm độc hại hoặc tự động quét lỗ hổng bảo mật, là những nguy cơ có khả năng xảy ra nhất.

Các mô hình ngôn ngữ lớn được huấn luyện trên khối lượng rất lớn các kho mã nguồn và tài liệu phần mềm, khiến chúng có khả năng cao trong việc hiểu và tạo mã máy tính.

Vì vậy, theo Phó Giáo sư Li, việc hạ thấp ngưỡng năng lực kỹ thuật cần thiết để thực hiện những hoạt động khai thác mạng tinh vi là một vấn đề hữu hình trong ngắn hạn.

AI có thể hỗ trợ người dùng tìm kiếm lỗ hổng phần mềm, viết mã độc, tiến hành trinh sát và tự động hóa một số phần của hoạt động tấn công mạng.

Trong báo cáo về các mối đe dọa công bố tháng 9, Anthropic cho biết đã ngăn chặn các nỗ lực lạm dụng Claude trong các hoạt động mạng, bao gồm những hoạt động liên quan đến lừa đảo trực tuyến, phần mềm độc hại và các nỗ lực xâm nhập hệ thống máy tính.

Hậu quả có thể vượt ra ngoài môi trường kỹ thuật số. Một cuộc tấn công mạng có sự hỗ trợ của AI nhằm vào bệnh viện, lưới điện, hệ thống cấp nước, nhà cung cấp dịch vụ viễn thông hoặc mạng lưới giao thông có thể làm gián đoạn những dịch vụ thiết yếu mà tính mạng con người phụ thuộc vào.

Trao đổi với Anadolu, ông Harin Sellahewa, Trưởng khoa Điện toán, Luật và Tâm lý học thuộc Đại học Buckingham, cho biết điều khiến ông lo ngại nhất là các cuộc tấn công mạng, tấn công vào cơ sở hạ tầng trọng yếu và sự gián đoạn kinh tế.

Theo ông Sellahewa, đây là những rủi ro trước mắt và thực tế bởi chúng có thể được khuếch đại bởi các tác nhân con người sử dụng những hệ thống AI tiên tiến.

Từ AI hữu ích đến nguy cơ sinh học, hóa học

Một lĩnh vực khác đặt ra những câu hỏi nghiêm trọng là sinh học và hóa học. Những năng lực AI có thể giúp các nhà khoa học hiểu về bệnh tật, protein và các hệ thống sinh học cũng có khả năng bị lạm dụng để hỗ trợ những nghiên cứu sinh học hoặc hóa học nguy hiểm.

Báo cáo về các mối đe dọa tháng 9 của Anthropic mô tả một số trường hợp người dùng tìm kiếm sự hỗ trợ cho nghiên cứu sinh học khiến các cơ chế bảo vệ của công ty được kích hoạt. Trong một trường hợp, người dùng tìm kiếm sự hỗ trợ liên quan đến nghiên cứu tăng chức năng đối với virus chikungunya, trong khi những trường hợp khác liên quan đến nghiên cứu mầm bệnh và độc tố. Anthropic cho biết đã chặn những hoạt động này.

Tuy nhiên, nguy cơ cần được nhìn nhận đúng mức. Mối lo ngại không phải là các hệ thống AI hiện nay có thể tự mình tạo ra vũ khí sinh học, mà là những mô hình ngày càng mạnh có thể khiến kiến thức chuyên môn trở nên dễ tiếp cận hơn hoặc đẩy nhanh những công việc trước đây đòi hỏi trình độ chuyên môn rất cao.

Phó Giáo sư Li nhấn mạnh rằng có một khoảng cách đáng kể giữa việc thu được thông tin có khả năng gây nguy hiểm từ một mô hình AI và việc thực sự tiến hành một cuộc tấn công sinh học hoặc hóa học. Các kịch bản thảm họa liên quan đến vũ khí vật lý, các mối đe dọa sinh học hoặc tấn công cơ sở hạ tầng trọng yếu đòi hỏi nhiều hơn rất nhiều so với việc tạo ra văn bản hoặc mã máy tính.

Chúng đòi hỏi sự phối hợp phức tạp, phần cứng chuyên dụng, quá trình tổng hợp vật lý và quản lý cơ sở hạ tầng chuyên ngành. Các hệ thống AI hiện nay chưa thể tự động xử lý hoặc thực hiện những chuỗi quy trình vật lý phức tạp, đa tầng như vậy.

Như vậy, nguy cơ trước mắt không nhất thiết nằm ở một hệ thống AI tự mình tiến hành chiến tranh, tấn công cơ sở hạ tầng hay chế tạo vũ khí sinh học.

Điều đáng quan tâm hơn là AI có thể tăng năng lực của con người, hạ thấp một số rào cản kỹ thuật và đẩy nhanh những hoạt động vốn đòi hỏi nhiều thời gian và trình độ chuyên môn.

Nhưng quân sự, an ninh mạng và sinh học mới chỉ là một phần của vấn đề. Khi AI đi sâu vào đời sống, công nghệ này còn có thể tác động đến thông tin con người tiếp nhận, những gì họ tin tưởng, sự an toàn của người sử dụng và cả các hoạt động gian lận.