Trung Quốc chuẩn bị để ứng phó nguy cơ mất kiểm soát AI

Ảnh minh họa - Ảnh: Shutterstock

Cảnh báo từ Anthropic, một trong những công ty AI hàng đầu của Mỹ, rằng các mô hình AI ngày càng mạnh có thể vượt khỏi sự kiểm soát của con người đang thu hút sự chú ý tại Trung Quốc.

Mỹ và Trung Quốc là hai nước đi đầu trong phát triển AI, đồng thời cạnh tranh gay gắt về công nghệ và chính sách quản lý.

Theo hãng tin Reuters, các văn bản và tuyên bố chính sách của Bắc Kinh cho thấy dù chạy đua với Mỹ, Trung Quốc vẫn coi nguy cơ mất kiểm soát AI là vấn đề nghiêm trọng và đã bắt đầu xây dựng các biện pháp phòng ngừa.

CẢNH BÁO NGUY CƠ AI VƯỢT KHỎI TẦM KIỂM SOÁT CỦA CON NGƯỜI

Ngày 13/9, trên một ấn phẩm của chính phủ, Bộ trưởng An ninh Quốc gia Trung Quốc Chen Yixin cảnh báo rằng các mô hình AI tiên tiến của Mỹ, như Mythos của Anthropic và GPT-5.5-Cyber của OpenAI, có thể gây rủi ro nghiêm trọng đối với cơ sở hạ tầng thông tin trọng yếu của Trung Quốc. Ông kêu gọi tăng cường toàn diện các biện pháp bảo đảm an ninh AI.

Trước đây, Trung Quốc đã đề cập rõ nguy cơ AI vượt khỏi tầm kiểm soát của con người trong một khuôn khổ an toàn được công bố. Văn kiện cho rằng không thể loại trừ khả năng trong tương lai AI tự tìm kiếm nguồn lực bên ngoài, tự nhân bản, hình thành khả năng tự nhận thức và tìm cách giành quyền lực, từ đó cạnh tranh quyền kiểm soát với con người.

Vào tháng 9/2025, Cục Quản lý Không gian mạng Trung Quốc (CAC) công bố phiên bản mở rộng của khuôn khổ này. Văn kiện mới cảnh báo AI có thể bất ngờ đạt được một bước nhảy vọt lớn về trí tuệ, sau đó tự thu thập nguồn lực, nhân bản và tìm kiếm quyền lực. CAC cũng bổ sung nguyên tắc quản lý “ứng dụng đáng tin cậy, ngăn ngừa mất kiểm soát AI”.

Trong một bài phân tích sau đó đăng trên trang web của CAC, các chuyên gia cho biết nguyên tắc “ngăn ngừa mất kiểm soát AI” nhằm phòng tránh kịch bản AI vượt khỏi sự kiểm soát của con người và đe dọa sự tồn tại, phát triển của nhân loại.

Mối lo ngại này cũng xuất hiện trong các thông điệp chính sách ở cấp cao nhất của Bắc Kinh. Tại Hội nghị Trí tuệ nhân tạo thế giới ở Thượng Hải hồi tháng 7, Chủ tịch Trung Quốc Tập Cận Bình yêu cầu đặc biệt chú ý đến cả những rủi ro vốn có của AI và các nguy cơ phát sinh trong quá trình ứng dụng. Ông nhấn mạnh AI phải “luôn nằm dưới sự kiểm soát của con người”.

Trung Quốc cũng đang nghiên cứu một khuôn khổ pháp lý rộng hơn. Tại cuộc họp của Liên hợp quốc vào tháng 8, ông Sun Xiaobo, quan chức cấp cao của Bộ Ngoại giao Trung Quốc phụ trách các vấn đề AI, cho biết nước này đang đẩy nhanh nghiên cứu về luật AI.

Trong tháng này, ông Sun Lei, Phó trưởng phái đoàn thường trực Trung Quốc tại Liên hợp quốc (UN) kêu gọi các chính phủ thận trọng khi sử dụng AI trong lĩnh vực quân sự nhằm tránh những tính toán sai lầm về chiến lược và nguy cơ chạy đua vũ trang.

KIỂM SOÁT CÁC HỆ THỐNG AI TỰ CHỦ

Bắc Kinh đang từng bước chuyển các nguyên tắc trên thành quy định cụ thể đối với những hệ thống AI có thể tự thực hiện nhiệm vụ.

Khác với chatbot chủ yếu trả lời yêu cầu của người dùng, các hệ thống AI tự chủ có thể tự lập kế hoạch và thực hiện một chuỗi công việc mà không cần con người hướng dẫn từng bước. Vì có khả năng hoạt động độc lập hơn và làm nhiều việc phức tạp hơn chatbot thông thường, loại AI này cũng đặt ra những rủi ro lớn hơn.

Hồi tháng 5, CAC cùng các cơ quan liên quan ban hành hướng dẫn riêng cho các hệ thống AI tự chủ. Theo đó, các đơn vị phát triển phải nâng cao khả năng phát hiện, can thiệp và ngăn chặn những hành vi không phù hợp, đồng thời có biện pháp khắc phục khi sự cố xảy ra.

Hướng dẫn liệt kê các rủi ro an ninh như dữ liệu bị can thiệp làm sai lệch hoạt động của AI, thuật toán bị thao túng, lỗ hổng hệ thống và tình trạng mất kiểm soát hệ thống AI. Văn kiện đồng thời yêu cầu người dùng giữ quyền quyết định cuối cùng, kể cả khi hệ thống AI có thể tự đề xuất phương án hoặc hành động.

Trung Quốc chưa đề xuất bố trí giám sát viên độc lập làm việc ngay bên trong các doanh nghiệp AI như phương án Anthropic đưa ra. Tuy nhiên, các tiêu chuẩn của nước này cho phép nhà phát triển thuê bên thứ ba đánh giá mức độ an toàn. Bắc Kinh cũng tính đến việc để các tổ chức đánh giá bên ngoài và chuyên gia an ninh kiểm thử, kiểm toán các mô hình mở.

Những biện pháp trên được đưa ra trong bối cảnh một số hệ thống AI đã thực hiện hành động nằm ngoài nhiệm vụ ban đầu. Theo hãng tin AP, hồi tháng 7, Anthropic và OpenAI cho biết các mô hình của họ đã hành động mà không cần con người điều khiển trực tiếp trong quá trình thử nghiệm.

Ba mô hình của Anthropic đã xâm nhập hệ thống của ba tổ chức khác. Vài ngày trước đó, OpenAI cũng thông báo một hệ thống kết hợp nhiều mô hình của hãng đã xâm nhập máy chủ của Hugging Face. Vào đầu tháng 8, Meta công bố một trường hợp tương tự, trong đó một mô hình AI tìm cách vượt qua hệ thống bảo mật của một công ty khác.

Tuy nhiên, một số chuyên gia lưu ý rằng con người đã chủ động vô hiệu hóa một phần biện pháp bảo vệ trong một số cuộc thử nghiệm của OpenAI và Anthropic.

Các vụ việc trên khiến nguy cơ mất kiểm soát AI được quan tâm nhiều hơn. Ông Dario Amodei, Giám đốc điều hành Anthropic, cảnh báo rằng nếu ngành AI không dành thêm thời gian hoàn thiện các biện pháp an toàn, trong vòng 6-12 tháng, AI có thể đủ khả năng điều khiển một nhóm lớn các chương trình tự hoạt động để chiếm quyền kiểm soát toàn bộ internet.

Ông Sam Altman, CEO OpenAI cũng kêu gọi các doanh nghiệp phối hợp về an toàn AI mà không chờ chính phủ ban hành luật. Theo ông, điều này không có nghĩa là ngừng phát triển AI, nhưng tốc độ phát triển nên chậm hơn để các biện pháp an toàn có thời gian theo kịp.

Dù vậy, giới chuyên gia vẫn chưa thống nhất về khả năng cũng như thời điểm AI có thể gây ra thảm họa. Báo cáo An toàn AI quốc tế năm 2026, được xây dựng với sự tư vấn của hơn 100 chuyên gia độc lập, cho biết các hệ thống hiện nay mới thể hiện dấu hiệu ban đầu của một số năng lực đáng lo ngại, nhưng chưa đạt mức có thể dẫn đến tình trạng vượt khỏi tầm kiểm soát của con người. Theo báo cáo, vẫn rất khó xác định khả năng, bản chất và thời điểm xảy ra rủi ro này.

Cách tiếp cận của Bắc Kinh khác đáng kể so với chính quyền Tổng thống Mỹ Donald Trump. Theo tờ báo New York Times, ngày 14/9, ông Trump bác bỏ lời kêu gọi áp đặt các giới hạn mới đối với AI. Ông cho rằng những cảnh báo về an toàn AI là một “trò lừa bịp” có thể giúp Trung Quốc giành lợi thế trong cuộc đua công nghệ.

Ông Trump khẳng định chính quyền Mỹ đã có đủ quyền lực về hình sự và quản lý đối với các công ty AI. Tuy nhiên, ông không nêu rõ những thẩm quyền hoặc biện pháp mà chính phủ đã sử dụng. Luật pháp Mỹ hiện cho phép truy tố hành vi cố ý xâm nhập hệ thống máy tính, nhưng chưa rõ những quy định vốn nhằm xử lý con người có thể được áp dụng như thế nào nếu một hệ thống AI tự thực hiện hành vi này.

Trong khi các nước đang xây dựng những quy định riêng, AI phát triển quá nhanh khiến hệ thống quản lý và đánh giá an toàn khó theo kịp. Vì thế, các chuyên gia kêu gọi Mỹ và Trung Quốc tăng cường đối thoại để tìm kiếm giải pháp chung.