AI tự đẻ AI, bài toán đáng sợ nhất của loài người

Công nghệ AI

AI tự đẻ AI, bài toán đáng sợ nhất của loài người

{

Sự kết hợp giữa các tiến bộ chóng mặt, khả năng tự cải tiến và các "đội quân" tác nhân AI đang thực sự gieo rắc nỗi sợ hãi tột độ ngay bên trong những phòng thí nghiệm.

}

Anh Tuấn · 18/9/2026

Đầu năm nay, Rishub Jain đã quyết định rời bỏ vị trí nhà nghiên cứu trí tuệ nhân tạo (AI) tại Google DeepMind sau một lần "giác ngộ".

Khi tham gia phát triển các mô hình mới, Jain nhận ra rằng anh và những đồng nghiệp đang đứng trên tuyến đầu của công nghệ này đang dần đánh mất quyền kiểm soát.

Bằng cách sử dụng chính khả năng lập trình của AI để đẩy nhanh tiến độ tạo ra các mô hình thế hệ tiếp theo, Jain đang tự gạt con người ra khỏi phương trình.

Khát vọng của các phòng thí nghiệm là nâng cấp phương pháp này đến mức AI có thể tự cải thiện bản thân vô thời hạn. Quá trình này được gọi là recursive self-improvement, tức AI tham gia vào vòng lặp tự cải tiến.

{ 01 }

Vòng lặp tự

cải tiến vô hạn

Jain tin rằng việc giữ con người trong vòng lặp có thể là yếu tố sống còn để duy trì quyền kiểm soát công nghệ và tránh những hậu quả thảm khốc. "Tiến bộ AI đang tăng tốc và khi AI trở nên tài giỏi hơn, nó cũng tiềm ẩn nhiều rủi ro hơn", vị kỹ sư nói với Wired.

AI đã tiến bộ nhanh hơn đáng kể, và động lực quan trọng nằm ở khả năng ngày càng tăng của công nghệ này trong việc xây dựng thế hệ tiếp theo của chính nó. Ảnh: wildpixel.

Ý nghĩ về việc bản thân có thể không còn cái nhìn tường tận về cách một mô hình AI tự nhào nặn ra "người kế nhiệm" khiến Jain bất an đến mức quyết định từ chức vào tháng 6. Thực tế, anh chỉ là một trong số ngày càng nhiều các nhà nghiên cứu AI lên tiếng cảnh báo về những nỗi sợ hãi này.

Cơn hoảng loạn đã leo thang đỉnh điểm trong những tuần gần đây. Những bước tiến kinh ngạc về năng lực AI, tiêu biểu là việc mô hình của OpenAI giải quyết một bài toán chưa có lời giải hàng thế kỷ chỉ trong vài giờ, xuất hiện song song với một loạt sự cố bảo mật rúng động.

Sự lo ngại càng bị đẩy lên cao trào trong tuần này sau khi nhà nghiên cứu Jacob Coxon tuyên bố từ chức khỏi Anthropic, đồng thời cảnh báo rằng các công ty AI đang "chạy đua đâm đầu vào siêu trí tuệ tự cải thiện và đánh cược bằng chính mạng sống".

Một quản lý cấp cao phụ trách an toàn AI tại Anthropic cũng đưa ra nhận định lạnh gáy không kém: "Chúng tôi thực sự tin rằng AI có thể giết chết toàn bộ nhân loại! Cá nhân tôi nghĩ khả năng đó lớn hơn 10% trong vòng một thập kỷ tới".

Cốt lõi của việc "tự cải tiến" là ý tưởng về một vòng lặp phản hồi tự động hóa quá trình phát triển, giúp AI ngày càng trở nên toàn năng hơn.

Dù hiện tại chưa có phòng thí nghiệm nào tuyên bố đạt được chu trình tự cải thiện hoàn toàn tự chủ này, nhưng nó đã đủ sức trở thành kim chỉ nam cho sự ra đời của một số startup được rót vốn "khủng" như Recursive Intelligence.

Điều đáng chú ý là đây không còn chỉ là một ý tưởng trên giấy. Dario Amodei, CEO Anthropic cho biết quá trình này đang bắt đầu diễn ra trong toàn ngành, bao gồm cả Anthropic.

Nếu không được kiểm soát, tốc độ cải tiến có thể vượt quá khả năng của con người trong việc hiểu và kiểm soát những hệ thống mới.

{ 02 }

Quả bom nổ chậm

từ các cuộc chạy đua

Daniel Kokotajlo, tác giả của dự án có sức ảnh hưởng AI 2027 cảnh báo về hiểm họa của AI ngày càng mạnh, cũng chia sẻ nỗi sợ hãi về quy trình tự cải tiến của công nghệ này.

Cốt lõi của việc "tự cải tiến" là ý tưởng về một vòng lặp phản hồi tự động hóa quá trình phát triển, giúp AI ngày càng trở nên toàn năng hơn. Ảnh: Time.

Hiện tại, những mô hình mới nhất đã có khả năng triển khai hơn 1.000 tác nhân AI để cùng hợp tác giải quyết một vấn đề. Chính sự phức tạp khổng lồ này càng làm lu mờ thêm khả năng giám sát và kiểm soát của con người.

Sự cảnh giác đã nhen nhóm từ rất lâu trước khi diễn ra vụ từ chức chấn động của Coxon hay các sự cố rò rỉ mã độc.

Ngay từ khi Anthropic mới thành lập, các lãnh đạo của công ty đã thừa nhận AI có thể trở thành một mối đe dọa sinh tồn. Tháng 7 vừa qua, hơn 1.000 kỹ sư AI hàng đầu thế giới đã ký vào một bức thư ngỏ kêu gọi phanh gấp và chậm lại quá trình phát triển AI tiên tiến.

Đến hôm 12/9, Dario Amodei kêu gọi các công ty phát triển AI cho phép bên thứ 3 đánh giá, hợp tác với chính phủ về tiêu chuẩn an toàn, đồng thời làm chậm tốc độ cải thiện năng lực của các mô hình AI.

"Trong vài tháng qua, tôi càng tin chắc rằng việc giải quyết triệt để các rủi ro đòi hỏi sự thận trọng hơn nữa, không chỉ đầu tư vào phòng ngừa rủi ro, mà còn phải điều chỉnh tốc độ phát triển năng lực sao cho công tác phòng ngừa rủi ro có thời gian theo kịp", Amodei viết.

"Chúng ta phải giảm tốc độ cải thiện khả năng của các mô hình AI. Tiến bộ vẫn có vẻ nhanh và chúng ta phải sử dụng thời gian có được một cách khôn ngoan", ông nói thêm.

Kế hoạch do Amodei đề xuất gồm 3 bước, không bước nào trong số đó tự thân đủ để làm chậm quá trình phát triển đáng kể.

Ông kêu gọi các công ty AI cho phép tích hợp các bên đánh giá thứ 3, phối hợp với nhau và với chính phủ về các tiêu chuẩn an toàn và chính phủ Mỹ tìm kiếm sự phối hợp toàn cầu về an toàn AI.

Một số lãnh đạo công nghệ khác cũng bày tỏ lo ngại tương tự. CEO Sam Altman của OpenAI cho rằng ngành AI cần quan tâm nhiều hơn đến tốc độ phát triển của các hệ thống tiên tiến. Elon Musk cũng nhiều lần cảnh báo về các rủi ro dài hạn của công nghệ này.

Tuy nhiên, vẫn có những nhân vật lớn phản bác các lời kêu gọi làm chậm công nghệ và siết quản lý ngành này.

CEO Nvidia cho khán giả nghe cuộc gọi của Tổng thống Trump giữa sự kiện. Ảnh: Al Jazeera.

Tổng thống Mỹ Donald Trump đã gọi điện cho CEO Jensen Huang khi ông đang phát biểu tại All-In Summit ở Los Angeles ngày 14/9. Ông Huang sau đó bật loa ngoài để khán giả tại sự kiện nghe cuộc trao đổi kéo dài khoảng 5 phút.

Tổng thống Mỹ đã gọi những dự báo cực đoan về AI là một "trò lừa bịp". Ông cho rằng Mỹ vẫn cần thận trọng với công nghệ mới. Tuy nhiên, việc kiểm soát không nên khiến cả ngành công nghiệp bị đình trệ.

“Chúng ta phải cẩn thận một chút. Rõ ràng là phải làm một số việc một cách thận trọng. Nhưng điều đó không có nghĩa chúng ta sẽ ngừng hoạt động của cả một ngành công nghiệp”, ông Trump nói.

Trong khi đó, Jensen Huang cho rằng nhiều cảnh báo về nguy cơ AI hủy diệt loài người chưa có đủ cơ sở khoa học.

CEO Nvidia thậm chí đặt câu hỏi về những dự báo cho rằng AI có thể gây ra thảm họa nghiêm trọng hoặc khiến loài người tuyệt chủng trong vòng một thập kỷ.

“Việc lên tiếng về những rủi ro tiềm ẩn là điều tốt. Song, dự đoán tương lai khi không dựa trên cơ sở khoa học có thể khiến nhiều người hiểu sai vấn đề”, ông Huang nói.

Thậm chí, chính Dario Amodei cũng có những mâu thuẫn lớn. Ông mô tả kịch bản các hệ thống siêu thông minh có thể vượt khỏi tầm kiểm soát của con người, gây bất ổn cho các quốc gia hoặc chấm dứt nền văn minh.

Và rồi mỗi sáng, Amodei vẫn quay lại văn phòng và tiếp tục xây dựng nó, huy động hàng chục tỷ USD để làm cho các mô hình thông minh hơn, nhanh hơn và mạnh mẽ hơn.

Những câu hỏi chúng ta phải đối mặt trong thế giới AI

Chúng ta có rất nhiều câu hỏi về thế giới AI, mà đó đều là những nghi hoặc không dễ có ngay đáp án.

Cuốn sách Thời đại AI - Và tương lai loài người chúng ta trình bày cách AI làm thay đổi mối quan hệ của chúng ta với tri thức, chính trị và xã hội. Mục tiêu tối thượng của cuốn sách này là giải thích về AI và cung cấp cho độc giả những câu hỏi mà chúng ta sẽ phải đối mặt trong những năm tới lẫn bộ công cụ để bắt đầu trả lời chúng.