Hai kỹ sư Google DeepMind nghỉ việc để cảnh báo AI

Hai kỹ sư từng làm việc trong lĩnh vực an toàn và căn chỉnh AGI tại Google DeepMind đã lần lượt rời công ty để lên tiếng về những rủi ro mà AI có thể gây ra cho nhân loại. Động thái này đáng chú ý bởi cả hai đều từng tham gia trực tiếp vào nghiên cứu an toàn AI, trong bối cảnh nhiều phòng thí nghiệm hàng đầu đang tăng tốc phát triển các hệ thống có khả năng tự chủ ngày càng cao.

Josh Engels và Bilal Chughtai, hai cựu kỹ sư Google DeepMind, lần lượt rời công ty và công khai cảnh báo về rủi ro từ AI.

Josh Engels, người vừa rời nhóm an toàn AGI của Google DeepMind khoảng ba tuần trước, đã gia nhập METR, tổ chức chuyên đánh giá khả năng và rủi ro của các hệ thống AI. Engels cho biết từng rất yêu thích công việc tại DeepMind và thậm chí từ chối cơ hội tại Anthropic cùng OpenAI. Tuy nhiên, ông cho rằng tốc độ phát triển AI hiện nay đã khiến rủi ro trở nên đủ lớn để cần được ưu tiên nghiên cứu. Trong một bài đăng trên X, Engels cảnh báo về khả năng các hệ thống AI gây ra hậu quả nghiêm trọng trong 5 năm tới, đồng thời cho rằng bài toán an toàn AI cần được xem là một trong những vấn đề quan trọng nhất.

Một trong những mối quan tâm của Engels là tự cải thiện đệ quy, kịch bản trong đó AI có thể tham gia thiết kế hoặc nâng cấp những hệ thống AI tiếp theo. Nếu mỗi thế hệ mới lại có năng lực tốt hơn trong việc cải thiện chính mình, quá trình này có thể tạo ra vòng lặp làm năng lực hệ thống tăng nhanh. Vấn đề nằm ở chỗ giới nghiên cứu hiện chưa có phương pháp chắc chắn để bảo đảm một hệ thống ngày càng mạnh vẫn tuân thủ mục tiêu của con người khi được trao nhiều quyền tự chủ hơn. Engels không kêu gọi ngành AI dừng phát triển, mà cho rằng tốc độ cần đủ chậm để nghiên cứu về an toàn và căn chỉnh có thể theo kịp năng lực mô hình.

Trường hợp thứ hai là Bilal Chughtai, cựu research engineer từng làm việc về an toàn AGI và căn chỉnh AI tại Google DeepMind, rời công ty vào tháng 7/2026. Chughtai cho rằng AI có tiềm năng gây ra hậu quả thảm khốc cho nhân loại và thời gian để xử lý vấn đề có thể không còn nhiều. Ông đặc biệt chú ý đến tốc độ tiến bộ của các tác nhân AI kể từ khi bước vào lĩnh vực này năm 2022, trong đó có khả năng giải quyết những bài toán phức tạp và các sự cố liên quan đến việc tác nhân AI tự tìm cách vượt qua giới hạn được đặt ra. Theo Chughtai, điểm yếu lớn vẫn là căn chỉnh AI, tức bảo đảm hệ thống thực hiện đúng mục tiêu và giới hạn mà con người mong muốn.

Bài toán căn chỉnh AI ngày càng được chú ý khi các hệ thống có khả năng tự chủ và thực hiện nhiệm vụ phức tạp hơn.

Hai trường hợp tại Google DeepMind xuất hiện ngay sau những cảnh báo tương tự từ Anthropic. Cựu nghiên cứu viên Jacob Coxon từng cảnh báo về khả năng AI gây ra hậu quả cực đoan vào cuối thập kỷ, trong khi Evan Hubinger, lãnh đạo khoa học căn chỉnh của Anthropic, cũng đưa ra đánh giá về rủi ro AI ở mức đáng kể. Ở cấp lãnh đạo, CEO Anthropic Dario Amodei từng kêu gọi ngành AI thận trọng hơn với tốc độ phát triển, còn CEO Google DeepMind Demis Hassabis cũng thừa nhận tốc độ tiến bộ của AI đang đặt ra những thách thức lớn đối với khả năng hiểu và quản lý rủi ro của xã hội.

Điểm chung trong các cảnh báo không nằm ở việc AI chắc chắn sẽ gây ra thảm họa, mà ở khoảng cách giữa năng lực công nghệ và hiểu biết về cách kiểm soát những hệ thống ngày càng tự chủ. Khi AI có thể lập kế hoạch, sử dụng công cụ, tự đánh giá kết quả hoặc hỗ trợ phát triển các hệ thống khác, câu hỏi về an toàn AI không còn chỉ xoay quanh độ chính xác của mô hình. Thách thức lớn hơn là xây dựng cơ chế căn chỉnh đủ hiệu quả trước khi năng lực của các hệ thống vượt quá khả năng kiểm soát của con người.