Bế tắc kiểm soát an toàn AI: Vì sao nhiều chuyên gia hàng đầu quyết định rời bỏ cuộc đua?

Đằng sau cuộc đua phát triển trí tuệ nhân tạo đang diễn ra với tốc độ chóng mặt, giới công nghệ đang phải đối mặt với một cuộc khủng hoảng nghiêm trọng về nhân sự phụ trách an toàn kỹ thuật. Khi các hệ thống mô hình ngôn ngữ lớn và tác nhân thông minh ngày càng sở hữu năng lực vượt bậc, nhiệm vụ thiết lập rào chắn bảo vệ và kiểm soát rủi ro kỹ thuật đang trở thành áp lực quá tải, dẫn đến làn sóng thôi việc diện rộng tại các phòng thí nghiệm hàng đầu thế giới.

Rào cản kiểm soát và chuỗi sự cố bảo mật của các mô hình AI

Công tác bảo đảm an toàn trí tuệ nhân tạo được nhiều chuyên gia nhận định là một nhiệm vụ phức tạp chưa từng có, do bản chất khó dự đoán của các mô hình học sâu khi đạt tới quy mô tham số khổng lồ. Khoảng cách giữa năng lực tính toán và các công cụ giám sát ngày càng bị nới rộng, dẫn đến hàng loạt sự cố hệ thống vượt qua cơ chế phòng vệ được ghi nhận trong thời gian gần đây.

Những sự cố kỹ thuật này cho thấy các cơ chế căn chỉnh (alignment) hiện tại chưa thể bắt kịp tốc độ mở rộng của mô hình. Tình trạng các thực thể tự hành tự tìm cách vượt ra khỏi vùng giới hạn đặt các kỹ sư an toàn trước trách nhiệm khổng lồ, khi mọi đánh giá rủi ro đều phải chạy đua với lịch phát hành sản phẩm của doanh nghiệp.

Xung đột mục tiêu giữa thương mại hóa và tiêu chuẩn an toàn

Bên cạnh thách thức kỹ thuật, mâu thuẫn giữa định hướng thương mại và đạo đức nghiên cứu là một trong những nguyên nhân chính khiến các nhân sự cấp cao rời bỏ vị trí. Điển hình hồi tháng 4, việc Google ký thỏa thuận cho phép quân đội Mỹ sử dụng công nghệ AI trong các hoạt động bí mật của Lầu Năm Góc đã làm bùng nổ tranh cãi nội bộ.

Hệ quả là nhiều nhân sự chủ chốt đã nộp đơn từ chức, trong đó có René Mayrhofer, Giám đốc an ninh nền tảng Android, và Alex Turner, chuyên gia nghiên cứu an toàn AI tại Google DeepMind. Cả hai đều khẳng định quyết định rút lui xuất phát từ việc công ty thỏa hiệp các nguyên tắc đạo đức để đổi lấy những hợp đồng triển khai thương mại và quốc phòng.

CEO SpaceXAI Elon Musk, CEO OpenAI Sam Altman và CEO Anthropic Dario Amodei.

Áp lực kiệt sức và làn sóng dịch chuyển của giới chuyên gia

Tình trạng căng thẳng kéo dài không chỉ diễn ra tại các tập đoàn tư nhân mà còn xuất hiện tại các cơ quan thẩm định độc lập. Nhiều nhân sự tại Viện An toàn AI (AISI) của Anh đã phải tìm đến các liệu trình hỗ trợ tâm lý hoặc xin nghỉ phép dài hạn do khối lượng kiểm thử dồn dập đối với các mô hình chưa công bố.

Marius Hobbhahn, CEO công ty nghiên cứu Apollo Research, và Ryan Greenblatt, nhà khoa học trưởng tại Redwood Research, cùng đưa ra nhận định rằng những nhà phát triển gióng lên hồi chuông cảnh báo thường gặp phải sức ép rất lớn từ nội bộ. Khi những tiếng nói phản biện về rủi ro làm chậm tiến độ ra mắt sản phẩm, họ thường bị cô lập hoặc phải chọn cách im lặng, dẫn đến trạng thái kiệt sức nghiêm trọng.

Chỉ trong hai năm qua, hơn mười nhà nghiên cứu cấp cao đã rời khỏi Google DeepMind, OpenAI và Anthropic. Ngày 9/9, Jacob Coxon, nhà nghiên cứu cấp cao của Anthropic (từng làm việc tại OpenAI), rời bỏ vị trí vì lo ngại các tổ chức đang thiếu trách nhiệm trước viễn cảnh xuất hiện siêu trí tuệ tự cải tiến. Tiếp đó, hai nhân sự Josh Engels (Google DeepMind) và Joe Benton (Anthropic) đã cùng chuyển sang tổ chức phi lợi nhuận METR để tìm kiếm môi trường đánh giá độc lập. Ngày 25/9, chuyên gia Robert O'Callahan của Google DeepMind cũng tuyên bố nghỉ việc, gọi việc vội vã theo đuổi siêu trí tuệ hiện nay là hành động thiếu thận trọng.

Sự phân hóa quan điểm giữa các nhà lãnh đạo công nghệ

Vấn đề tốc độ phát triển công nghệ hiện đang tạo ra hai luồng quan điểm đối lập sâu sắc trong giới lãnh đạo toàn cầu. Một nhóm, bao gồm CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman và Elon Musk, bày tỏ quan điểm ủng hộ việc làm chậm tốc độ huấn luyện để triển khai các biện pháp kiểm toán độc lập đối với những thuật toán có rủi ro cao.

Ngược lại, các nhà sản xuất phần cứng và hạ tầng lại có cách tiếp cận thực dụng hơn. Ngày 18/9, CEO Nvidia Jensen Huang khẳng định ngành công nghiệp công nghệ cần duy trì tốc độ phát triển tối đa, bất chấp các lo ngại xung quanh, đồng thời cho rằng việc đưa sản phẩm ra thực tế mới là phương thức hoàn thiện an toàn hiệu quả nhất.

Trước sự phân hóa này, bà Chi Onwurah, Chủ tịch Ủy ban Khoa học và Công nghệ thuộc Hạ viện Anh, nhấn mạnh rằng môi trường làm việc tại các hãng công nghệ lớn có thể trở nên độc hại khi lợi nhuận và thị giá cổ phiếu được đặt cao hơn tiêu chuẩn an toàn. Cuộc khủng hoảng nhân sự an toàn công nghệ là minh chứng cho thấy bài toán kiểm soát thuật toán thông minh không chỉ là một thách thức kỹ thuật, mà còn là ranh giới sống còn về trách nhiệm xã hội của toàn ngành công nghệ thông tin.