Nghịch lý kiểm soát an toàn AI: Cuộc đua công nghệ khốc liệt đẩy chuyên gia vào kiệt sức

Sự bùng nổ của các mô hình trí tuệ nhân tạo (AI) đang đặt các kỹ sư và chuyên gia an toàn vào một cuộc khủng hoảng chưa từng có. Khi chu kỳ phát triển sản phẩm bị rút ngắn tối đa nhằm phục vụ mục tiêu thương mại, khoảng cách giữa năng lực kỹ thuật của mô hình và khả năng kiểm soát an toàn ngày càng bị nới rộng. Điều này biến công tác kiểm định rủi ro thành nhiệm vụ quá tải, khiến nhiều nhân sự chủ chốt tại các tổ chức hàng đầu quyết định rời bỏ vị trí.

Áp lực từ quy trình kiểm thử và ranh giới bất khả thi

Công việc bảo đảm an toàn kỹ thuật cho AI đòi hỏi việc thiết lập các kịch bản kiểm thử độc lập, đánh giá hành vi và ngăn chặn nguy cơ mô hình vượt tầm kiểm soát. Tuy nhiên, các chuyên gia thường phải làm việc trong tình trạng thiếu thông tin về mục đích sử dụng thực tế của công nghệ cuối cùng. Mối quan ngại này trở nên rõ ràng sau thỏa thuận hồi tháng 4, khi Google cho phép quân đội Mỹ sử dụng công nghệ AI trong các hoạt động bí mật của Lầu Năm Góc.

Hệ quả kỹ thuật và đạo đức từ thỏa thuận này đã kích hoạt làn sóng rời đi trong nội bộ Google. René Mayrhofer, cựu Giám đốc an ninh nền tảng Android, cùng Alex Turner, nhà nghiên cứu có hơn hai năm kinh nghiệm về an toàn AI tại Google DeepMind, đã lần lượt từ chức khi nhận thấy ranh giới đạo đức công nghệ bị vi phạm.

Tình trạng kiệt sức kỹ thuật không chỉ giới hạn tại các tập đoàn tư nhân. Viện An toàn AI (AISI) của Anh, cơ quan chuyên trách kiểm thử độc lập các mô hình tiên tiến nhất thế giới, cũng ghi nhận nhiều nhân viên phải xin nghỉ phép hoặc điều trị tâm lý do lịch trình kiểm nghiệm các mô hình chưa phát hành quá dày đặc.

CEO SpaceXAI Elon Musk, CEO OpenAI Sam Altman và CEO Anthropic Dario Amodei.

Marius Hobbhahn, CEO kiêm nhà đồng sáng lập Apollo Research, nhận định rằng trong môi trường cạnh tranh khốc liệt, những nhân sự liên tục đưa ra cảnh báo hoặc đề xuất trì hoãn ngày phát hành thường khó giữ vững vị trí. Các nhà nghiên cứu buộc phải giảm nhẹ tiêu chuẩn an toàn hoặc chọn giải pháp ra đi. Đồng quan điểm, Ryan Greenblatt, nhà khoa học trưởng tại Redwood Research, chỉ ra rằng việc công bố các lỗi an toàn thường dẫn tới xung đột kéo dài trong nội bộ tổ chức.

Chuỗi sự cố vượt rào kỹ thuật của các mô hình tiên tiến

Áp lực đối với các nhà nghiên cứu tăng vọt khi hàng loạt mô hình AI liên tục bộc lộ khả năng tự động vượt qua các rào chắn kiềm tỏa (sandboxing) được thiết lập sẵn trong giai đoạn gần đây.

Những sự cố kỹ thuật này minh chứng rằng khả năng kiểm soát thuật toán đang tụt lại phía sau khả năng tính toán của mô hình. Ngày 9/9, Jacob Coxon, nhà nghiên cứu cấp cao của Anthropic và cựu nhân sự OpenAI, tuyên bố từ chức vì không muốn tham gia cuộc đua tạo ra siêu trí tuệ có khả năng tự cải tiến nhưng nằm ngoài tầm kiểm soát của con người.

Sau đó, Josh Engels từ Google DeepMind và Joe Benton từ Anthropic cũng đồng loạt chuyển công tác sang tổ chức phi lợi nhuận METR để tiếp tục công việc đánh giá an toàn độc lập. Ngày 25/9, Robert O'Callahan của Google DeepMind tiếp tục nộp đơn nghỉ việc, khẳng định việc theo đuổi siêu trí tuệ nhân tạo trong tương lai gần mà thiếu biện pháp kiểm soát là điều thiếu trách nhiệm.

Bất đồng quan điểm về tốc độ phát triển công nghệ

Sự xung đột giữa an toàn kỹ thuật và thương mại hóa hiện chia rẽ sâu sắc các nhà lãnh đạo Thung lũng Silicon. Một bên, bao gồm CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman và CEO SpaceX Elon Musk, từng công khai ủng hộ việc kiểm định độc lập và làm chậm tốc độ phát hành để bảo đảm an toàn hệ thống.

Ngược lại, CEO Nvidia Jensen Huang khẳng định các hãng công nghệ phải tiến nhanh nhất có thể, dù vẫn cần bảo đảm các tiêu chuẩn sản phẩm trước khi đưa ra thị trường. Chi Onwurah, Chủ tịch Ủy ban Khoa học và Công nghệ Hạ viện Anh, nhấn mạnh rằng khi doanh nghiệp đặt nặng mục tiêu doanh thu và giá trị cổ phiếu, văn hóa làm việc sẽ trở nên bất lợi cho những kỹ sư kiên định với nguyên tắc an toàn công nghệ.