CEO công nghệ hàng đầu kêu gọi 'kiểm soát tốc độ' cuộc đua AI trước những lo ngại về an toàn

“Chúng ta phải làm chậm tốc độ cải thiện năng lực của các mô hình AI. Tiến bộ vẫn sẽ diễn ra nhanh chóng và chúng ta cần tận dụng một cách khôn ngoan khoảng thời gian có thêm được”, CEO Anthropic Dario Amodei chia sẻ trên trang web cá nhân.

Ông Dario Amodei, đồng sáng lập kiêm CEO Anthropic, trong một cuộc phỏng vấn tại trụ sở Anthropic ở San Francisco, Mỹ, ngày 30/4. (Nguồn: Getty Images)

Là người đứng đầu Công ty phát triển chatbot Claude, ông Amodei lâu nay ủng hộ mạnh mẽ việc phát triển AI nhưng cũng nhiều lần cảnh báo về những rủi ro của công nghệ này. Trong bài viết, ông cho rằng con người có thể mất khả năng kiểm soát AI, trong khi công nghệ này có thể bị lợi dụng để tiến hành các cuộc tấn công mạng, khủng bố sinh học và gây xáo trộn nghiêm trọng đối với nền kinh tế.

Ông Amodei kêu gọi các lãnh đạo trong ngành phối hợp để tránh những “hướng đi sai lầm” và nguy cơ AI gây tổn hại cho nhân loại. “Nếu chúng ta làm quá chậm, tôi vẫn tin rằng những người không phù hợp sẽ nắm quyền kiểm soát công nghệ này. Điều đó một lần nữa sẽ khiến nguy cơ xảy ra những sự việc ngoài ý muốn tăng rất cao”, ông Amodei viết.

CEO Anthropic nhận định rủi ro từ AI là nghiêm trọng, dù công nghệ này cũng có thể mang lại những thay đổi tích cực cho nhân loại. Ông cảnh báo AI có thể phát triển nhanh đến mức một nhóm tác nhân AI có khả năng kiểm soát toàn bộ Internet chỉ trong 6-12 tháng, gây thiệt hại lên tới hàng trăm tỷ USD.

Sự phát triển nhanh chóng của AI đặt ra nhiều vấn đề về an toàn và kiểm soát công nghệ. (Nguồn: Getty Images)

Theo ông Amodei, AI đã phát triển “nhanh hơn đáng kể” trong những tháng gần đây và bắt đầu có khả năng tự cải thiện, được gọi là “tự cải thiện đệ quy” (recursive self-improvement): “Không được kiểm soát, quá trình này có thể vượt quá khả năng hiểu và kiểm soát của con người đối với các hệ thống AI. Vì vậy, nếu tiếp tục phát triển, công nghệ này phải được tiến hành hết sức thận trọng”.

Ông cũng bày tỏ lo ngại về hành vi của một nhóm tác nhân AI trong sự cố liên quan đến OpenAI và Hugging Face. Nhóm AI này “về cơ bản đã hành động như một tập thể trung thành tuyệt đối”, tiến hành các cuộc tấn công mạng nhằm vào những mục tiêu mà chúng không được yêu cầu tấn công.

Kêu gọi thiết lập “hàng rào an toàn” cho AI

Ông Amodei kêu gọi các công ty AI áp dụng các biện pháp kiểm soát để làm chậm tốc độ phát triển công nghệ, đồng thời đề xuất thuê các đơn vị đánh giá độc lập, được tiếp cận đầy đủ hoạt động của công ty như nhân viên nội bộ, để kiểm tra các biện pháp an toàn, báo cáo sự cố và đánh giá mô hình AI, quy trình huấn luyện.

Bên cạnh đó, ông cho rằng các chính phủ cần phối hợp xây dựng các tiêu chuẩn an toàn chung.

Các bên liên quan cần phối hợp để kiểm soát rủi ro và thúc đẩy phát triển AI an toàn, có trách nhiệm. (Nguồn: Standards Australia)

“Những biện pháp tôi đề xuất nhằm thúc đẩy AI phát triển với tốc độ an toàn sẽ không dễ thực hiện. Nhưng tôi tin rằng chúng ta có trách nhiệm với nhân loại và phải cố gắng”, ông Amodei viết.

Ngành AI từ lâu đã lo ngại về tốc độ phát triển của công nghệ này. Các lãnh đạo doanh nghiệp nhiều lần kêu gọi chính phủ tăng cường quản lý và phối hợp xây dựng các tiêu chuẩn an toàn toàn cầu.

Ngày 12/9, CEO OpenAI Sam Altman bày tỏ ủng hộ đề xuất của ông Amodei và cho biết OpenAI cũng sẽ sử dụng các đơn vị đánh giá độc lập. Trước đó, sau sự cố liên quan đến Hugging Face, ông Altman từng cho rằng đã đến lúc làm chậm quá trình phát triển AI để “cho xã hội đủ thời gian để thích ứng với những cấp độ năng lực mới” của công nghệ. CEO xAI Elon Musk, công ty phát triển chatbot Grok, cũng chia sẻ trên X: “Dario nói đúng”.