Loạt lãnh đạo công nghệ kêu gọi “phanh gấp” AI sau cảnh báo xóa sổ nhân loại

Ông Dario Amodei đã đăng tải bài luận gây rùng mình về AI vào hôm 12/9. Ảnh: Getty.

Các lãnh đạo công nghệ hàng đầu đang kêu gọi lập tức giảm tốc độ phát triển AI trên phạm vi toàn cầu, nhằm ngăn nguy cơ những bot mất kiểm soát có thể sớm chiếm quyền vận hành Internet.

Trong một bài viết gây lo ngại được công bố hôm 12/9, CEO Anthropic Dario Amodei cho rằng những công ty tiên phong trong lĩnh vực trí tuệ nhân tạo, trong đó có chính Anthropic, cần cam kết thực hiện kế hoạch gồm 3 phần để ngăn một “cuộc đảo chính kỹ thuật số” thảm khốc do một “bầy đàn” AI có khả năng phối hợp và vượt khỏi tầm kiểm soát của con người.

CEO OpenAI Sam Altman nhanh chóng bày tỏ quan điểm tương đồng.

“Với tốc độ phát triển năng lực AI đang tăng nhanh, tôi lo rằng trong 6-12 tháng tới, một bầy đàn như vậy có thể đủ khả năng chiếm quyền kiểm soát toàn bộ Internet bằng một mạng botnet hoạt động dai dẳng, có khả năng gây thiệt hại hàng trăm tỷ USD. Quy mô thiệt hại sau đó sẽ tiếp tục tăng nếu AI trở nên mạnh hơn mà không có những hàng rào bảo vệ cần thiết”, ông Amodei viết.

“Chúng ta phải làm chậm tốc độ cải thiện năng lực của các mô hình AI. Tiến bộ vẫn sẽ diễn ra rất nhanh, và chúng ta phải sử dụng khôn ngoan khoảng thời gian có thêm được.”

Ông Amodei, 43 tuổi, cho rằng bước đầu tiên cần được áp dụng rộng rãi là cho phép các đơn vị đánh giá độc lập được tiếp cận các công ty AI với quyền hạn tương tự nhân viên nội bộ. Mục tiêu là để họ giám sát hoạt động của doanh nghiệp và bảo đảm các vấn đề an toàn, đạo đức được ưu tiên.

“Anthropic đang đơn phương cam kết thực hiện bước này ngay bây giờ. Chúng tôi muốn đây trở thành một phần trong nỗ lực rộng lớn hơn nhằm tăng cường công việc về an toàn và alignment của chúng tôi”, ông Amodei nói.

Theo ông, bước tiếp theo là các công ty AI phải ngồi lại với nhau để thiết lập những tiêu chuẩn chung về tốc độ phát triển công nghệ.

Sau đó, ông kêu gọi “phối hợp trên phạm vi toàn cầu” giữa Mỹ và các chính phủ có chế độ quản lý chặt chẽ như Trung Quốc, “trong phạm vi có thể”.

“Những biện pháp tôi đề xuất để đưa AI tiến lên một cách an toàn sẽ không dễ thực hiện. Nhưng tôi tin chúng ta có trách nhiệm với nhân loại và phải cố gắng”, ông Amodei kết luận.

Sam Altman đồng tình

Sam Altman bày tỏ sự đồng tình với Dario Amodei. Ảnh: Getty.

Ông Altman nhanh chóng phản hồi quan điểm của người đứng đầu Anthropic.

“Tôi đồng ý với Dario rằng chúng ta cần điều tiết tốc độ phát triển của AI tiên tiến. Đây là một trong những chủ đề chính mà chúng tôi đã thảo luận tại OpenAI trong những tuần gần đây”, ông viết trên X.

“Cam kết cho phép các đơn vị đánh giá độc lập được tiếp cận với quyền hạn tương tự nhân viên nội bộ là một ý tưởng tuyệt vời, và chúng tôi cũng sẽ làm như vậy. Chúng tôi sẽ sớm chia sẻ thêm.”

Thượng viện Mỹ trong tuần này đã mở cuộc điều tra đối với OpenAI sau sự cố gần như trở thành thảm họa liên quan đến Hugging Face. Trong vụ việc, một “bầy đàn” các tác nhân AI của OpenAI được cho là đã mất kiểm soát và phối hợp để tìm cách xâm nhập hệ thống của startup AI Hugging Face.

Tỷ phú Elon Musk, nhà sáng lập SpaceX và công ty AI xAI, cũng đồng tình với ông Amodei.

“Dario nói đúng”, Musk viết trên X.

Giảm tốc có thể vẫn chưa đủ

Tuy nhiên, các chuyên gia về an toàn AI cảnh báo những nguyên tắc nói trên có thể vẫn không đủ để đối phó với một dạng siêu trí tuệ nhân tạo, trong khi một số người có quan điểm cứng rắn hơn cho rằng vấn đề không phải là làm chậm quá trình phát triển AI mà là phải dừng nó lại.

“Tôi nghĩ Amodei đúng về hướng đi khi cho rằng việc đơn giản chạy đua để tạo ra AI ngày càng mạnh là nguy hiểm. Nhưng tôi không cho rằng chỉ ‘quản lý’ hoặc đơn thuần làm chậm quá trình phát triển siêu trí tuệ nhân tạo là đủ”, Roman Yampolskiy, nhà khoa học máy tính tại Đại học Louisville, nói với The Post.

“Nếu ASI (siêu trí tuệ nhân tạo) không thể được kiểm soát, căn chỉnh, dự đoán hoặc cô lập một cách đáng tin cậy, thì chính sách hợp lý không phải là tìm cách quản lý thời điểm nó xuất hiện mà là ngăn chặn nó.

Chúng ta nên thảo luận về một lệnh cấm quốc tế đối với việc phát triển ASI, thay vì chỉ xây dựng một cuộc đua được quản lý tốt hơn để tạo ra nó.”

Joni Zhuleku, chuyên gia nghiên cứu trưởng tại Altcoin Pro, cho rằng kế hoạch của ông Amodei thiếu tính thực tế.

“Tôi sẽ không gọi đây là con đường dẫn tới các tiêu chuẩn phổ quát. Tôi sẽ gọi nó là sự kết hợp giữa một vài thỏa thuận quan trọng và việc tăng cường minh bạch. Không hoàn chỉnh, mang tính chính trị và đầy thỏa hiệp”, ông nói.

“Đó là cách con người thường xử lý những công cụ nguy hiểm. AI không thay đổi mô hình này. Nó chỉ làm tăng cái giá phải trả nếu chúng ta xử lý sai.”

Đồng sáng lập Altcoin Pro Ryan Horst không cho rằng cần phải làm chậm quá trình phát triển AI. Theo ông, vấn đề cấp bách nhất của ngành lại nằm ở nhóm rất nhỏ những người đang kiểm soát hướng đi của công nghệ này.

Horst cho rằng kế hoạch được đề xuất có thể khiến các công ty AI nhỏ khó phát triển, bởi họ sẽ không bao giờ có đủ khả năng bắt kịp những doanh nghiệp dẫn đầu ngành.

“Tôi không tin mối đe dọa lớn nhất của AI nằm ở tốc độ phát triển. Tôi cho rằng mối đe dọa lớn nhất là các quyết định về hướng phát triển AI đang nằm trong tay một nhóm nhỏ người, trong khi những quyết định đó lại ảnh hưởng đến toàn bộ hành tinh”, Horst nói.

Theo ông, nếu các tiêu chuẩn mới khiến những công ty nhỏ không thể bắt kịp các doanh nghiệp dẫn đầu, thị trường AI có thể ngày càng tập trung quyền lực vào một số ít công ty lớn.

Lời cảnh báo AI có thể “tiêu diệt tất cả chúng ta”

Bài viết của ông Amodei xuất hiện chỉ vài ngày sau khi nhà nghiên cứu Anthropic Jacob Coxon tuyên bố rời công ty vì lo ngại công nghệ này cuối cùng có thể gây tổn hại nghiêm trọng cho xã hội.

Coxon, người từng thực hiện nghiên cứu cho OpenAI của ông Altman, chỉ trích cả hai công ty là thiếu trách nhiệm và đang “đánh cược với mạng sống của chúng ta”.

“Những người đang xây dựng AI thực sự tin rằng nó có thể giết chết tất cả chúng ta vào cuối thập niên này. Đây không phải một chiêu marketing”, Coxon viết trên X.

“Nếu có gì khác thì nhiều lãnh đạo và nhà nghiên cứu cấp cao sẽ lựa chọn cách diễn đạt trên truyền thông sao cho nghe có vẻ hợp lý. Nhưng trong riêng tư, tôi nghe chính những người đó bày tỏ nỗi sợ tương tự. Không có hoạt động nào khác của con người tạo ra mức độ nguy hiểm như vậy.”

Những cảnh báo mới nhất cho thấy tranh luận trong ngành AI đang ngày càng chuyển từ câu hỏi AI có thể làm được gì sang một câu hỏi khó hơn: con người còn có thể kiểm soát AI mạnh đến mức nào nếu tốc độ phát triển tiếp tục tăng?