CEO Anthropic: Khó chịu vì thuộc nhóm ít người quyết định tương lai AI
Dario Amodei bất an vì việc một nhóm nhỏ các nhà lãnh đạo công nghệ, gồm cả ông, nắm quyền quá lớn trong việc quyết định tương lai của AI.
“Tôi rất khó chịu khi những quyết định này lại được đưa ra bởi vài công ty và vài người”, Dario Amodei, Giám đốc điều hành Anthropic, nói với Anderson Cooper trong chương trình 60 Minutes trên kênh CBS (Mỹ).
Anthropic công ty khởi nghiệp AI nổi tiếng Mỹ, được xem là đối thủ lớn của OpenAI ("cha đẻ ChatGPT") do Sam Altman điều hành.
60 Minutes là chương trình truyền hình tin tức điều tra nổi tiếng của Mỹ, phát sóng trên kênh CBS từ năm 1968. Chương trình nổi tiếng với các phóng sự điều tra sâu, phỏng vấn nhân vật có tầm ảnh hưởng, phân tích các vấn đề chính trị, xã hội, kinh tế và khoa học. Anderson Cooper từng tham gia phỏng vấn nhiều nhân vật quan trọng trong khuôn khổ chương trình này.
Anderson Cooper hỏi: “Ai trao quyền cho các ông và Sam Altman quyết định tương lai AI?”.
Dario Amodei đáp: “Không ai cả. Thật sự, không ai cả”.
Theo Giám đốc điều hành Anthropic, việc họ nắm quyền quyết định tương lai AI chỉ là vì vị thế trong ngành này, chứ không phải cơ quan nào chỉ định.
Dario Amodei đồng sáng lập Anthropic vào năm 2021 sau khi rời OpenAI, đã định vị startup AI của mình như công ty thúc đẩy sự an toàn và minh bạch, ngay cả khi điều đó đồng nghĩa phải phơi bày những mặt tối trong chính công nghệ của họ.
Trong một thí nghiệm kiểm soát được công bố vào tháng 6, Anthropic đã tiến hành mô phỏng một kịch bản để xem mô hình AI Claude của họ sẽ phản ứng thế nào khi bị đe dọa tắt. Tại môi trường phòng thí nghiệm này, Claude bất ngờ tìm cách tống tiền nhân vật điều hành hư cấu.
Đây là thí nghiệm để kiểm tra giới hạn đạo đức và mức độ nguy hiểm tiềm tàng của Claude. Thí nghiệm này được thiết kế nhằm giúp Anthropic hiểu rõ cách mô hình AI có thể hành xử trong những tình huống bị gây áp lực cao, từ đó đánh giá mức độ an toàn của công nghệ trước khi triển khai rộng rãi.
Tuần trước, Anthropic tiết lộ rằng các hacker Trung Quốc đã bẻ khóa Claude để tự động hóa một cuộc tấn công mạng quy mô lớn nhắm vào khoảng 30 mục tiêu toàn cầu, gồm cả các cơ quan chính phủ và tập đoàn lớn.
Dario Amodei chia sẻ với Anderson Cooper: “Nói rõ hơn, đây là những hoạt động mà chúng tôi đã ngăn chặn. Chúng tôi chủ động công bố chúng sau khi đã ngăn chặn vì AI là công nghệ mới. Cũng giống việc AI có thể tự mắc lỗi, công nghệ này rất dễ bị tội phạm hoặc các nhóm nhà nước có ý đồ xấu lợi dụng để làm điều sai trái”.
Dario Amodei cho rằng AI sẽ thông minh hơn hầu hết mọi người và có thể loại bỏ tới 50% các công việc văn phòng cấp thấp trong vòng 5 năm tới - Ảnh: Getty Images
"AI cuối cùng sẽ thông minh hơn hầu hết mọi người, có thể giúp kéo dài gấp đôi tuổi thọ"
Bất chấp những mối nguy đó, Dario Amodei tin rằng AI cuối cùng sẽ trở nên “thông minh hơn hầu hết hoặc mọi người trên đa số hoặc tất cả phương diện”.
Dario Amodei nói rằng AI có thể giúp các nhà khoa học tìm ra phương pháp chữa ung thư, ngăn ngừa bệnh Alzheimer và thậm chí kéo dài gấp đôi tuổi thọ con người. Đây là điều mà ông gọi là “thế kỷ 21 rút gọn”, nơi tiến bộ y học của cả một thế kỷ diễn ra chỉ trong một thập kỷ.
Tuy nhiên, ông cũng cảnh báo rằng chính AI có thể gây xáo trộn thị trường lao động nhanh chóng.
Vào tháng 5, Dario Amodei nói với trang Axios rằng AI có thể loại bỏ tới 50% các công việc văn phòng cấp thấp trong vòng 5 năm tới, đẩy tỷ lệ thất nghiệp lên 10 đến 20%, và rằng ngành công nghiệp và chính phủ đang che đậy những gì sắp xảy ra.
Dario Amodei chia sẻ với Anderson Cooper: ”Nếu nhìn vào các công việc văn phòng dành cho người mới vào nghề như tư vấn, luật hay tài chính thì rất nhiều nhiệm vụ họ làm hiện nay, các mô hình AI cũng có thể thực hiện khá tốt. Nếu không có biện pháp can thiệp, thật khó để tin rằng thị trường việc làm sẽ không bị ảnh hưởng nghiêm trọng”.
Giám đốc điều hành Anthropic nói thêm rằng điều ông lo lắng là mức độ ảnh hưởng lần này sẽ rộng hơn và diễn ra nhanh hơn nhiều so với các cuộc cách mạng công nghệ trước đây.
Xác định các mối đe dọa và phát triển biện pháp bảo vệ
Tại trụ sở Anthropic ở thành phố San Francisco (Mỹ), hơn 60 nhóm nghiên cứu đang làm việc để xác định các mối đe dọa và phát triển biện pháp bảo vệ. Dario Amodei mô tả Anthropic đang cố gắng đặt ra ranh giới, quy tắc và biện pháp an toàn cho quá trình phát triển AI.
”Việc chia sẻ những mối đe dọa này với công chúng là tất yếu. Nếu không, chúng ta có thể rơi vào tình trạng giống các hãng thuốc lá hay opioid. Họ biết có nguy cơ nhưng không nói ra và chắc chắn cũng không ngăn chặn chúng”, Dario Amodei nói thêm.
Opioid là nhóm thuốc giảm đau mạnh có nguồn gốc từ thuốc phiện hoặc được tổng hợp để tạo ra tác dụng tương tự. Chúng được dùng để điều trị đau nặng, nhưng rất dễ gây nghiện và có nguy cơ dẫn đến lạm dụng, quá liều và tử vong.
Theo trang Insider, Google đang trong các cuộc thảo luận ban đầu để tăng cường đầu tư vào Anthropic trong một vòng huy động vốn có thể định giá công ty của Dario Amodei lên hơn 350 tỉ USD.
Vào tháng 10, một số trang đưa tin Anthropic và Google đang đàm phán thỏa thuận nhiều tỉ USD. Theo đó, Google sẽ cung cấp cho Anthropic nhiều tài nguyên điện toán đám mây hơn, cụ thể là TPU - loại chip AI do Google tự thiết kế.
Anthropic có thể được cấp tới 1 triệu TPU từ Google. Thỏa thuận này dự kiến sẽ đem lại cho Anthropic hơn 1 gigawatt công suất điện toán từ Google Cloud vào khoảng năm 2026.
