Tốc độ phát triển AI có thể chuyển từ 'chóng mặt' sang 'không thể kiểm soát'

Ngày 12/9, CEO Anthropic Dario Amodei và CEO OpenAI Sam Altman đồng loạt công khai quan điểm cần làm chậm cuộc đua xây dựng các hệ thống trí tuệ nhân tạo (AI). Động thái diễn ra trong bối cảnh hàng loạt nhà nghiên cứu hàng đầu liên tục đưa ra cảnh báo về rủi ro công nghệ này.

Các nhà nghiên cứu cảnh báo tốc độ phát triển AI có thể vượt tầm kiểm soát của con người. Ảnh: Shutterstock

Trong bài luận dài gần 4.000 từ, Amodei cho rằng các công ty công nghệ nên chủ động giảm nhịp độ nâng cấp mô hình. Ông nhận định tốc độ tiến bộ của AI hiện vượt xa khả năng thấu hiểu và kiểm soát của giới nghiên cứu.

"Chúng ta phải kìm hãm tốc độ nâng cao năng lực các mô hình AI. Quá trình phát triển nhìn chung vẫn diễn ra nhanh nhưng chúng ta cần sử dụng quỹ thời gian có thêm một cách khôn ngoan", CEO Anthropic nhấn mạnh.

Chỉ vài giờ sau, Sam Altman bày tỏ sự đồng thuận trên mạng xã hội X và khẳng định OpenAI sẽ áp dụng một trong các biện pháp an toàn do Amodei đề xuất. Altman viết: "Tôi đồng ý với Dario rằng chúng ta cần điều tiết tốc độ phát triển công nghệ tiên phong".

Ông cho biết chủ đề này đã được thảo luận nội bộ kỹ lưỡng tại OpenAI suốt những tuần gần đây. Trước đó, vào ngày 18/8, OpenAI từng tạm dừng huấn luyện một số mô hình nâng cao để đảm bảo đáp ứng các tiêu chuẩn an toàn.

Amodei chỉ ra hai yếu tố khiến ông thay đổi góc nhìn: việc các hệ thống AI đang bắt đầu có khả năng tự phát triển AI thế hệ sau, cùng sự cố hồi tháng 7 khi các tác tử AI tự hành vận hành bằng mô hình của OpenAI đã tấn công hệ thống của nền tảng Hugging Face.

"Nhiều người có thể xem nhẹ sự việc vì chưa có thiệt hại về người và tổn thất kinh tế rất nhỏ. Nhưng theo tôi, một mạng lưới AI năng lực cao hơn với cùng mức độ lệch chuẩn như vậy hoàn toàn có thể gây ra thảm họa", Amodei cảnh báo.

Lo ngại này cũng được chia sẻ bởi nhiều chuyên gia nghiên cứu rời khỏi các công ty AI gần đây. Jacob Coxon, chuyên gia an toàn vừa từ chức tại Anthropic tuần trước, ví hướng tiếp cận phát triển siêu trí tuệ hiện tại như một "canh bạc đánh cược mạng sống".

"Nhìn từ bên trong, bạn hoàn toàn bị cuốn vào cuộc đua. Bạn không thể thay đổi động lực cạnh tranh chung. Cuộc đua giữa các công ty tư nhân khiến họ không thể làm điều tốt và chúng ta có thể vô thức bước thẳng vào thảm họa", Coxon chia sẻ.

Tương tự, Joe Benton, cựu trưởng nhóm nghiên cứu an toàn tại Anthropic, cảnh báo tốc độ phát triển AI có thể chuyển từ "chóng mặt" sang "không thể kiểm soát". Josh Engels, cựu chuyên gia an toàn tại Google DeepMind, thậm chí cho rằng ngành AI đang thiếu các cơ chế kiểm soát có trách nhiệm để ứng phó rủi ro.

Để giải quyết vấn đề, CEO Anthropic đề xuất kế hoạch ba bước mang tên "điều tiết công nghệ tiên phong". Kế hoạch này nhằm giúp giới chuyên môn có thêm thời gian mà không cần đóng băng hoàn toàn tiến trình công nghệ.

Cụ thể, Anthropic sẽ bắt đầu đưa các đơn vị đánh giá độc lập vào nội bộ, cho phép họ tiếp cận mô hình, công cụ và đội ngũ nghiên cứu để rà soát rủi ro. Amodei kêu gọi thiết lập cơ chế giám sát tương tự trên toàn bộ các công ty AI hàng đầu của Mỹ, dưới sự hỗ trợ của luật liên bang và dần tiến tới điều phối quốc tế.

Theo Amodei, việc chủ động kìm hãm tốc độ có thể đem lại thêm 1-2 năm quý giá để hoàn thiện các biện pháp an toàn và kiểm thử mức độ ổn định của hệ thống: "Cái giá phải trả là quá lớn, việc điều tiết tốc độ không thể là động thái chiếu lệ. Chúng ta phải tận dụng tối đa thời gian có được".

(Theo NBC News)