Lo ngại AI phát triển vượt tầm kiểm soát, Anthropic cảnh báo toàn cầu

Công ty trí tuệ nhân tạo (AI) Anthropic. Ảnh tư liệu: AFP

Trong một báo cáo, công ty phát triển dòng mô hình AI Claude, có trụ sở tại thành phố San Francisco (Mỹ) nhận định việc làm chậm tốc độ phát triển AI tiên tiến trên phạm vi toàn cầu “có lẽ sẽ là điều tích cực”. Tuy nhiên, công ty cũng cảnh báo rằng nếu chỉ một doanh nghiệp đơn lẻ dừng lại, các đối thủ sẽ nhanh chóng tăng tốc để giành lợi thế.

Anthropic cho biết: “Chúng tôi tin rằng thế giới nên có khả năng lựa chọn làm chậm hoặc tạm thời ngừng phát triển AI tiên tiến, nhằm tạo điều kiện để những thể chế xã hội và các nghiên cứu về việc bảo đảm AI phù hợp với lợi ích con người có thể theo kịp tốc độ phát triển của công nghệ”. Theo công ty này, để một lệnh tạm dừng thực sự có hiệu quả, nhiều doanh nghiệp AI lớn tại nhiều quốc gia khác nhau – đặc biệt là Mỹ và Trung Quốc – sẽ phải cùng đồng thuận dừng phát triển trong cùng một thời điểm, đồng thời tuân thủ các quy định có thể được kiểm chứng một cách minh bạch.

Anthropic cảnh báo rằng nếu không có một cơ chế phối hợp toàn cầu, các doanh nghiệp và chính phủ sẽ phải đưa ra những quyết định khó khăn liên quan đến an toàn AI trong bối cảnh cạnh tranh thương mại và căng thẳng địa chính trị ngày càng gia tăng. Quan điểm này đã vấp phải sự phản đối từ một số doanh nghiệp trong ngành cũng như các quan chức tại Nhà Trắng. Những ý kiến chỉ trích cho rằng Anthropic đang phóng đại các kịch bản rủi ro tồi tệ nhất, đồng thời sử dụng các lo ngại về an toàn như một cách để làm chậm bước tiến của những đối thủ cạnh tranh.

Dù vậy, Nhà Trắng cũng thừa nhận sức mạnh của mô hình Mythos do Anthropic phát triển. Mô hình này hiện chưa được cung cấp rộng rãi cho công chúng do sở hữu các năng lực an ninh mạng đặc biệt và mới chỉ được triển khai cho một số tổ chức đã được thẩm định.

Đề xuất của Anthropic được cho là sẽ gặp nhiều trở ngại tại Washington và Thung lũng Silicon, nơi giới chức Mỹ và các lãnh đạo công nghệ nhiều lần khẳng định rằng bất kỳ sự chậm lại nào trong phát triển AI cũng có thể khiến Mỹ đánh mất lợi thế chiến lược trước Trung Quốc trong cuộc đua công nghệ được xem là quan trọng nhất của thế kỷ này.

Tuy nhiên, Tổng thống Mỹ Donald Trump cho biết ông đã thảo luận khả năng hợp tác với Trung Quốc về các vấn đề an toàn AI trong chuyến thăm Bắc Kinh gần đây. Ông Trump cũng đã ký một sắc lệnh hành pháp trong tuần này, cho phép chính phủ có 30 ngày để tiến hành đánh giá sơ bộ đối với các mô hình AI mạnh nhất của Mỹ trước khi chúng được phát hành.

Anthropic so sánh vấn đề phát triển AI với các hiệp ước kiểm soát vũ khí hạt nhân, nhưng cho rằng việc quản lý AI còn khó khăn hơn nhiều. Theo công ty, hoạt động huấn luyện AI dễ che giấu hơn việc xây dựng các hầm chứa tên lửa, trong khi động cơ bí mật tiếp tục phát triển công nghệ là rất lớn. Công ty này cho biết sẽ tập hợp các quan chức chính phủ, nhà khoa học, tổ chức vận động chính sách và cả các doanh nghiệp AI cạnh tranh trong những tháng tới để tìm kiếm cơ chế phối hợp phù hợp.