Anthropic đề xuất cơ chế đình chỉ các mô hình AI nguy hiểm tại Mỹ
Công ty công nghệ Anthropic (Mỹ) được cho là đã giới thiệu với các nghị sĩ nước này một dự thảo luật về an toàn trí tuệ nhân tạo (AI), trong đó đề xuất cho phép tòa án liên bang đình chỉ việc phát hành hoặc sử dụng các mô hình AI có nguy cơ gây thiệt hại đặc biệt nghiêm trọng.
Theo đó, đại diện Anthropic đã tiếp xúc riêng với các nhà lập pháp tại Quốc hội Mỹ để giới thiệu dự thảo quy định về an toàn và an ninh đối với các mô hình AI tiên tiến.
Ảnh: The News
Theo đề xuất, cơ quan chức năng chỉ được can thiệp khi một mô hình AI gây ra nguy cơ có thể dự báo và sắp xảy ra, với khả năng gây thiệt hại trên 1 tỷ USD hoặc khiến hơn 50 người thiệt mạng hay bị thương nghiêm trọng.
Các nguy cơ thuộc phạm vi điều chỉnh bao gồm việc tạo ra hoặc phát tán vũ khí sinh học, thực hiện các cuộc tấn công mạng hoặc mô hình AI vượt qua những cơ chế kiểm soát do nhà phát triển thiết lập.
Dự thảo cũng đề xuất cơ chế đánh giá độc lập nhằm định kỳ kiểm tra mức độ an toàn của các doanh nghiệp phát triển AI và những mô hình tiên tiến do họ vận hành.
Các tổ chức đánh giá phải đăng ký với Bộ Thương mại Mỹ. Doanh nghiệp phát triển AI được phép chi trả chi phí đánh giá, nhưng khoản thanh toán không được phụ thuộc vào kết quả kiểm tra.
Nếu phát hiện mô hình AI có nguy cơ nghiêm trọng thuộc các trường hợp được quy định, đơn vị đánh giá phải thông báo cho Bộ Thương mại Mỹ trong vòng 72 giờ sau khi hoàn tất quá trình kiểm tra.
Trên cơ sở đánh giá rủi ro, Bộ Thương mại Mỹ có thể đề nghị tòa án đình chỉ hoạt động của mô hình AI liên quan.
Theo dự thảo, thẩm phán liên bang thuộc Tòa án liên bang Quận Columbia, tại thủ đô Washington, có thẩm quyền ra quyết định đình chỉ.
Đề xuất cũng quy định các cơ quan, bộ, ngành hoặc quan chức liên bang khác không được tự ý đình chỉ việc phát triển, triển khai hoặc sử dụng nội bộ các mô hình AI.
