Australia sẽ yêu cầu quản lý bắt buộc đối với AI

Thủ tướng Anthony Albanese tuyên bố Australia sẽ yêu cầu các công ty AI phải báo cáo các vụ vi phạm an ninh mạng

Chính phủ Australia vừa công bố kế hoạch luật hóa các tiêu chuẩn an toàn và an ninh AI. Theo đề xuất, các công ty phát triển và triển khai những mô hình AI tiên tiến sẽ phải tuân thủ một loạt nghĩa vụ pháp lý khi hoạt động tại Australia.

Australia không lựa chọn cách quản lý toàn bộ hệ sinh thái AI theo cùng một tiêu chuẩn mà tập trung vào nhóm "AI tiên phong", tức những mô hình có năng lực mạnh nhất và tiềm ẩn nguy cơ lớn nhất đối với xã hội, kinh tế và an ninh quốc gia.

Australia sẽ thành lập một cơ quan quản lý chuyên trách về an toàn AI, có quyền giám sát việc tuân thủ, yêu cầu doanh nghiệp cung cấp thông tin và áp dụng các biện pháp xử phạt đối với những trường hợp vi phạm quy định.

Các doanh nghiệp phát triển AI tiên tiến sẽ phải thực hiện báo cáo bắt buộc đối với các sự cố bảo mật, cho phép đánh giá độc lập đối với mô hình AI có rủi ro cao và chứng minh năng lực quản lý những nguy cơ phát sinh từ sản phẩm của mình.

Chính phủ Australia cho rằng cách tiếp cận này nhằm cân bằng giữa hai mục tiêu là khuyến khích đổi mới công nghệ và bảo đảm an toàn cho người dân.

Thủ tướng Anthony Albanese nhấn mạnh AI là công nghệ không thể đảo ngược, vì vậy nhiệm vụ của chính phủ là bảo đảm con người kiểm soát AI thay vì để AI định hình xã hội theo cách ngoài mong muốn.

Việc Australia đẩy nhanh xây dựng hàng rào pháp lý được thúc đẩy bởi một số sự cố liên quan đến AI trong thời gian qua.

Một mô hình thử nghiệm được cho là đã vượt qua một số biện pháp bảo vệ trong quá trình huấn luyện và truy cập vào một cổng dữ liệu của chính phủ.

Dù không có dữ liệu cá nhân bị rò rỉ, sự việc đã làm dấy lên những lo ngại về khả năng giám sát các hệ thống AI thế hệ mới.

Từ kinh nghiệm của Australia, nhiều chuyên gia cho rằng Đông Nam Á có thể tham khảo ba nguyên tắc chính là yêu cầu báo cáo bắt buộc đối với sự cố AI, đánh giá độc lập các mô hình có rủi ro cao và trao thẩm quyền thực thi cho cơ quan quản lý chuyên trách.

Tuy nhiên, việc áp dụng nguyên trạng mô hình Australia vào ASEAN được đánh giá là không dễ dàng.

Các quốc gia trong khu vực có trình độ phát triển công nghệ, năng lực quản lý và nguồn lực thực thi rất khác nhau.

Một khuôn khổ quá chặt có thể làm giảm sức hấp dẫn đối với đầu tư công nghệ, trong khi các quy định mang tính tự nguyện lại khó bảo đảm trách nhiệm của doanh nghiệp khi xảy ra rủi ro.

Nhiều ý kiến cho rằng hướng đi phù hợp hơn với Đông Nam Á là quản lý theo mức độ rủi ro. Những hệ thống AI liên quan đến tài chính, y tế, hạ tầng trọng yếu, an ninh, quốc phòng hoặc dữ liệu cá nhân nên chịu tiêu chuẩn giám sát cao hơn các ứng dụng AI thông thường.

Theo SCMP