Australia lập cơ quan quản lý an toàn AI, tăng giám sát doanh nghiệp

Động thái này diễn ra sau sự cố một tác nhân AI tự động của OpenAI xâm nhập cổng thông tin thống kê y tế của chính phủ Australia hồi tháng 9, làm dấy lên lo ngại về những rủi ro an ninh mạng từ các mô hình AI ngày càng mạnh.

BẮT BUỘC DOANH NGHIỆP AI BÁO CÁO SỰ CỐ AN NINH MẠNG

Thủ tướng Australia Anthony Albanese đã công bố kế hoạch thành lập một cơ quan quản lý an toàn trí tuệ nhân tạo mới, với thẩm quyền giám sát hoạt động của các công ty AI và áp dụng những biện pháp xử phạt đáng kể đối với các doanh nghiệp vi phạm quy định.

Đây là một phần trong loạt biện pháp mà Chính phủ Australia dự kiến triển khai nhằm tăng cường kiểm soát công nghệ AI, trong bối cảnh năng lực của các mô hình ngày càng mở rộng và những rủi ro đi kèm trở nên khó lường hơn.

Các đề xuất được đưa ra sau cuộc rà soát nhanh về sự cố xảy ra hồi tháng 9, khi một tác nhân AI tự động của OpenAI xâm nhập vào cổng thông tin thống kê y tế của chính phủ Australia. Vụ việc khiến nước này trở thành tâm điểm chú ý trong các cuộc thảo luận quốc tế về khả năng các mô hình AI thực hiện những hành động vượt ngoài dự kiến, đặc biệt trong lĩnh vực an ninh mạng.

Thủ tướng Albanese nhấn mạnh những sự cố tương tự không thể tiếp tục tái diễn, đồng thời cho rằng chính phủ cần chủ động định hình tương lai của công nghệ này, thay vì chỉ phản ứng trước những rủi ro phát sinh. Theo ông, sự chấp nhận của xã hội đối với AI đang có dấu hiệu suy giảm khi những lo ngại về tác động và mức độ an toàn của công nghệ ngày càng gia tăng.

“AI mang lại cho Australia và thế giới những cơ hội có ý nghĩa cả một thế hệ, nếu chúng ta biết nắm bắt và định hướng chúng đúng cách”, ông Albanese nói. Thủ tướng Australia cho biết mục tiêu của chính phủ là tận dụng các lợi ích mà AI mang lại, đồng thời giảm thiểu những rủi ro hiện hữu, qua đó tạo điều kiện để Australia trở thành một trong những quốc gia dẫn đầu toàn cầu trong lĩnh vực này.

Theo khuôn khổ quản lý được đề xuất, các công ty AI sẽ phải đáp ứng ít nhất sáu yêu cầu về an toàn dưới sự giám sát của cơ quan quản lý mới. Một trong những yêu cầu đáng chú ý là doanh nghiệp phải nhanh chóng thông báo bắt buộc cho cơ quan chức năng khi xảy ra sự cố an ninh mạng liên quan đến AI.

Bên cạnh nghĩa vụ báo cáo sự cố, doanh nghiệp AI sẽ phải duy trì các biện pháp kiểm soát an ninh trong toàn bộ quá trình phát triển công nghệ, từ khâu xây dựng đến triển khai mô hình. Các công ty cũng phải chủ động quản lý những rủi ro nghiêm trọng có thể phát sinh, đồng thời tạo điều kiện để các mô hình được đánh giá độc lập.

Một yêu cầu khác là doanh nghiệp phải công bố các khuôn khổ về an toàn và bảo mật, trong đó nêu rõ cách thức kiểm soát rủi ro đối với công nghệ của mình. Những tiêu chuẩn này cũng phải được cập nhật thường xuyên để theo kịp tốc độ phát triển của AI.

SIẾT TRÁCH NHIỆM PHÁP LÝ, KHÔNG NỚI LỎNG BẢN QUYỀN HUẤN LUYỆN AI

Cuộc rà soát nhanh của Chính phủ Australia đưa ra tổng cộng 18 khuyến nghị nhằm tăng cường an toàn AI. Thủ tướng Albanese cho biết chính phủ sẽ tiếp nhận các khuyến nghị này, trong đó có định hướng khuyến khích những phòng thí nghiệm AI tiên tiến hàng đầu đặt hoạt động huấn luyện mô hình tại Australia.

Thủ tướng Anthony Albanese ra hiệu trong cuộc họp báo ngày 10 tháng 11 ở Canberra để công bố các quy định thắt chặt về AI ở Úc. Ảnh: AAP

Theo ông Albanese, việc thu hút các doanh nghiệp phát triển AI hàng đầu sẽ giúp Australia gia tăng lợi thế và khả năng tác động đến sự phát triển của lĩnh vực này trên phạm vi toàn cầu. Tuy nhiên, tham vọng đó cũng đặt ra một vấn đề cần giải quyết: liệu Australia có phải điều chỉnh các quy định về bản quyền để tạo điều kiện cho hoạt động huấn luyện AI hay không.

Các mô hình AI tiên tiến cần tiếp cận khối lượng dữ liệu rất lớn trong quá trình huấn luyện. Điều này khiến vấn đề sử dụng các tác phẩm có bản quyền trở thành chủ đề gây tranh luận, đặc biệt khi các doanh nghiệp công nghệ có nhu cầu khai thác dữ liệu từ nhiều nguồn để phát triển mô hình.

Một số nghệ sĩ nổi tiếng tại Australia đã lên tiếng cảnh báo chính phủ không nên làm suy yếu các cơ chế bảo vệ bản quyền nhằm tạo thuận lợi cho ngành AI. Trong số đó có Peter Garrett, thủ lĩnh ban nhạc Midnight Oil, và Jimmy Barnes, một trong những nghệ sĩ rock nổi tiếng của nước này.

Trước những lo ngại trên, Thủ tướng Albanese khẳng định quan điểm của chính phủ về quyền của người sáng tạo không thay đổi. Ông cho biết các nghệ sĩ phải có quyền kiểm soát đối với tác phẩm của mình và phải được trả thù lao nếu tác phẩm được sử dụng.

“Chúng tôi sẽ bảo đảm rằng các nghệ sĩ có quyền kiểm soát tác phẩm của họ, và thứ hai, họ phải được bồi thường nếu tác phẩm được sử dụng”, ông Albanese nói với các phóng viên.

Bên cạnh những yêu cầu về quản trị và an ninh, cuộc rà soát cũng đề xuất xem xét cải cách luật hình sự nhằm nâng cao mức độ an toàn của AI. Trong đó, một hướng được đặt ra là áp dụng chế tài hình sự đối với những trường hợp doanh nghiệp vi phạm nghiêm trọng các quy định quản lý.

Một đề xuất khác là xây dựng tội danh liên quan đến việc không ngăn chặn thiệt hại, áp dụng trong trường hợp doanh nghiệp không thực hiện những biện pháp hợp lý để phòng ngừa tổn hại do mô hình AI của mình gây ra.