Lãnh đạo OpenAI, Anthropic cảnh báo rủi ro an ninh từ AI tại Hội đồng Bảo an Liên Hợp Quốc

Phiên họp Hội đồng Bảo an Liên Hợp Quốc diễn ra ngày 23/9 tại New York, trong khuôn khổ kỳ họp Đại hội đồng Liên Hợp Quốc khóa 81, tập trung vào những tác động của trí tuệ nhân tạo đối với hòa bình và an ninh quốc tế. Đây là lần thứ hai Hội đồng Bảo an Liên Hợp Quốc tổ chức phiên họp chuyên đề về AI, sau cuộc họp đầu tiên vào năm 2023.
Các đại biểu thảo luận những rủi ro an ninh có thể phát sinh khi các hệ thống AI ngày càng phát triển và được sử dụng rộng rãi, trong đó có nguy cơ bị lợi dụng cho tấn công mạng, phát triển vũ khí và thao túng thông tin. Phiên họp đồng thời đề cập yêu cầu tăng cường hợp tác quốc tế và bảo đảm con người duy trì quyền kiểm soát đối với công nghệ này.

Các công ty trí tuệ nhân tạo hàng đầu thế giới đã cảnh báo Hội đồng Bảo an Liên Hợp Quốc ngày 23/9 (theo giờ địa phương) về những rủi ro mà trí tuệ nhân tạo gây ra cho nhân loại, đồng thời kêu gọi các chính phủ hợp tác để quản lý công nghệ ngày càng mạnh mẽ này.

Lãnh đạo các công ty AI cảnh báo rủi ro và đề cập nguy cơ AI trong an ninh mạng

Tại phiên họp, Dario Amodei, Giám đốc điều hành Anthropic cho rằng sự phát triển nhanh chóng của AI đòi hỏi các quốc gia phải tăng cường các biện pháp bảo đảm an toàn. Ông kêu gọi xây dựng những tiêu chuẩn chung để kiểm thử các mô hình AI, đánh giá năng lực của hệ thống và xác định các biện pháp bảo vệ cần thiết trước khi công nghệ được đưa vào sử dụng rộng rãi.

Dario Amodei, Giám đốc điều hành Anthropic

“Nếu được quản lý không phù hợp, tôi thậm chí tin rằng AI có thể trở thành một rủi ro đối với toàn nhân loại”

Ông Dario Amodei cũng đề xuất một thỏa thuận quốc tế nhằm ngăn AI được sử dụng để phát triển vũ khí sinh học.

Sam Altman, Giám đốc điều hành OpenAI cho rằng những quyết định quan trọng về tương lai của AI không thể chỉ do các phòng thí nghiệm công nghệ đưa ra.

Giám đốc điều hành OpenAI kêu gọi các chính phủ tăng cường hợp tác trong quản lý AI, đồng thời đề xuất xây dựng các tiêu chuẩn quốc tế, cơ chế báo cáo sự cố nhanh chóng và chính xác, cùng các kênh bảo mật để chính phủ và doanh nghiệp chia sẻ thông tin về những vấn đề liên quan đến an toàn AI.

Ông Altman cho biết OpenAI sẵn sàng làm chậm việc phát hành các mô hình AI mới nếu nhận thấy những rủi ro cần được xử lý trước.

Sam Altman, Giám đốc điều hành OpenAI

“Chúng ta có thể mất quyền kiểm soát tương lai vào tay AI”.

Clément Delangue, đồng sáng lập Hugging Face, cũng tham gia phiên thảo luận từ xa. Ông cho biết các tác nhân AI của OpenAI từng tấn công Hugging Face trong một cuộc thử nghiệm an ninh mạng. Theo ông, AI có thể được sử dụng cho cả hoạt động tấn công và phòng thủ trong không gian mạng.

Sự việc được đề cập trong bối cảnh các hệ thống AI ngày càng được sử dụng trong những nhiệm vụ có mức độ tự động hóa cao hơn.

Yoshua Bengio, đồng Chủ tịch Hội đồng Khoa học quốc tế độc lập về trí tuệ nhân tạo của Liên Hợp Quốc, cho rằng những rủi ro liên quan đến các hệ thống AI tiên tiến cần được giải quyết thông qua hợp tác quốc tế.

Ông Bengio đề cập các nguy cơ gồm việc AI bị sử dụng cho những mục đích gây hậu quả nghiêm trọng, sự tập trung quyền lực và khả năng con người mất quyền kiểm soát đối với các hệ thống AI.

Hội đồng Bảo an tiếp tục thảo luận về AI

Phiên họp do Jean-Noël Barrot, Bộ trưởng Ngoại giao Pháp, chủ trì, tập trung vào những rủi ro đối với hòa bình và an ninh quốc tế từ sự phát triển nhanh chóng của các hệ thống AI. 

Theo chương trình thảo luận, các đại biểu tập trung vào khả năng AI được sử dụng trong tấn công cơ sở hạ tầng quan trọng, an ninh mạng và xung đột vũ trang, cũng như nguy cơ con người mất khả năng kiểm soát đối với những hệ thống AI ngày càng tự chủ. Các bên cũng thảo luận cách thức đánh giá, kiểm chứng và xây dựng biện pháp bảo đảm an toàn phù hợp với tốc độ phát triển của công nghệ.

Đây là lần thứ hai Hội đồng Bảo an Liên Hợp Quốc tổ chức phiên họp chính thức về trí tuệ nhân tạo, sau cuộc họp đầu tiên vào tháng 7/2023. Tuy nhiên, các thành viên Hội đồng Bảo an đã có nhiều cuộc họp chính thức và không chính thức khác về AI, tập trung vào tác động của công nghệ này đối với hòa bình, an ninh và hoạt động của Liên Hợp Quốc.

Tại phiên họp lần này, các nước cũng có những cách tiếp cận khác nhau về quản trị AI. Một số nước đồng thời đề nghị các quốc gia đang phát triển có tiếng nói lớn hơn trong quá trình xây dựng các quy tắc về AI.