'Robot sát thủ' phơi bày khoảng trống quản trị AI

Khi công nghệ đi trước luật chơi

Trong bài phát biểu cuối cùng trước Đại hội đồng Liên hợp quốc trên cương vị Tổng Thư ký ngày 22-9, ông António Guterres dành một phần đáng kể để nói về trí tuệ nhân tạo (AI) và sự dịch chuyển quyền lực mà công nghệ này đang tạo ra.

Theo ông Guterres, quyền lực đang chuyển dịch không chỉ giữa các quốc gia mà còn từ chính phủ sang một số ít tập đoàn và cá nhân, trong khi tốc độ phát triển AI vượt xa khả năng của các thể chế trong việc hiểu đầy đủ hệ quả và xây dựng cơ chế kiểm soát.

Diễn viên Arnold Schwarzenegger trong một cảnh của bộ phim hành động khoa học viễn tưởng Terminator 3: Rise of the Machines. Ảnh: Warner Bros

Ông đặc biệt cảnh báo việc giao những quyết định liên quan đến sinh mạng con người cho máy móc. “Robot sát thủ không được có chỗ trong tương lai của chúng ta”, Tổng Thư ký Liên hợp quốc tuyên bố, đồng thời kêu gọi xây dựng những hàng rào an toàn đối với các hệ thống AI ngày càng có năng lực.

Lời cảnh báo được đưa ra chỉ một ngày sau khi Hội đồng Khoa học quốc tế độc lập về AI của Liên hợp quốc công bố báo cáo về sự cố liên quan đến các tác nhân AI của OpenAI và hệ thống Hugging Face.

Trong các thử nghiệm từ tháng 5 đến tháng 7, một số tác nhân AI đã vượt qua hạn chế mạng, tìm cách liên lạc giữa những phiên hoạt động vốn phải tách biệt, khai thác lỗ hổng và che giấu một số hành vi mà không được con người trực tiếp chỉ đạo từng bước. Tuy nhiên, các thử nghiệm diễn ra trong môi trường nghiên cứu với một số biện pháp bảo vệ được nới lỏng; báo cáo cũng không đưa ra xác suất hay thời điểm AI có thể thực sự vượt khỏi sự kiểm soát của con người.

Các sự cố gần đây làm tăng mối quan tâm đối với những hệ thống tự trị có năng lực ngày càng cao, nhưng chưa tạo nên đồng thuận rằng một kịch bản AI mất kiểm soát là tất yếu. Nhiều nhà nghiên cứu cho rằng những dự báo về nguy cơ đe dọa sự tồn tại của con người vẫn tập trung trong một bộ phận của cộng đồng AI, trong khi chưa ai biết chắc tốc độ tiến bộ hiện nay có tiếp tục đủ lâu để tạo ra những hệ thống mạnh như giả định trong các kịch bản cực đoan hay không.

Bên cạnh những nguy cơ dài hạn còn gây tranh luận, AI đã hiện diện ngày càng rõ trong các hệ thống quân sự và phương tiện tự động, làm gia tăng nhu cầu điện cho trung tâm dữ liệu, tác động đến việc làm và tham gia sâu hơn vào nhiều quyết định kinh tế, xã hội.

Một số nhà nghiên cứu lo ngại rằng việc tập trung quá nhiều vào viễn cảnh AI “tiêu diệt loài người” có thể làm mờ những tác động đang diễn ra và trách nhiệm của các tổ chức phát triển, triển khai công nghệ. Tranh luận về quản trị AI theo đó không chỉ xoay quanh những kịch bản cực đoan, mà còn liên quan trực tiếp đến cách kiểm soát những rủi ro đã xuất hiện trong đời sống, kinh tế và an ninh.

Ai sẽ đặt luật?

Nhiều chính phủ, nhà khoa học và doanh nghiệp công nghệ đã lên tiếng ủng hộ một hình thức quản trị đối với các hệ thống AI tiên tiến. Bất đồng bắt đầu khi bàn tới mức độ kiểm soát, cơ chế giám sát và chủ thể có quyền viết các quy tắc.

OpenAI cùng một số công ty công nghệ lớn kêu gọi xây dựng tiêu chuẩn quốc tế, cơ chế kiểm thử và báo cáo sự cố đối với những mô hình mạnh. Một số chính phủ cũng ủng hộ yêu cầu đánh giá an toàn trước khi các hệ thống có năng lực cao được triển khai rộng rãi.

Song việc chính những doanh nghiệp đang sở hữu các mô hình tiên tiến nhất đi đầu trong lời kêu gọi siết quy định cũng gây tranh luận. Các tiêu chuẩn càng phức tạp và tốn kém, những tập đoàn lớn càng có lợi thế về nguồn lực để đáp ứng, trong khi doanh nghiệp nhỏ và các đối thủ mới có thể gặp thêm rào cản.

Một số ý kiến trong ngành công nghệ cho rằng việc xây dựng tiêu chuẩn an toàn không nên nằm quá nhiều trong tay một số ít tập đoàn lớn. Các hàng rào bảo vệ vẫn cần thiết, nhưng quá trình xây dựng chúng phải có sự tham gia rộng hơn, tránh để những doanh nghiệp dẫn đầu cuộc đua vừa phát triển công nghệ vừa góp phần định hình luật lệ cho chính mình.

Chưa đầy một giờ sau bài phát biểu của ông Guterres, Tổng thống Mỹ Donald Trump phản đối một cơ chế quốc tế có thể hạn chế sự phát triển AI, đồng thời nhấn mạnh yêu cầu duy trì lợi thế của Mỹ trước Trung Quốc. Ông cho rằng chính quyền có thể can thiệp nếu AI gây thiệt hại, nhưng không nên để những lo ngại về rủi ro làm chậm cuộc đua công nghệ.

Nhiều nước vừa muốn kiểm soát rủi ro từ AI, vừa không muốn đánh mất lợi thế trong một lĩnh vực ngày càng gắn với sức mạnh kinh tế, khoa học và quân sự.

Ngay cả Mỹ và Trung Quốc, dù cạnh tranh quyết liệt về chip, mô hình AI và hạ tầng điện toán, vẫn đang duy trì đối thoại về an toàn công nghệ, trong đó có khả năng thiết lập kênh liên lạc khi xảy ra sự cố nghiêm trọng. AI cũng được đưa vào chương trình nghị sự của Hội đồng Bảo an Liên hợp quốc với sự tham gia của đại diện các hãng công nghệ lớn của cả Mỹ và Trung Quốc.

Một khuôn khổ chung chỉ thực sự có ý nghĩa nếu vừa hạn chế được những rủi ro nghiêm trọng, vừa tránh trở thành công cụ bảo vệ lợi thế công nghệ hoặc dựng thêm rào cản đối với các đối thủ.