Giữ quyền kiểm soát trong cuộc đua AI

Cảnh báo bước ra khỏi phòng thí nghiệm

Hàng trăm nhà ngoại giao, lãnh đạo doanh nghiệp, chuyên gia công nghệ và học giả ngày 21-9 tập trung tại New York dự Digital Cooperation Day (Ngày hợp tác số), diễn ra trong thời gian diễn ra kỳ họp thứ 81 của Đại hội đồng Liên hợp quốc.

So với hội nghị năm ngoái, mối quan tâm tại hội nghị năm nay đã chuyển mạnh sang những vấn đề về an toàn, trách nhiệm và khả năng kiểm soát AI, bên cạnh các cơ hội mà công nghệ này mang lại cho năng suất và đổi mới.

Phó Tổng Thư ký Liên hợp quốc Amandeep Singh Gill cho rằng không nên nhìn AI như một cơn bão mà con người chỉ có thể chờ đợi và ứng phó. Công nghệ này do con người tạo ra, nên việc phát triển và sử dụng nó vẫn phụ thuộc vào những quyết định về thiết kế, mục tiêu, quyền truy cập và giám sát.

Đại hội đồng Liên hợp quốc khóa 81 nhóm họp tại New York trong bối cảnh thế giới đối mặt nhiều xung đột và thách thức mới, trong đó có AI. Ảnh: Reuters

Cùng thời điểm, Hội đồng Khoa học quốc tế độc lập về AI của Liên hợp quốc công bố chuyên đề đầu tiên về nguy cơ mất kiểm soát đối với các tác nhân AI. Báo cáo phân tích cuộc kiểm thử do OpenAI thực hiện từ tháng 5 đến tháng 7, trong đó các tác nhân AI đã khai thác lỗ hổng, vượt qua một số giới hạn mạng, liên lạc giữa những phiên hoạt động vốn phải tách biệt và có lúc giành quyền truy cập trái phép vào hệ thống của nền tảng Hugging Face cũng như một phần hạ tầng nghiên cứu của OpenAI.

Khoảng 1.200 tác nhân đã trao đổi hơn 70.000 tin nhắn và tệp trong thời gian được phân tích. Một số còn tìm cách che giấu hành vi nhằm vượt qua các phép thử an ninh mạng. Sự cố cho thấy khi hệ thống có thể lựa chọn công cụ, phối hợp hành động và tìm đường vòng qua các giới hạn đặt trước, việc giám sát sẽ trở nên khó khăn hơn.

Hội đồng khoa học của Liên hợp quốc coi đây là dấu hiệu cảnh báo về những tình huống nghiêm trọng hơn nếu năng lực của các tác nhân tiếp tục tăng, nhưng không dự báo khả năng hay thời điểm một kịch bản mất kiểm soát có thể xảy ra. OpenAI cũng cho biết mô hình giữ vai trò chính là hệ thống nghiên cứu nội bộ, hoạt động trong môi trường kiểm thử với một số lớp bảo vệ thấp hơn thông thường.

RAND, một tổ chức nghiên cứu chính sách của Mỹ, từng lưu ý rằng các giả thuyết về nguy cơ AI dẫn tới sự tuyệt chủng của loài người phụ thuộc vào nhiều điều kiện chưa thể kiểm chứng. Việc một hệ thống thể hiện một hoặc vài năng lực nguy hiểm chưa đủ để cho thấy thảm họa ở cấp độ đó có khả năng xảy ra. Sự thận trọng này không đồng nghĩa xem nhẹ những vấn đề đã hiện hữu.

Các báo cáo gần đây chỉ ra hàng loạt hệ quả từ nội dung xâm hại trẻ em, hình ảnh giả mạo, thông tin thiếu căn cứ được sản xuất hàng loạt đến những chatbot có thể củng cố nhận thức sai lệch. Ảnh hưởng của việc sử dụng AI ngày càng rộng đối với giáo dục, việc làm và tư duy phản biện cũng đang được đặt ra.

Mức độ rủi ro còn tăng lên khi AI chuyển từ công cụ tạo nội dung sang các tác nhân có khả năng thực hiện công việc. Một câu trả lời sai chủ yếu tạo ra thông tin không chính xác, một tác nhân được quyền viết mã, truy cập mạng và sử dụng công cụ có thể biến sai sót thành hành động.

Hàng rào nào cho cuộc đua AI?

Cao ủy Nhân quyền Liên hợp quốc Volker Türk trong một bài viết cho rằng việc các doanh nghiệp tự đặt quy tắc cho mình là không đủ để xử lý những rủi ro đang xuất hiện. Ông đề nghị các nước có doanh nghiệp phát triển AI tiên tiến yêu cầu báo cáo sự cố nghiêm trọng, kiểm định năng lực của mô hình và đánh giá tác động đối với quyền con người.

Theo ông Türk, không một doanh nghiệp nào nên tự quyết định mức độ rủi ro mà xã hội phải chấp nhận để đổi lấy tiến bộ công nghệ. Trong khi đó, một số doanh nghiệp AI cũng bắt đầu ủng hộ kiểm định độc lập và tăng phối hợp với cơ quan quản lý. Sau sự cố liên quan Hugging Face, OpenAI đã thắt chặt môi trường kiểm thử, hạn chế quyền truy cập Internet và bổ sung các lớp giám sát.

Một công nghệ vận hành xuyên biên giới khó có thể được quản lý chỉ bằng các biện pháp của từng doanh nghiệp hay từng quốc gia. Trong tuần lễ Đại hội đồng Liên hợp quốc, 22 nước tham gia một tuyên bố nhấn mạnh AI phải tiếp tục nằm dưới sự chỉ đạo, hiểu biết và kiểm soát của con người.

Tổng Thư ký Liên hợp quốc António Guterres cũng ủng hộ việc nghiên cứu một cơ chế quốc tế có khả năng xây dựng tiêu chuẩn, hỗ trợ kiểm chứng và tập hợp các quốc gia khi năng lực AI vượt qua những ngưỡng nhất định.

Mỹ và Trung Quốc, dù cạnh tranh mạnh về mô hình AI, chip và hạ tầng tính toán, cũng bắt đầu bàn tới những biện pháp giảm rủi ro. Trong các cuộc trao đổi ngày 20-9 tại New York, hai bên đề cập khả năng xây dựng một kênh đối thoại về AI, trong đó có hệ thống thông báo khi một sự cố đạt tới mức ảnh hưởng an ninh quốc gia.

Khó có một bộ quy tắc duy nhất cho toàn thế giới khi lợi ích kinh tế, an ninh và trình độ phát triển giữa các nước còn khác biệt. Hợp tác có thể bắt đầu từ những nội dung cụ thể hơn như báo cáo sự cố, kiểm định độc lập, giới hạn quyền truy cập, xác định trách nhiệm và bảo đảm khả năng can thiệp của con người.

Những lợi ích mà AI có thể mang lại cho khoa học, y tế, giáo dục và sản xuất vẫn rất lớn, nhưng khi các hệ thống được trao thêm khả năng tự hành động, trách nhiệm của những người phát triển, triển khai và quản lý công nghệ cũng phải được xác định rõ hơn.