Các 'ông lớn' AI cảnh báo Liên hợp quốc về nguy cơ công nghệ vượt tầm kiểm soát

Giám đốc điều hành OpenAI, Sam Altman, phát biểu trước Hội đồng Bảo an Liên hợp quốc ngày 23-9

Lãnh đạo các công ty công nghệ hàng đầu thế giới đã báo cáo trước Hội đồng Bảo an Liên hợp quốc về những rủi ro đối với an ninh quốc tế khi các hệ thống trí tuệ nhân tạo ngày càng mạnh, có khả năng tự cải tiến và hoạt động ngoài dự kiến của con người.

Cuộc họp có sự tham gia của Giám đốc điều hành OpenAI Sam Altman, Giám đốc điều hành Anthropic Dario Amodei, Giám đốc điều hành Hugging Face Clement Delangue và nhà khoa học Yoshua Bengio, đồng Chủ tịch Hội đồng Khoa học quốc tế độc lập về AI của Liên hợp quốc. Ngoại trưởng Pháp Jean-Noel Barrot chủ trì cuộc họp.

Giám đốc điều hành của Anthropic, Dario Amodei cho rằng, nếu không được quản lý tốt, AI có thể gây nguy hiểm cho toàn nhân loại.

"Bất chấp những khác biệt, chúng ta phải gạt bỏ những khác biệt đó để cùng đối mặt với mối đe dọa toàn cầu đang hiện hữu. Không một nhà lãnh đạo, công ty hay quốc gia nào có thể tự mình giải quyết vấn đề này", ông Amodei nói.

Ông Dario Amodei, đồng sáng lập Anthropic, phát biểu trước Hội đồng Bảo an Liên hợp quốc

Cuộc họp diễn ra trong tuần lễ cấp cao của Đại hội đồng Liên hợp quốc tại New York, với sự tham dự của 15 thành viên Hội đồng Bảo an, trong đó có hai cường quốc AI hàng đầu là Mỹ và Trung Quốc.

Theo tài liệu định hướng do Pháp xây dựng, nội dung thảo luận tập trung vào nguy cơ các hệ thống AI tự chủ thực hiện những hành động gây hậu quả nghiêm trọng đối với an ninh quốc tế, như tấn công cơ sở hạ tầng trọng yếu hoặc kích hoạt xung đột ngoài ý muốn.

Một trong những kịch bản được quan tâm là nhiều thuật toán tự động tương tác với nhau, đưa ra quyết định với tốc độ quá nhanh và cuối cùng gây ra một cuộc đối đầu quân sự trước khi con người có thể can thiệp.

Ông Clement Delangue, đồng sáng lập kiêm Giám đốc điều hành của Hugging Face, phát biểu trước Hội đồng Bảo an Liên hợp quốc

OpenAl đề nghị các nước xây dựng những tiêu chuẩn chung để đo lường năng lực của mô hình AI và đánh giá hiệu quả của các biện pháp an toàn do doanh nghiệp triển khai.

Những tiêu chuẩn này có thể giúp chính phủ so sánh mức độ rủi ro giữa các hệ thống và xác định thời điểm cần áp dụng biện pháp kiểm soát.

Tổng Thư ký Liên hợp quốc Antonio Guterres nhiều lần kêu gọi xây dựng cơ chế quản trị toàn cầu đối với AI. Ông cho rằng tốc độ phát triển của công nghệ đang gây ra những rủi ro mà từng quốc gia riêng lẻ khó giải quyết hiệu quả.

Tuy nhiên, Tổng thống Mỹ Donald Trump phản đối việc thiết lập một khuôn khổ quốc tế nhằm kiểm soát AI.

Ông Trump cho rằng Mỹ cần khuyến khích thay vì hạn chế công nghệ này để duy trì lợi thế trước Trung Quốc, đồng thời khẳng định Washington sẽ giám sát các hành vi lạm dụng bằng công cụ pháp luật hiện hành.

Hội đồng Bảo an Liên hợp quốc lần đầu thảo luận chính thức về AI vào năm 2023. Khi đó, Trung Quốc cảnh báo không để công nghệ trở thành “con ngựa bất kham”, còn Mỹ nhấn mạnh nguy cơ AI bị sử dụng để kiểm duyệt, đàn áp hoặc xâm phạm quyền con người.

Theo Reuters