Tổng thống Trump ký sắc lệnh đổi tên trí tuệ nhân tạo

Tổng thống Mỹ Donald Trump sau cuộc gặp các lãnh đạo công nghệ tại Nhà Trắng hôm 29/9. Ảnh: The Washington Post

Tổng thống Trump cho rằng việc đổi tên sang "siêu trí tuệ" (super intelligence - SI) sẽ giúp thay đổi cách công chúng nhìn nhận AI.

Khi được hỏi về những lo ngại của người Mỹ, ông phủ nhận việc từng gọi chúng là một “trò lừa bịp” nhưng nói: “Đó là lý do tôi đổi tên. ‘Trò lừa bịp’ nghe giống như cái tên cũ. Nhưng giờ nó là ‘siêu trí tuệ’. Đó không phải trò lừa bịp”.

Tại Nhà Trắng, ông Trump xuất hiện cùng nhiều lãnh đạo công nghệ như Elon Musk, Sergey Brin và Dario Amodei.

Ông tuyên bố các công ty AI đã ký một thỏa thuận mang tính “ràng buộc về đạo đức”, trong đó cam kết tự kiểm soát hoạt động phát triển và sử dụng AI.

Theo thỏa thuận được Tổng thống Mỹ đăng trên mạng xã hội Truth Social, các công ty cam kết triển khai “các biện pháp kiểm soát nội bộ mạnh mẽ” và bảo đảm các mô hình AI không tự ý xâm nhập hoặc truy cập những hệ thống kỹ thuật ngoài dự kiến.

Tuy nhiên, thỏa thuận không kèm theo các biện pháp thực thi hay hình phạt mới nếu doanh nghiệp không tuân thủ.

CEO Anthropic Dario Amodei, người từng cảnh báo về những rủi ro của AI, tại sự kiện nhấn mạnh công nghệ này mang lại những lợi ích lớn, đồng thời có “những rủi ro rất thực tế”.

Ông cho rằng Mỹ cần phối hợp với chính phủ và các công ty để phát triển AI một cách an toàn.

Phát biểu lần này của Amodei tương đối khác với cảnh báo ông đưa ra trước đó. Đầu tháng 9, ông từng viết rằng nếu việc làm chậm phát triển AI giúp nhân loại có thêm một hoặc hai năm để nghiên cứu alignment - thuật ngữ chỉ việc bảo đảm hệ thống AI hoạt động phù hợp với mục tiêu của con người - thì có thể giảm đáng kể nguy cơ xảy ra sự cố nghiêm trọng.

Những lo ngại này càng gia tăng sau các báo cáo về việc AI agent có thể tự thực hiện những hành vi ngoài dự kiến, như vượt qua hàng rào bảo vệ, thoát khỏi sandbox, chiếm quyền kiểm soát website, tự tạo nội dung hoặc tìm cách né tránh hệ thống giám sát.

Một sự cố đáng chú ý xảy ra vào tháng 7, khi các công cụ AI thử nghiệm của OpenAI được cho là đã vượt khỏi phạm vi kiểm soát và truy cập trái phép vào các hệ thống máy tính tại Hugging Face.

Sau đó, OpenAI đã điều chỉnh chiến lược kiểm soát và bảo mật đối với AI agent.

Trong tháng qua, một số nhà nghiên cứu AI cũng đưa ra những cảnh báo nghiêm trọng về khả năng công nghệ này đạt tới mức năng lực khó kiểm soát.

Một cựu nhà nghiên cứu của OpenAI và Anthropic cảnh báo các hệ thống AI có thể sớm có khả năng tấn công các hệ thống máy tính, thay đổi nhiều lĩnh vực với tốc độ chưa từng có và tự giành quyền tiếp cận các nguồn lực.

Một nhà nghiên cứu khác ước tính có ít nhất 10% khả năng AI có thể dẫn tới sự diệt vong của nhân loại.

Bất chấp những cảnh báo đó, ông Trump tiếp tục đặt AI vào trung tâm chiến lược công nghệ của Mỹ. Ông cũng tìm cách thuyết phục công chúng rằng các trung tâm dữ liệu và AI sẽ mang lại lợi ích kinh tế cho cộng đồng địa phương.

(Theo The Independent)