Chặn AI 'vượt tầm kiểm soát' ?

Liên hiệp quốc kêu gọi hành động khẩn cấp để kiểm soát AI. Ảnh: TTXVN

Thúc đẩy kiểm soát AI

Theo TTXVN, trong bức thư gửi tới các quốc gia và nhà phát triển AI, đồng thời được chia sẻ với giới truyền thông, Cao ủy Liên hợp quốc về Nhân quyền Volker Turk cảnh báo, thế giới đang đứng trước ngưỡng cửa của những thay đổi không thể đảo ngược, ảnh hưởng không chỉ đến chúng ta mà còn đến thế hệ nhân loại mai sau. “Cuộc chạy đua để phát triển AI ngày càng mạnh mẽ hơn, là bước chuyển biến hướng tới những rủi ro hiện hữu lớn hơn ở mọi khía cạnh trong cuộc sống của chúng ta”, ông Volker Turk viết trong bức thư ngỏ.

Trong đó, ông Volker Turk kêu gọi các quốc gia nơi đặt trụ sở của công ty AI tiên tiến tăng cường quy định, bao gồm việc yêu cầu công ty AI báo cáo sự cố nghiêm trọng, xác minh khả năng của AI và bắt buộc thực hiện thẩm định về nhân quyền.

Người đứng đầu cơ quan nhân quyền Liên hợp quốc đồng thời kêu gọi các quốc gia thành viên hợp tác thông qua thể chế đa phương để xây dựng sự đồng thuận toàn cầu về quản trị AI và bảo vệ nhân quyền trước rủi ro do AI gây ra. Các quốc gia và các công ty phát triển AI phải tiên phong hành động khẩn cấp nhằm kiểm soát công nghệ mà ông Volker Turk cảnh báo là tiềm ẩn “rủi ro chưa từng có”.

Ông Volker Turk khẳng định, không quốc gia nào có thể tự mình kiểm soát AI. Không công ty nào được phép tự quyết định rủi ro mà thế giới phải chấp nhận. Không ai được phép từ bỏ quyền con người để đổi lấy những tuyên bố về tiến bộ công nghệ.

Lời cảnh báo trên được đưa ra vào thời điểm lo ngại về rủi ro của hệ thống máy tính “siêu thông minh” đang bùng phát mạnh mẽ, sau khi một nhà nghiên cứu tại công ty AI hàng đầu Anthropic từ chức vì lo sợ AI có thể vượt khỏi tầm kiểm soát của con người.

Kế hoạch tiên phong

Giữa làn sóng lo ngại rủi ro về AI, CEO của Anthropic, ông Dario Amodei đã kêu gọi các công ty AI cùng “điều chỉnh tốc độ phát triển”. Nói cách khác là phối hợp để làm chậm lại quá trình phát triển AI. Lời kêu gọi nhận được sự ủng hộ công khai từ các đối thủ cạnh tranh chính là Elon Musk (xAI) và Sam Altman (OpenAI).

Trong khi đó, Liên minh châu Âu (EU) chuẩn bị đưa ra dự luật cấm trẻ em dưới 15 tuổi tự ý sử dụng mạng xã hội, các nền tảng chia sẻ video, chatbot ứng dụng AI và trò chơi điện tử trực tuyến. Đây được xem là một trong những kế hoạch mang tính bước ngoặt và quyết liệt nhất từ trước đến nay của khối nhằm bảo vệ trẻ em trước rủi ro trên không gian mạng, trong đó có liên quan đến AI.

Đề xuất của EU là một phần của Đạo luật trẻ em EU mà Chủ tịch Ủy ban châu Âu Ursula von der Leyen và người đứng đầu cơ quan công nghệ EU Henna Virkkunen sẽ trình bày vào ngày 17/9. Bà Ursula von der Leyen nhận định, cách tiếp cận của EU cần cho phép trẻ vị thành niên được hưởng lợi từ tiềm năng to lớn của dịch vụ kỹ thuật số, đồng thời bảo vệ chúng khỏi sự lạm dụng và bóc lột. Cần phải hạn chế quyền truy cập của công ty công nghệ vào trẻ em EU, chứ không phải ngược lại, theo TTXVN.

Đề xuất của EU phân rõ độ tuổi. Trẻ em từ 15 tuổi trở lên có thể tự tạo tài khoản riêng, trong khi trẻ em từ 13 đến 14 tuổi có thể yêu cầu cha mẹ mở tài khoản dùng thử trên các nền tảng mạng xã hội và chia sẻ video dưới sự kiểm soát của phụ huynh, với các giới hạn về liên lạc và thời gian sử dụng nghiêm ngặt. Trẻ từ 3 đến 12 tuổi sẽ do cha mẹ hoàn toàn kiểm soát và chỉ được sử dụng cho các dịch vụ thân thiện với trẻ em, đáp ứng tiêu chuẩn an toàn nghiêm ngặt. Trẻ em dưới 3 tuổi sẽ không được phép truy cập các dịch vụ này.

Trong khi đó, công ty công nghệ sẽ phải cung cấp công cụ cho phép trẻ em dễ dàng báo cáo nội dung độc hại và công cụ kiểm soát hiệu quả dành cho phụ huynh...