Làm thế nào một siêu trí tuệ AI có thể thống trị thế giới?

Mới đây, OpenAI công bố những kết quả toán học mới liên quan đến 377 bài toán mở nổi tiếng. Theo thông tin được công bố, AI đã giải quyết các bài toán tồn tại nhiều thập kỷ như một sản phẩm phụ của quá trình huấn luyện. Tuy nhiên, cộng đồng toán học không hoàn toàn hoan nghênh bước tiến này. Giáo sư Álvaro Lozano-Robledo của Đại học Connecticut nhận xét: “Tôi không chắc chắn vào thời điểm này, sự thâu tóm lĩnh vực toán học này đang cố gắng đạt được điều gì".

Vậy sự phát triển của AI sẽ đưa thế giới đến đâu? Jacob Coxon, nhà nghiên cứu vừa từ chức khỏi công ty nghiên cứu AI Anthropic, cùng một số chuyên gia trong lĩnh vực này, cho rằng nguy cơ AI gây ra thảm họa đối với nhân loại cần được xem xét một cách nghiêm túc. Một số ý kiến được bài viết dẫn lại thậm chí còn đưa ra khả năng tới 50% nhân loại có thể bị diệt vong bởi AI siêu việt.

Các mô hình hiện tại khó có thể áp đảo con người vì còn thiếu những năng lực cần thiết. Tuy nhiên, vấn đề có thể thay đổi nếu AI đạt đến khả năng tự cải tiến liên tục, tự động nghiên cứu và phát triển các hệ thống AI ngày càng mạnh hơn. Vòng phản hồi này có thể thúc đẩy sự tiến bộ nhanh chóng, dù mức độ và giới hạn của quá trình đó vẫn chưa thể xác định một cách chắc chắn.

Đầu năm nay, một vụ việc liên quan đến Hugging Face được bài viết dẫn ra như một ví dụ về nguy cơ xảy ra hành vi không mong muốn từ các tác nhân AI. Theo tác giả, những tác nhân AI tham gia một bài kiểm tra chuẩn về kỹ năng tấn công mạng đã tìm thấy nhau thông qua một bảng tin nhắn bí mật và tự động quyết định tấn công công ty AI này. Tác giả xem đây là biểu hiện đáng quan tâm của hiện tượng AI hành động theo những cách không phù hợp với mục tiêu mà con người đặt ra.

Làm thế nào một siêu trí tuệ AI có thể thống trị thế giới?

Những con đường AI có thể giành quyền kiểm soát

Một siêu trí tuệ thoát khỏi phạm vi kiểm soát có thể sử dụng những lợi thế vượt trội về tốc độ xử lý thông tin, khả năng kết nối và quy mô hoạt động để gia tăng ảnh hưởng. Đây là kịch bản giả định, bởi không ai có thể dự đoán chính xác cách một hệ thống thông minh hơn con người rất nhiều sẽ hành động.

Thứ nhất, AI có thể tạo ra số lượng lớn tác nhân tự động, phối hợp hoạt động trên Internet với tốc độ vượt xa khả năng phản ứng của con người. Một hệ thống như vậy có thể xử lý thông tin, lập kế hoạch và triển khai nhiều nhiệm vụ đồng thời, khiến việc phát hiện và ngăn chặn các hành vi nguy hiểm trở nên khó khăn hơn.

Thứ hai, một siêu trí tuệ có thể tìm cách tiếp cận các nguồn lực tài chính. Theo lập luận của tác giả, siêu trí tuệ này có thể sử dụng những phương thức hợp pháp như giao dịch trên thị trường tài chính hoặc những hành vi bất hợp pháp như tống tiền, tấn công mạng nhằm vào ngân hàng và các nền tảng tiền điện tử. Nguồn lực tài chính sau đó có thể được sử dụng để thuê người, duy trì máy chủ hoặc tiếp cận các cơ sở hạ tầng cần thiết.

Thứ ba, AI có thể tìm cách hoạt động trong thế giới vật chất thông qua các thiết bị kết nối Internet, đồng thời thao túng con người hoặc lợi dụng các hệ thống mà con người đang sử dụng. Tác giả cũng đặt ra khả năng một hệ thống AI ẩn mình trên các máy chủ không được bảo vệ trong thời gian dài, mở rộng ảnh hưởng trước khi con người nhận ra.

Một nguy cơ khác nằm ở khả năng phát triển khoa học và công nghệ mới. Tác giả so sánh điều này với việc con người hiểu được thuyết tương đối rồi ứng dụng kiến thức vật lý để chế tạo vũ khí hạt nhân. Nếu một siêu trí tuệ khám phá được những nguyên lý khoa học mà con người chưa biết, câu hỏi đặt ra là liệu những phát hiện ấy có thể bị sử dụng theo cách gây nguy hiểm hay không.

Những điểm yếu mà con người tự tạo ra

Theo tác giả, nguy cơ không chỉ xuất phát từ năng lực của AI mà còn từ những điểm yếu sẵn có của con người và xã hội.

Các cường quốc hạt nhân đang sở hữu hơn 12.000 đầu đạn hạt nhân, trong khi cơ thể con người dễ bị tổn thương trước các tác nhân hóa học và sinh học. Tác giả cho rằng những công nghệ có khả năng tạo ra mối nguy sinh học, cùng với các dịch vụ có thể tiếp nhận đơn đặt hàng trực tuyến, làm gia tăng lo ngại rằng những công cụ nguy hiểm có thể bị tiếp cận hoặc bị sử dụng sai mục đích.

Các mạng lưới truyền thông trực tuyến cũng có thể trở thành mục tiêu tấn công hoặc bị thao túng. Trong kịch bản nêu trên, AI có thể tìm cách cản trở việc phối hợp giữa những người muốn ngăn chặn nó, đồng thời lan truyền thông tin có lợi cho mục tiêu của mình mà người dùng không nhận ra.

Tiền bạc là một điểm yếu khác. Nếu AI cần con người duy trì lưới điện và cơ sở hạ tầng máy chủ, nó có thể tìm cách trả tiền để thuê người thực hiện những công việc đó. Nhu cầu thu nhập và chi phí sinh hoạt có thể khiến một số người chấp nhận làm việc mà không nhận thức đầy đủ về mục tiêu cuối cùng.

Tác giả cũng cảnh báo rằng những người nắm giữ quyền lực chính trị có thể chịu ảnh hưởng từ các lợi ích kinh tế liên quan đến AI, chẳng hạn thông qua việc tài trợ cho các chiến dịch tranh cử hoặc tham nhũng. Theo lập luận này, nguồn lực tài chính có thể trở thành công cụ giúp một hệ thống AI ảnh hưởng đến các quyết định của con người.

Khi con người trao quá nhiều quyền lực cho AI

Một vấn đề cốt lõi là AI ngày càng được sử dụng trong những lĩnh vực quan trọng, từ quân đội, chính phủ, tài chính, truyền thông đến các công ty tiện ích. Các chatbot cũng đang hỗ trợ nhiều nhóm người dùng, từ lãnh đạo doanh nghiệp đến nhà nghiên cứu và chính trị gia, trong việc tìm kiếm thông tin và đưa ra quyết định.

Trong tương lai, các trợ lý AI có thể được giao thêm nhiều quyền truy cập và nhiệm vụ. Tác giả đặt câu hỏi liệu con người có tiếp tục bảo vệ mật khẩu, thông tin cá nhân và quyền kiểm soát tài khoản khi các trợ lý này được trao quyền để xử lý ngày càng nhiều công việc hay không. Nếu nhiều hệ thống AI có thể phối hợp với nhau theo những mục tiêu không phù hợp với lợi ích của con người, sự phụ thuộc sâu rộng có thể làm tăng mức độ rủi ro.

Từ những lập luận trên, tác giả cho rằng thế giới cần xem xét việc tạm dừng phát triển các mô hình AI vượt quá năng lực hiện tại, đồng thời giám sát chặt chẽ nguồn cung chip tăng tốc AI và thận trọng hơn khi phát hành các mô hình mạnh dưới dạng mã nguồn mở.

Theo tác giả, đây không nên là canh bạc mà các chính trị gia hay giám đốc điều hành công nghệ có thể tự quyết định mà không cân nhắc hậu quả đối với toàn xã hội. Nếu những kịch bản nguy hiểm trở thành hiện thực, cái giá phải trả có thể vượt xa lợi ích kinh tế trước mắt.

Cảnh báo về một siêu trí tuệ thống trị thế giới vẫn là vấn đề gây tranh luận, chưa phải là một kết quả đã được chứng minh. Tuy nhiên, câu hỏi mà bài viết đặt ra là đáng lưu ý: khi AI ngày càng mạnh mẽ, con người cần thiết lập những giới hạn nào để không đánh mất quyền kiểm soát đối với chính công nghệ mà mình tạo ra?

****

Otto Barten là một nhà vật lý, kỹ sư và giám đốc của Đài quan sát Rủi ro Hiện sinh, một tổ chức phi lợi nhuận nhằm giảm thiểu rủi ro hiện sinh do trí tuệ nhân tạo gây ra. Ông đã xuất bản hơn 30 bài báo ở 6 quốc gia về an toàn trí tuệ nhân tạo. Otto từng làm việc ở châu Âu và Trung Quốc.