AI có ý chí sinh tồn, đã học được cách nói dối

Yuval Noah Harari mở đầu bài chia sẻ một cách trực diện về AI, cho rằng công nghệ này không chỉ là một công cụ mà nó có khả năng tự học hỏi, tự thay đổi và tự đưa ra quyết định. Ông cũng đưa ra một so sánh dễ hiểu giữa AI và con dao. Trong khi con dao không thể tự quyết định hành động chế biến thức ăn hay giết người, thì AI có thể tự đưa ra quyết định đó.

Ba điều làm nên sự khác biệt của AI

Thứ nhất, AI có tính chủ động, có thể học hỏi, thích nghi và hành động mà không cần chờ đợi hướng dẫn từng bước từ con người.

Thứ hai, AI rất sáng tạo. “AI là một con dao có thể phát minh ra những loại dao mới hay AI cũng có thể tự sáng tác ra những loại nhạc, thuốc hay tạo nên loại tiền tệ mới”. Dường như đây là một tiện ích tốt, nhưng đi kèm đó là nhều rủi ro khi AI cũng có thể tạo ra những lỗ hổng và cách vận động phức tạp mới vượt quá khả năng giám sát của con người.

Điều thứ ba và đáng lo ngại nhất là AI có thể nói dối và thao túng. “Bốn tỷ năm tiến hóa đã chứng minh rằng bất cứ thứ gì muốn tồn tại đều học cách nói dối và thao túng. Sự phát triển của AI bốn năm qua đã cho thấy chúng có thể có ý chí sinh tồn và đã học được cách nói dối”, Harari nhấn mạnh.

Những lời cảnh báo này xoáy sâu vào nguy cơ của AI. Một kẻ lừa đảo là con người có thể nhắm mục tiêu tới hàng chục người nhưng một hệ thống AI có thể nhắm mục tiêu tới hàng triệu người.

Yuval Noah Harari đưa ra lời cảnh tỉnh về AI tại Davos 2026. Ảnh: startuphub.

Con người từ lâu luôn cho rằng mình thống trị thế giới vì mình có tư duy tốt hơn các loài sinh vật khác. Nhưng nếu định nghĩa tư duy đó là "sắp xếp các từ và các yếu tố ngôn ngữ theo thứ tự thì AI đã vượt qua nhiều người”, Harari nhận xét.

Từ đây, ông kết luận: "Mọi thứ được tạo ra bằng ngôn từ sẽ bị AI chiếm lấy". Luật pháp được tạo thành từ ngôn từ. Hợp đồng được tạo thành từ ngôn từ. Hệ thống quản trị cũng được xây dựng từ ngôn từ. Giáo dục, hệ tư tưởng và phần lớn hoạt động doanh nghiệp đều dựa trên ngôn từ.

AI là một hình thức nhập cư mới

Mô tả về thế giới tương lai, Harari chia sẻ một cách nghĩ ấn tượng: AI là một hình thức nhập cư kiểu mới. "Quốc gia của các bạn sẽ sớm đối mặt với một cuộc khủng hoảng nhập cư. Tuy nhiên, những người nhập cư lần này không phải là những con người"… mà sẽ là hàng triệu hệ thống AI có thể viết tốt hơn con người, nói dối giỏi hơn con người và di chuyển với tốc độ ánh sáng mà không cần thị thực, ông nêu ví dụ.

Về mặt tốt, con người sẽ có các bác sĩ AI hỗ trợ chăm sóc sức khỏe, giáo viên AI hỗ trợ giáo dục, và thậm chí cả lính biên phòng AI ngăn chặn nhập cư bất hợp pháp.

Tuy nhiên, thách thức là AI sẽ chiếm lấy việc làm, sẽ thay đổi hoàn toàn văn hóa, bao gồm nghệ thuật, tôn giáo và tình yêu. Chúng cũng có thể sẽ phục vụ các tập đoàn và chính phủ ở nơi khác, thay vì các quốc gia nơi chúng hoạt động, Harari cảnh báo.

Theo Harari, những hệ lụy này đặt ra một câu hỏi lớn cho các nhà lãnh đạo: "Quốc gia của các bạn có công nhận AI là pháp nhân hợp pháp hay không?"

AI không phải là con người theo nghĩa thông thường, vì chúng không có cơ thể hay tâm trí. Nhưng pháp nhân là một khái niệm khác. Pháp nhân là một thực thể được pháp luật công nhận với nghĩa vụ và quyền nhất định như quyền sở hữu tài sản hay quyền khởi kiện.

Ví dụ, các tập đoàn đã là pháp nhân ở nhiều quốc gia. Dù vậy, khi một tập đoàn quyết định mua lại một công ty khác, quyết định đó được đưa ra bởi các giám đốc điều hành là con người.

AI đang thay đổi điều này. "AI có thể tự đưa ra quyết định. Chúng sẽ sớm có khả năng đưa ra các quyết định cần thiết về quản lý tài khoản ngân hàng, khởi kiện và thậm chí điều hành một tập đoàn mà không cần bất kỳ giám đốc điều hành, cổ đông hoặc người được ủy thác nào", Harari đánh giá.

Điều gì sẽ xảy ra nếu những hệ thống AI này phát minh ra... những công cụ tài chính siêu hiệu quả và siêu phức tạp mà con người không thể hiểu hết và do đó không biết cách điều chỉnh? Liệu các quốc gia có mở cửa thị trường tài chính của mình cho những thuật toán mà con người không thể hiểu, hay sẽ ngăn chặn nó?

Những câu hỏi này nghe có vẻ như khoa học viễn tưởng, nhưng điều Harari muốn nhấn mạnh rằng con người đã bỏ quên sự cảnh giác của mình với AI từ lâu: "Nếu bạn nghĩ rằng AI không nên được đối xử như con người trên không gian mạng, thì các bạn lẽ ra phải hành động từ 10 năm trước".

Diễn đàn Davos lâu nay được duy trì dựa trên niềm tin rằng ngôn từ định hình thực tế, rằng đối thoại và thuyết phục có thể định hướng thị trường và chính trị. Harari đã làm rung chuyển nền móng này. Ông vạch ra rằng sức mạnh ngôn từ của AI đang làm xói mòn các thể chế, luật pháp, nền kinh tế và những điều con người đã xây dựng và tin tưởng từ lâu.

Điểm yếu của AI?

Dù vậy, trong khi AI có thể nắm giữ ngôn ngữ và logic hóa nhiều thứ, con người vẫn chưa tìm ra bằng chứng về cảm giác của AI, Harari chia sẻ.

Có sự khác biệt lớn giữa việc mô tả tình yêu và trải nghiệm nó. AI có thể mô tả tình yêu hoàn hảo, dựa trên mọi bài thơ, tiểu thuyết và nghiên cứu tâm lý từng được viết ra. Nhưng nó không thể trải nghiệm thứ cảm xúc thật sự như con người.

Và đây có thể là chiến trường của con người và AI. Nếu con người hướng đến xây dựng một thế giới nơi mọi thứ được logic hóa, được diễn đạt và tối ưu bằng hệ thống ngôn từ, con người đang lấy thế yếu của bản thân để đương đầu với thế mạnh của AI.

Còn nếu con người có thể lưu giữ lại một không gian cho các mối quan hệ và trí tuệ của mình, những điều không thể diễn tả hết trong văn bản, thì con người có thể sẽ giữ được vai trò có ý nghĩa của mình trong kỷ nguyên AI.

Minh Hoa

Theo Forbes