AI ngừng xin phép, 'tự suy nghĩ, tự quyết định' của Trung Quốc gây sốc toàn cầu

Manus đã gây chấn động cộng đồng AI toàn cầu xoay quanh vấn đề: Điều gì xảy ra khi AI ngừng xin phép và bắt đầu tự đưa ra quyết định riêng?

Manus không chỉ là một chatbot bình thường mà là AI Agent tự chủ đầu tiên của thế giới, một hệ thống không chỉ hỗ trợ con người mà còn thay thế họ.

Manus hoàn toàn khác biệt khi nó là tác nhân (Agent) – hệ thống AI biết suy nghĩ, lên kế hoạch và hành động độc lập. Nó được thiết kế để tự làm việc, tiếp cận thông tin mới, chủ động điều chỉnh cách tiếp cận.

Manus AI gây kinh ngạc cho giới công nghệ. Ảnh: VCG

Manus AI có khả năng phân tích giao dịch tài chính đến quét hồ sơ ứng viên mà không cần sự giám sát của con người. Ví dụ như khi cung cấp một tập hồ sơ ứng viên, Manus không chỉ xếp hạng mà còn đọc từng hồ sơ một, trích xuất các kỹ năng liên quan, đối chiếu với xu hướng thị trường và đưa ra quyết định tuyển dụng được tối ưu hóa bằng file Excel tự tạo.

Hoặc như khi yêu cầu “tìm một căn hộ ở San Francisco”, Manus không chỉ xem kết quả tìm kiếm mà còn cân nhắc tỷ lệ tội phạm, xu hướng thuê nhà, thậm chí cả kiểu thời tiết để đưa ra danh sách rút gọn phù hợp với người dùng.

Có thể thấy, Manus như một trợ lý vô hình, sử dụng máy tính như bạn vẫn làm ngoại trừ một việc: nó không bao giờ biết mệt. Chìa khóa nằm ở cấu trúc đa tác nhân (multi-agent).

Nhiều lo ngại với Manus như: Con người sẽ bị thay thế; Việc Manus tự suy nghĩ, tự ra quyết định sẽ làm thiệt hại lớn; Ai chịu trách nhiệm khi một hệ thống tự động, không chịu giám sát, phạm sai lầm?

Margaret Mitchell, CEO Hugging Face, cho rằng "hoàn toàn tự chủ có nghĩa là quyền kiểm soát của con người được giao lại cho AI". Thay vì hoạt động trong ranh giới đã đặt ra, một tác nhân hoàn toàn có thể truy cập những thứ "nhạy cảm" mà chủ nhân của chúng không nhận ra, hoặc hành xử theo cách không ngờ tới, nhất là khi chúng có thể tự viết code để thay đổi cấu trúc lệnh.

"Sẽ không có vấn đề lớn nếu AI Agent đặt sai đơn hàng, nhưng điều gì sẽ xảy ra nếu nó chia sẻ thông tin cá nhân của bạn với website lừa đảo, hay đăng nội dung khủng khiếp trên mạng xã hội dưới tên của bạn?", bà Mitchell đặt câu hỏi. "Với nơi làm việc như chính phủ, nó có nguy cơ gây ra tình huống đặc biệt nguy hiểm, như có thể truy cập vào hệ thống chỉ huy tên lửa".

Mitchell khuyến cáo ngày càng nhiều thông tin có sẵn trên Internet không phải là ngôn ngữ của con người, mà là thông tin để Tác nhân AI có thể "hành động" trên đó. Bà kỳ vọng các chuyên gia công nghệ, nhà lập pháp và nhà hoạch định chính sách sớm đưa ra các quy định giảm thiểu những nguy cơ kể trên.

Cơn sốt ban đầu đã khiến Manus được so sánh với DeepSeek, startup Trung Quốc đã gây chấn động Thung lũng Silicon vào tháng 1/2025 khi phát hành một mô hình AI cạnh tranh mà họ tuyên bố đã phát triển với chi phí chỉ bằng một phần nhỏ so với những gì các đối thủ Mỹ đã chi cho công nghệ của họ. Giống như DeepSeek, Manus một lần nữa làm dấy lên những câu hỏi về vị thế dẫn đầu của Mỹ trong lĩnh vực trí tuệ nhân tạo - lần này là trong một danh mục sản phẩm mà các công ty công nghệ Mỹ xem là lĩnh vực đầu tư trọng điểm.

Tú Ân