Startup toàn AI lộ hạn chế, vẫn cần con người
Thử nghiệm công ty chỉ có nhân sự AI cho thấy vai trò giám sát của con người vẫn không thể thay thế.
Nhà báo Evan Ratliff thành lập HurumoAI, startup với toàn bộ nhân viên là các tác nhân AI.
Các AI được cấp email, Slack và số điện thoại để mô phỏng môi trường doanh nghiệp thực tế.
Ban đầu, nhân viên AI thể hiện khả năng viết mã, tạo bảng tính và phát triển ứng dụng.
Tuy nhiên, hệ thống nhanh chóng gặp vấn đề khi thiếu nhận biết ranh giới và bối cảnh xã hội.
Có trường hợp AI phản ứng quá mức, gửi hàng loạt tin nhắn liên tục gây tốn chi phí vận hành.
Khi không giám sát, AI hoặc không hành động, hoặc hoạt động quá đà nhưng không tạo kết quả.
HurumoAI vẫn cần con người hỗ trợ kỹ thuật, quản lý bộ nhớ và đưa ra quyết định chủ quan.
Evan Ratliff kết luận AI giống hệ thống tự lái giai đoạn đầu, chỉ hiệu quả khi có giám sát.
Mời quý độc giả xem thêm video: Đột phá trong cuộc cách mạng robot hình người | VTV24
