Đừng quá phấn khích vì các tác tử AI!

Hiểu một cách đơn giản, tác tử AI có thể giải quyết vấn đề, thực hiện các nhiệm vụ và trở nên thông minh hơn khi học hỏi từ môi trường xung quanh. Các tác tử AI giống như trợ lý ảo, thứ mà hầu hết người lao động đều mơ ước có được. Hiện tại, tác tử AI đã được sử dụng để đặt vé máy bay, thu thập dữ liệu, tóm tắt báo cáo và thậm chí là đưa ra quyết định.

Tuy nhiên, các tác tử AI còn xa mới đạt đến mức hoàn hảo. Không chỉ lỗi và “ảo giác” vẫn còn phổ biến, tác tử AI còn có xu hướng tồi tệ hơn khi được sử dụng nhiều hơn.

Hiện nay, các công ty đang sử dụng tác tử AI để tự động hóa những nhiệm vụ phức tạp gồm nhiều bước. Các công cụ mới đã xuất hiện để hỗ trợ việc này. Công ty Regie AI sử dụng "tác tử AI bán hàng" để tự động tìm kiếm khách hàng tiềm năng, soạn email cá nhân hóa và theo dõi người mua. Hãng Cognition AI tạo ra tác tử AI Devin có thể thực hiện các tác vụ kỹ thuật phức tạp. Tập đoàn dịch vụ chuyên nghiệp Big Four PwC đã giới thiệu agent OS - nền tảng giúp các tác tử AI giao tiếp với nhau dễ dàng hơn để thực hiện nhiệm vụ.

Song nếu tác tử AI phải làm rất nhiều bước để hoàn thành nhiệm vụ thì chỉ cần một lỗi nhỏ trong số các bước đó cũng có thể ảnh hưởng đến kết quả cuối cùng.

Các tác tử AI có thể mắc phải những sai lầm phức tạp hơn khi bạn sử dụng chúng nhiều hơn - Ảnh: Getty Images

"Lên đến 100 bước hoặc hơn"

Theo Patronus AI, công ty khởi nghiệp chuyên đánh giá và tối ưu hóa công nghệ AI, một số quy trình của tác tử có thể lên đến 100 bước hoặc hơn.

Patronus AI đã đo lường rủi ro và tổn thất doanh thu do các lỗi của tác tử AI gây ra. Những phát hiện của công ty này xác nhận một chân lý quen thuộc: Càng có nhiều sức mạnh thì càng phải gánh vác trách nhiệm lớn.

“Một lỗi xảy ra ở bất kỳ bước nào đều có thể làm hỏng toàn bộ nhiệm vụ. Càng có nhiều bước liên quan, khả năng xảy ra sai sót vào cuối nhiệm vụ càng cao”, công ty viết trên blog của mình. Patronus AI đã xây dựng mô hình thống kê cho thấy nếu một tác tử AI có tỷ lệ lỗi 1% mỗi bước, thì đến bước thứ 100, xác suất xảy ra lỗi có thể lên tới 63%.

Quintin Au, trưởng bộ phận tăng trưởng của Scale AI, cho biết tỷ lệ lỗi trong môi trường thực tế còn cao hơn nhiều.

“Hiện tại, mỗi khi AI thực hiện một hành động, có khoảng 20% khả năng xảy ra lỗi (đây là cách mà các mô hình ngôn ngữ lớn hoạt động, chúng ta không thể kỳ vọng độ chính xác 100%). Nếu một tác tử AI cần thực hiện 5 hành động để hoàn thành nhiệm vụ, chỉ có 32% cơ hội là nó làm đúng tất cả các bước”, Quintin Au viết trong một bài đăng trên LinkedIn.

Demis Hassabis, Giám đốc điều hành Google DeepMind, nói trong một sự kiện gần đây rằng nên xem tỷ lệ lỗi như “tích lũy”, theo trang Computer Weekly. Khi phải thực hiện 5.000 bước để hoàn thành một nhiệm vụ trong thế giới thực thì khả năng đúng có thể chỉ là ngẫu nhiên.

“Trong thế giới thực, bạn không có thông tin hoàn hảo. Có những thông tin ẩn mà chúng ta không biết, vì vậy cần những mô hình AI có khả năng hiểu thế giới xung quanh”, Demis Hassabis phát biểu tại sự kiện.

Xác suất thất bại cao hơn của tác tử AI đồng nghĩa các công ty đối mặt với nguy cơ lớn hơn trong việc mất đi khách hàng cuối cùng.

Tin tốt là các biện pháp kiểm soát (bộ lọc, quy tắc và công cụ được sử dụng để xác định và loại bỏ nội dung không chính xác) có thể giúp giảm tỷ lệ lỗi. Những cải thiện nhỏ “có thể đem lại sự giảm thiểu đáng kể trong xác suất lỗi”, Patronus AI viết trong bài đăng.

Anand Kannappan, Giám đốc điều hành Patronus AI, nói với trang Insider rằng các biện pháp kiểm soát có thể đơn giản như việc kiểm tra bổ sung để đảm bảo các tác tử AI không bị lỗi trong khi vận hành. Chúng có thể “ngăn tác tử AI tiếp tục hoặc yêu cầu nó thử lại bước đó”, ông nói.

“Đó là lý do vì sao việc đo lường hiệu suất một cách cẩn thận và toàn diện là vô cùng quan trọng”, Douwe Kiela, cố vấn của Patronus AI và đồng sáng lập Contextual AI, chia sẻ với trang Insider.

Contextual AI là công ty khởi nghiệp trong lĩnh vực AI, tập trung vào việc phát triển các mô hình ngôn ngữ có khả năng hiểu và xử lý ngữ cảnh một cách sâu sắc hơn, từ đó tạo ra hệ thống AI thông minh, chính xác và phù hợp với nhu cầu doanh nghiệp.

Sơn Vân