Có những chỗ ở Phố Wall mà AI không thể thắng dân cổ cồn trắng

Trong những lĩnh vực có độ phức tạp và rủi ro cực độ như An ninh mạng, Ngân hàng Đầu tư hay Bảo hiểm, năng lực tính toán siêu việt của máy móc dường như vẫn đang vấp phải "bức tường" trực giác và khả năng ra quyết định mang tính con người.

Có những lĩnh vực tại Phố Wall mà trực giác của con người quan trọng hơn AI

Trong tháng 2 năm nay, việc Anthropic phát hành bản xem trước (preview) của một công cụ an ninh mạng tối tân đã lập tức kích hoạt một đợt bán tháo thảm khốc vắt ngang qua toàn bộ ngành công nghiệp này. Những gã khổng lồ đầu ngành như Palo Alto Networks, CrowdStrike, Okta và SentinelOne đều không thoát khỏi sức ép bán ra ồ ạt từ giới đầu tư.

An ninh mạng: Khi AI phơi bày lỗ hổng và ranh giới của trực giác

Dan Schiappa, một cựu binh với 20 năm kinh nghiệm trong ngành an ninh mạng, hiện là Chủ tịch phụ trách công nghệ và dịch vụ tại Arctic Wolf, đã phải thừa nhận một sự thật. Ông đánh giá các bản phát hành mới nhất của dòng Claude là một "sự cải tiến mang tính chất nhảy vọt về chức năng" xét trên khía cạnh năng lực an ninh mạng.

Schiappa nói: "Đó là một tia sáng hé lộ về tương lai. Nếu bạn đang hoạt động trong thị trường rà quét lỗ hổng mã nguồn, ví dụ như công ty khởi nghiệp Snyk, thì sự xuất hiện của công nghệ này mang một ý nghĩa cực kỳ quan trọng đối với sự sinh tồn của doanh nghiệp",

Sức mạnh đó đã được chứng minh trong tuần này khi Anthropic hé lộ Mythos, một mô hình hoàn toàn mới. Công ty này tự hào công bố Mythos đã tìm ra "hàng ngàn lỗ hổng bảo mật có mức độ nghiêm trọng cực cao" ẩn giấu trong mọi hệ điều hành và trình duyệt web lớn nhất hiện nay. Anthropic tự tin khẳng định năng lực của Mythos có thể "tái định hình lại toàn bộ ngành an ninh mạng". Để giải quyết hàng ngàn lỗ hổng vừa được phát hiện, hãng đang phải phối hợp chặt chẽ với các đối thủ từng bị bán tháo như CrowdStrike và Palo Alto Networks, cùng với một số tập đoàn Big Tech khác.

Tuy nhiên, cựu binh Dan Schiappa cảnh báo rằng chuyên môn về an ninh mạng rộng lớn và phức tạp hơn rất nhiều so với việc chỉ đơn thuần dùng thuật toán để quét và phát hiện các đoạn mã lỗi.

"Trí tuệ nhân tạo cực kỳ xuất sắc trong các tác vụ mang tính định hướng cụ thể, nhưng nó vẫn chưa thực sự làm tốt trong quá trình suy luận mang tính quyết định trên diện rộng (broad deterministic reasoning)", ông phân tích. "AI có thể đưa ra một lời khuyến nghị phân tích, nhưng nó lại thiếu đi sự chắc chắn tuyệt đối để tự mình thực hiện hành động can thiệp. Đó chính là lúc cần đến con người. Các chuyên gia an ninh mạng là những người đã từng tham gia vào các trận chiến giáp lá cà (hand-to-hand combat) với tin tặc. Họ thấu hiểu kẻ thù, họ đã từng chứng kiến các thủ đoạn đó trước đây, hoàn toàn bằng trực giác".

Ông nhấn mạnh thêm về tính chất sinh tử của ngành: "Chúng tôi đang ở trong một ngành công nghiệp không cho phép bất kỳ rủi ro hay đánh cược nào. Sự sống còn của hàng vạn doanh nghiệp đang được đặt lên bàn cân".

Phố Wall và những cỗ máy "nịnh bợ": Giới hạn trong định giá và đầu tư

Không dừng lại ở an ninh mạng, vòi bạch tuộc của Anthropic đã vươn sâu vào lĩnh vực dịch vụ tài chính. Hãng đã trình làng một cụm các công cụ cắm trong (plug-ins) tập trung vào các phân ngành chuyên sâu như ngân hàng đầu tư (investment banking), vốn cổ phần tư nhân (private equity), nghiên cứu chứng khoán và quản lý gia sản.

Công ty cho biết những hệ thống này cho phép AI thực hiện khối lượng công việc khổng lồ như: rà soát hàng ngàn trang tài liệu giao dịch sáp nhập, xây dựng các bảng phân tích đối thủ cạnh tranh, bóc băng và phân tích ngữ nghĩa của các bản ghi âm báo cáo thu nhập (earnings transcripts), và thậm chí là cập nhật các mô hình tài chính theo thời gian thực bằng cách trích xuất dữ liệu thô và mô phỏng các kịch bản kinh tế.

Nhiều nhà đầu tư từng trải nghiệm công cụ này thừa nhận rằng các đặc vụ AI như Cowork hoạt động cực kỳ hiệu quả trong việc thu thập và phân tích các tập dữ liệu phi cấu trúc. Họ đang ứng dụng chúng cho các tác vụ như nghiên cứu thị trường vĩ mô, tìm kiếm nguồn giao dịch (deal sourcing), sàng lọc công ty mục tiêu, và thậm chí là soạn thảo các bản ghi nhớ đầu tư (investment memos) ở giai đoạn sơ khởi.

Thế nhưng, khi bước vào giai đoạn chốt hạ mang tính sinh tử của dòng vốn, trí tuệ nhân tạo lập tức bộc lộ điểm yếu chí mạng. Jean-Baptiste Brian từ quỹ Hg Capital thẳng thừng đánh giá công nghệ hiện tại là "một thứ rác rưởi tuyệt đối trong việc đưa ra phán đoán (crap at judgment)". Ông phác họa các công cụ AI hiện nay giống như những "kẻ nịnh bợ" (sycophantic), luôn có xu hướng đồng ý quá dễ dàng với các giả thuyết do người dùng đưa ra thay vì phản biện một cách độc lập. "Ở thời điểm hiện tại, AI hoàn toàn không có khả năng thực hiện việc đầu tư", ông khẳng định.

Rủi ro "ảo giác" trong dịch vụ tài chính và bảo hiểm tiêu dùng

Câu chuyện về sự thận trọng tiếp tục được cộng hưởng trong không gian của các dịch vụ hướng tới người tiêu dùng. Sam Jones, Giám đốc điều hành (COO) của Compare the Market – một nền tảng chuyên hỗ trợ khách hàng so sánh giá cả các sản phẩm bảo hiểm và tài chính – thừa nhận rằng rủi ro AI có thể thay thế các mô hình kinh doanh như công ty của ông đang là "một câu hỏi sinh tử cho toàn ngành ở thời điểm hiện tại".

Tuy nhiên, Jones cho biết các nền tảng trung gian như Compare the Market đang chủ động xây dựng một "bộ khung bảo vệ an ninh" (secure harness) vững chắc bao quanh các mô hình AI. Mục tiêu là để kiểm soát và đảm bảo các đầu ra của trí tuệ nhân tạo phải đạt độ chính xác tuyệt đối, minh bạch và có thể xác minh được – điều mà cả khách hàng và các cơ quan quản lý nhà nước đều đang khao khát.

Sự thiếu kiểm soát trong lĩnh vực này có thể dẫn đến những thảm họa thực sự. "Về mặt kỹ thuật, việc cắm trực tiếp một hệ thống AI vào hệ thống của một công ty bảo hiểm là điều hoàn toàn khả thi ngay lúc này. Nhưng nếu làm vậy, nó sẽ tạo ra những hậu quả vô cùng thảm khốc cho người tiêu dùng", Jones cảnh báo. "AI có thể sinh ra 'ảo giác' (hallucinate) về các điều khoản chấp thuận, nó có thể ảo giác về các điều kiện và điều khoản hợp đồng, và nghiêm trọng nhất, nó có thể ảo giác về mức giá định phí".

Lời giải cuối cùng: Cần cả dân cổ cồn trắng và AI kết hợp

Khi những giới hạn và rủi ro được phơi bày rõ nét, các nhà phát triển AI cũng đang dần điều chỉnh lại kỳ vọng và định vị sản phẩm của mình. Catherine Wu, Giám đốc sản phẩm tại Anthropic, đã phải lên tiếng nhấn mạnh một triết lý thiết kế cốt lõi: Các hệ thống trí tuệ nhân tạo thực chất rất cần các nền tảng phần mềm đang tồn tại trên thị trường để hoạt động và giúp cho công việc trở nên hiệu quả hơn, chứ không phải được sinh ra để tiêu diệt và thay thế hoàn toàn các ông lớn công nghệ truyền thống.

"Chúng tôi sẽ không bao giờ trở thành những người giỏi nhất trong các phần mềm cộng tác làm việc, hoặc trở thành chuyên gia trong việc quản lý toàn bộ các giao dịch bán hàng, hay chi phối toàn bộ các bản thiết kế của bạn. Đơn giản là chúng tôi không bao giờ có đủ khả năng để thâu tóm toàn bộ những chức năng khổng lồ đó vào duy nhất một ứng dụng Cowork", bà Wu chia sẻ một cách thực tế.

Khép lại cuộc chiến định hình tương lai của lực lượng lao động trí thức, vị nữ giám đốc của Anthropic đúc kết: "Việc cố gắng trở thành một 'siêu ứng dụng vạn năng' (an everything app)... mang lại cảm giác đó là một tham vọng quá mức viển vông đối với chúng tôi"/ Cuối cùng, tương lai của nền kinh tế số sẽ không phải là bức tranh máy móc thay thế con người, mà là sự cộng sinh sâu sắc nơi các Đặc vụ AI khuếch đại sức mạnh cho những nền tảng độc quyền vốn đã được rèn giũa bằng trực giác, dữ liệu và kinh nghiệm của con người.