Khi cái sai cũng được AI 'tăng tốc': AI càng mạnh, doanh nghiệp càng dễ ngã đau

Ông Nguyễn Phan Huy Khôi - Giám đốc Trung tâm Hỗ trợ Thanh niên Khởi nghiệp Việt Nam, Hội Liên hiệp Thanh niên Việt Nam.

Khi AI đi từ vai trò “trợ lý” sang tham gia tuyển dụng, phân tích khách hàng, định giá, dự báo tài chính hay đề xuất phương án kinh doanh, bài toán của doanh nghiệp không còn dừng ở năng suất. Câu hỏi khó hơn là: AI được trao bao nhiêu quyền, ai kiểm soát nó và khi hệ thống sai, ai phải chịu trách nhiệm?

Theo ông Nguyễn Phan Huy Khôi, Giám đốc Trung tâm Hỗ trợ Thanh niên Khởi nghiệp Việt Nam (SYS Việt Nam) - Hội Liên hiệp Thanh niên Việt Nam, bài toán của doanh nghiệp lúc này không còn nằm ở việc có dùng AI hay không, mà ở cách trao quyền, kiểm soát rủi ro và giữ con người đủ gần với những quyết định có hậu quả lớn. Bởi AI có thể giúp cái đúng đi nhanh hơn, nhưng cũng có thể khiến một cách làm sai được tự động hóa và nhân lên ở quy mô chưa từng có.

Trong cuộc trao đổi vớiDoanh nhân & Công lý, ông Nguyễn Phan Huy Khôi chia sẻ góc nhìn về trách nhiệm khi AI tham gia quyết định, năng lực phản biện AI của lãnh đạo, chất lượng dữ liệu và lợi thế cạnh tranh của doanh nghiệp trong những năm tới.

AI đang dịch chuyển từ một công cụ hỗ trợ sang lớp công nghệ kết nối ngày càng nhiều hoạt động cốt lõi của doanh nghiệp. (Ảnh được tạo có sự hỗ trợ của AI).

AI bước vào vùng quyết định: Năng suất tăng, trách nhiệm không giảm

Khi hành lang pháp lý về AI, dữ liệu và chuyển đổi số ngày càng hoàn thiện, theo ông, doanh nghiệp Việt Nam có cần thay đổi cách tiếp cận AI - từ một công cụ giúp tăng năng suất sang một vấn đề thuộc về quản trị, kiểm soát rủi ro và trách nhiệm? Điểm yếu lớn nhất hiện nay của doanh nghiệp Việt là thiếu công nghệ, thiếu dữ liệu hay thiếu người đủ năng lực để biết khi nào không nên giao quyết định cho AI?

Ông Nguyễn Phan Huy Khôi: Chúng ta đang đi qua giai đoạn đầu tiên của AI trong doanh nghiệp. Giai đoạn ấy chủ yếu là thử xem AI làm được gì, tiết kiệm được bao nhiêu thời gian, một người có thể làm khối lượng công việc trước đây cần ba hay năm người hay không. Nhưng phần khó hơn mới bắt đầu.

Khi AI tham gia tuyển dụng, đánh giá nhân sự, phân tích khách hàng, định giá, dự báo tài chính, đề xuất phương án kinh doanh thì nó đã bước từ vùng công cụ sang vùng có ảnh hưởng tới quyết định. Bây giờ vấn đề không còn chỉ là năng suất nữa, vì AI giúp cho chi phí để tăng năng suất ngày càng trở nên thấp hơn, nhưng AI không làm giảm giá của trách nhiệm.

Chi phí để đọc hàng nghìn tài liệu, phân tích lượng dữ liệu rất lớn hay xây dựng nhiều phương án đang giảm rất nhanh. Một doanh nghiệp nhỏ hôm nay có thể tiếp cận những năng lực mà trước đây phải là tổ chức lớn mới có. Nhưng nếu quyết định sai thì hậu quả vẫn do con người và doanh nghiệp gánh.

Theo quan sát của tôi, doanh nghiệp Việt Nam thường khá nhanh trong việc tiếp cận công nghệ mới. Điều chúng ta chưa phải lúc nào cũng làm nhanh tương ứng là thay đổi quy trình quản trị đi cùng công nghệ đó. Với AI, khoảng trống này đáng lưu ý hơn, bởi một cách làm sai cũng có thể được tự động hóa và nhân lên rất nhanh.

Vì vậy, cái thiếu nhất theo tôi không phải công nghệ. Công nghệ ngày càng dễ tiếp cận. Dữ liệu cũng có thể từng bước xây dựng. Khó hơn là có những người đủ năng lực để biết khi nào nên tin AI, khi nào phải kiểm tra lại và khi nào không được giao quyết định cho nó. Điều đáng ngại đôi khi không phải AI trả lời sai, mà là nó trả lời sai một cách rất thuyết phục.

AI đang được doanh nghiệp đưa ngày càng sâu vào tuyển dụng, phân tích dữ liệu, chăm sóc khách hàng và hỗ trợ ra quyết định. Khi một quyết định có sự tham gia của AI dẫn đến sai sót hoặc gây thiệt hại, ai phải chịu trách nhiệm cuối cùng? Doanh nghiệp cần thiết lập những nguyên tắc quản trị nào?

Ông Nguyễn Phan Huy Khôi: Tôi nghĩ nguyên tắc đầu tiên khá đơn giản: doanh nghiệp có thể giao việc cho máy, nhưng không thể giao trách nhiệm cho máy. Tất nhiên phải phân định trách nhiệm. Nhà cung cấp chịu trách nhiệm về sản phẩm và những cam kết công nghệ của họ; người sử dụng chịu trách nhiệm về cách sử dụng. Nhưng quyết định thuộc thẩm quyền của ai thì người đó không thể miễn trách nhiệm chỉ vì “hệ thống đề xuất như vậy”.

Nếu tư vấn cho một doanh nghiệp, tôi chưa chắc sẽ bắt đầu bằng một bộ quy chế AI thật dày. Tôi muốn lấy những ứng dụng AI quan trọng nhất mà họ đang sử dụng và hỏi trước một câu: nếu hệ thống này sai, ai phải đứng ra giải trình? Nếu câu hỏi đơn giản như vậy mà mất nhiều thời gian mới trả lời được thì quản trị rõ ràng chưa theo kịp công nghệ.

Có một rủi ro khác tôi thấy rất đáng chú ý, đó là “tốc độ sai”. Một nhân viên chăm sóc khách hàng tư vấn nhầm có thể ảnh hưởng vài người. Một chatbot đưa cùng lời tư vấn sai cho hàng chục nghìn khách hàng thì vấn đề đã khác. Một người tuyển dụng có thiên kiến có thể ảnh hưởng một số hồ sơ; nếu thiên kiến ấy nằm trong thuật toán, nó có thể được nhân lên trên hàng nghìn hồ sơ.

AI không chỉ giúp cái đúng đi nhanh hơn. Nó cũng có thể làm cái sai lan nhanh hơn. Bởi vậy, hệ thống càng tự động hóa trên quy mô lớn thì doanh nghiệp càng phải có khả năng phát hiện sai, dừng lại và xác định trách nhiệm nhanh.

Khi AI cùng lúc tham gia tuyển dụng, phân tích khách hàng, tài chính, vận hành và pháp lý, một đề xuất của hệ thống có thể tác động trực tiếp tới quyết định của doanh nghiệp. (Ảnh được tạo có sự hỗ trợ của AI).

Xuất hiện lớp kiểm soát + nút STOP. (Ảnh được tạo có sự hỗ trợ của AI).

Doanh nghiệp có thể giao việc cho máy, nhưng không thể giao trách nhiệm cho máy.

Nguyễn Phan Huy Khôi

Biết dùng AI chưa đủ, lãnh đạo phải biết phản biện AI

Nếu doanh nghiệp sử dụng AI để tuyển dụng, đánh giá nhân sự, lựa chọn khách hàng, dự báo thị trường hay tư vấn lãnh đạo và một quyết định dựa trên AI gây thiệt hại, ranh giới trách nhiệm cần được xác định như thế nào? Ông có cho rằng năng lực quan trọng của lãnh đạo trong vài năm tới không chỉ là “biết dùng AI”, mà là biết phản biện AI?

Ông Nguyễn Phan Huy Khôi: Tôi cho rằng biết phản biện AI sẽ quan trọng hơn việc thành thạo một công cụ AI cụ thể. Công cụ có thể thay đổi sau vài tháng, còn năng lực phán đoán thì không thể cập nhật bằng một phiên bản phần mềm. Lãnh đạo không cần trở thành chuyên gia sử dụng AI. Nhưng họ phải có phản xạ hỏi ngược: dữ liệu này từ đâu? Có phần nào bị thiếu không? Kết luận này dựa trên giả định gì?

Và tôi nghĩ có một câu rất đáng hỏi: nếu AI sai, hậu quả có đảo ngược được không? Một nội dung quảng cáo chưa tốt có thể sửa. Một dự báo bán hàng sai có thể tính lại. Nhưng loại nhầm một ứng viên, từ chối nhầm khách hàng, sa thải một nhân sự hay đưa ra một quyết định pháp lý sai thì hậu quả rất khác.

Cho nên khi đánh giá một ứng dụng AI, tôi không nghĩ doanh nghiệp chỉ nên hỏi tỷ lệ chính xác là bao nhiêu. Hãy hỏi thêm một lần sai sẽ gây hậu quả gì, có sửa được không và cái sai đó có thể ảnh hưởng tới bao nhiêu người.

Một hệ thống chính xác 99% nghe rất tốt. Nhưng nếu nó ra quyết định cho một triệu người thì 1% còn lại là mười nghìn trường hợp. Con số phần trăm đôi khi làm chúng ta quên mất con người ở phía sau nó. Quyết định càng khó đảo ngược, hậu quả càng lớn thì con người càng phải đứng gần quyết định cuối cùng. Đó không phải dè dặt với AI. Theo tôi, đó đơn giản là quản trị.

AI càng được trao nhiều quyền, doanh nghiệp càng cần cơ chế giám sát, cảnh báo và khả năng dừng hệ thống khi xuất hiện sai lệch.

Quyết định càng khó đảo ngược, hậu quả càng lớn thì con người càng phải đứng gần quyết định cuối cùng.

Chúng ta thường nói “dữ liệu là tài sản”. Nhưng khi yêu cầu về bảo vệ dữ liệu, quyền riêng tư và trách nhiệm sử dụng dữ liệu ngày càng cao, liệu việc sở hữu thật nhiều dữ liệu còn đương nhiên tạo ra lợi thế? Theo ông, cuộc cạnh tranh sắp tới có chuyển từ “ai có nhiều dữ liệu hơn” sang “ai có dữ liệu sạch hơn, đáng tin hơn và quản trị tốt hơn”?

Ông Nguyễn Phan Huy Khôi: Tôi nghĩ chính câu “dữ liệu là tài sản” cũng cần được hiểu lại. Không phải dữ liệu nào cũng là tài sản. Trước đây có một tâm lý khá phổ biến là cứ thu thập và giữ lại, vì biết đâu sau này sẽ dùng đến. Nhưng một doanh nghiệp có hàng triệu bản ghi mà không biết rõ chúng đến từ đâu, còn chính xác không, mình có quyền sử dụng vào việc gì, ai đang truy cập và khi nào cần xóa thì lượng dữ liệu đó có thể mang theo rủi ro lớn hơn giá trị.

AI khiến chuyện này cấp thiết hơn. Trước đây dữ liệu kém chất lượng có thể nằm yên trong kho. Bây giờ AI có thể lấy chính dữ liệu ấy để phân tích, đưa ra khuyến nghị và rồi khuyến nghị lại đi vào quyết định. Vì vậy, tôi nghĩ vài năm tới doanh nghiệp phải học cả cách xóa dữ liệu, chứ không chỉ học cách thu thập dữ liệu.

Thay vì chỉ hỏi “chúng ta có bao nhiêu dữ liệu?”, tôi thích một câu hỏi khác hơn: “Trong số dữ liệu đang có, chúng ta thực sự dám dùng bao nhiêu để ra quyết định?”. Đôi khi xóa một triệu dữ liệu không rõ nguồn gốc còn làm doanh nghiệp mạnh hơn việc thu thập thêm một triệu dữ liệu mới.

Từ dữ liệu thô, trùng lặp và thiếu kiểm chứng đến dữ liệu sạch, chuẩn hóa và đáng tin cậy - chất lượng đầu vào quyết định chất lượng những gì AI đưa ra.( Ảnh được tạo có sự hỗ trợ của AI).

Đừng bắt đầu bằng “AI nào mạnh nhất”, hãy bắt đầu bằng vấn đề thật của doanh nghiệp

Giả sử một CEO tìm đến ông và nói: “Tôi phải đưa AI vào doanh nghiệp ngay vì đối thủ đều đang làm”, ông sẽ khuyên họ bắt đầu từ đâu? Và quan trọng hơn, có việc gì liên quan đến AI mà ông sẽ khuyên doanh nghiệp chưa nên làm, dù công nghệ đã cho phép thực hiện?

Ông Nguyễn Phan Huy Khôi: Tôi sẽ bảo anh ấy khoan mua thêm công nghệ. Lấy một tờ giấy, viết xuống mười việc đang ngốn nhiều thời gian hoặc tiền nhất trong doanh nghiệp. Sau đó xem việc nào AI có thể giải quyết tốt hơn mà nếu thử chưa thành công thì hậu quả vẫn kiểm soát được. Tôi sẽ bắt đầu ở đó.

Đừng bắt đầu bằng câu hỏi AI nào mạnh nhất. Hãy bắt đầu bằng một vấn đề thật của doanh nghiệp. Sau đó phải xác định một việc rất thực tế: với từng ứng dụng AI, mình chấp nhận nó sai đến mức nào. AI đề xuất tiêu đề quảng cáo thì có thể thử nhiều, sửa nhiều. Nhưng AI liên quan tới tài chính, pháp lý, nhân sự hay quyền lợi khách hàng thì khoảng chấp nhận sai phải rất hẹp.

Và cũng đừng chỉ nhìn vào tỷ lệ phần trăm. Sai 1% trên một trăm trường hợp và sai 1% trên một triệu trường hợp là hai câu chuyện hoàn toàn khác nhau.

Có những việc công nghệ đã làm được nhưng tôi vẫn chưa khuyến khích giao hoàn toàn cho máy, nhất là những quyết định tác động lớn tới con người hoặc rất khó đảo ngược. Công nghệ trả lời câu hỏi “có thể làm hay không”. Người lãnh đạo vẫn phải trả lời câu hỏi “có nên làm hay không”.

Công nghệ trả lời câu hỏi “có thể làm hay không”. Người lãnh đạo vẫn phải trả lời câu hỏi “có nên làm hay không”.

Nguyễn Phan Huy Khôi

Đến năm 2030, “có AI” sẽ không còn là lợi thế cạnh tranh

Nếu phải dự báo đến năm 2030, khoảng cách giữa doanh nghiệp mạnh và doanh nghiệp yếu sẽ được quyết định nhiều nhất bởi vốn, công nghệ, dữ liệu hay chất lượng con người? Liệu có thể nói: AI không trực tiếp thay thế doanh nghiệp, nhưng doanh nghiệp biết sử dụng và quản trị AI sẽ dần thay thế những doanh nghiệp không làm được điều đó?

Ông Nguyễn Phan Huy Khôi: Nếu chỉ được chọn một yếu tố, tôi vẫn chọn con người. Trong quá trình làm việc với thanh niên khởi nghiệp, tôi thấy thay đổi này khá rõ. Trước đây một người muốn đưa ý tưởng kinh doanh ra thị trường thường phải tìm người nghiên cứu, thiết kế, viết nội dung, bán hàng, chăm sóc khách hàng, phân tích số liệu. Hôm nay, một cá nhân biết sử dụng AI có thể tự thực hiện một phần đáng kể những công việc đó. Vì vậy, tôi không chỉ nhìn AI như một công cụ tăng năng suất, mà AI đang làm giảm quy mô tối thiểu cần thiết để bắt đầu một doanh nghiệp.

Điều này rất đáng chú ý với thanh niên, startup và doanh nghiệp nhỏ Việt Nam. Trong một số lĩnh vực, một cá nhân được AI khuếch đại năng lực đã có thể làm những việc trước đây cần cả một nhóm. Cơ hội để một ý tưởng nhỏ đi ra thị trường vì thế lớn hơn rất nhiều.

Nhưng mặt kia cũng phải nhìn thấy. Khi một người được trao năng lực lớn hơn thì chất lượng phán đoán và trách nhiệm của người đó cũng trở nên quan trọng hơn.

Đến năm 2030, tôi không nghĩ “có AI” còn là lợi thế cạnh tranh. Có lẽ lúc ấy chẳng ai hỏi doanh nghiệp có sử dụng AI hay không, cũng giống như hôm nay chúng ta không hỏi doanh nghiệp có sử dụng Internet hay không.

Khi AI trở nên phổ cập, lợi thế sẽ không còn nằm ở chỗ ai có AI. Lợi thế nằm ở chất lượng con người sử dụng nó.

Vì vậy, tôi đồng ý rằng doanh nghiệp biết sử dụng AI sẽ dần vượt lên những doanh nghiệp đứng ngoài AI. Nhưng tôi muốn thêm một vế: dùng nhiều AI chưa chắc đã là một doanh nghiệp mạnh. Đến lúc đó, có lẽ ba câu hỏi đáng quan tâm hơn sẽ là: AI đang được trao bao nhiêu quyền trong doanh nghiệp này? Ai kiểm soát nó? Và khi nó sai, ai chịu trách nhiệm? Tôi nghĩ câu trả lời cho ba câu hỏi ấy sẽ cho thấy khá rõ chất lượng quản trị của một doanh nghiệp.

Xin trân trọng cảm ơn ông!

Ba câu hỏi quản trị AI

AI đang được trao bao nhiêu quyền trong doanh nghiệp? Ai kiểm soát nó? Và khi nó sai, ai chịu trách nhiệm?

Khi AI trở thành năng lực phổ biến, lợi thế cạnh tranh sẽ dịch chuyển từ việc sở hữu công nghệ sang chất lượng quản trị, khả năng kiểm soát và cách doanh nghiệp biến AI thành giá trị. (Ảnh được tạo có sự hỗ trợ của AI).