AI hỗ trợ điều hành nhưng không thay thế con người

Theo TS Nguyễn Thị Ngọc Anh, AI có thể giúp thành phố xử lý khối lượng thông tin lớn, phân tích nhanh và đưa ra nhiều phương án, song càng để AI tham gia sâu vào hoạt động điều hành thì càng phải tăng yêu cầu về kiểm chứng, kiểm soát, công bằng và trách nhiệm giải trình.

Ủy viên Bộ Chính trị, Bí thư Thành ủy, Trưởng đoàn đại biểu Quốc hội thành phố Hà Nội Trần Đức Thắng, Trưởng ban Chỉ đạo 57 Thành ủy Hà Nội cùng các đồng chí lãnh đạo thành phố tham dự hội nghị tại điểm cầu Thành ủy Hà Nội. Ảnh: Quang Thái

Không mua “lời hứa” về AI toàn năng

Mở đầu chuyên đề, TS Nguyễn Thị Ngọc Anh đưa ra tình huống giả định: Vào một buổi sáng, cán bộ đồng thời nhận được báo cáo về hàng trăm phản ánh của người dân, một dự thảo cần tổng hợp và tài liệu giám sát cần xử lý. Nếu AI có thể tập hợp, phân loại và sắp xếp những thông tin này trong vài phút, qua đó hỗ trợ đáng kể cho quá trình xử lý công việc. Tuy nhiên, nếu AI sắp xếp sai địa bàn hoặc bỏ sót một nhóm ý kiến của người dân thì hậu quả sẽ ra sao?

Theo TS Nguyễn Thị Ngọc Anh, đây chính là vấn đề cốt lõi khi đưa AI vào điều hành công: Không chỉ bàn về một công cụ hay công nghệ mới, mà phải xem AI là năng lực hỗ trợ điều hành; đồng thời xác định rõ mức độ tin tưởng, rủi ro, trách nhiệm và ai là người chịu trách nhiệm khi kết quả AI được đưa vào quá trình ra quyết định.

TS Nguyễn Thị Ngọc Anh cho biết, trong quá trình ứng dụng AI, cần tập trung vào 6 nội dung gồm: Hiểu đúng về AI; kinh nghiệm quốc tế; cách đặt câu lệnh và giao việc hiệu quả; ngăn chặn rủi ro về dữ liệu; ứng dụng AI trong khu vực công; triển khai hệ thống AI một cách có trách nhiệm.

Theo cách hình dung của bà, AI giống như một căn bếp, dữ liệu là nguyên liệu, mô hình là công thức; quá trình huấn luyện là quá trình học từ nhiều món ăn đã có, còn suy luận là khi hệ thống tạo ra kết quả mới cho tình huống trước mắt.

Điều cần lưu ý là các mô hình ngôn ngữ lớn tạo câu bằng cách dự đoán từ tiếp theo dựa trên xác suất toán học. Vì vậy, AI có thể tạo ra một văn bản rất tự nhiên nhưng vẫn có thể đưa ra thông tin thiếu chính xác hoặc không có căn cứ. “AI rất giỏi trong việc tạo phương án nhưng con người vẫn phải kiểm tra căn cứ”, TS Nguyễn Thị Ngọc Anh nhấn mạnh.

TS Nguyễn Thị Ngọc Anh cho rằng, khi nghe một đề xuất đầu tư AI, thay vì hỏi hệ thống có thể làm được mọi việc hay không, cần xác định rõ hệ thống làm tốt nhiệm vụ cụ thể nào, trên dữ liệu nào, mức độ chính xác ra sao và được kiểm soát như thế nào. “Chúng ta đang mua năng lực giải quyết công việc, không phải mua một lời hứa về một AI toàn năng”, TS Nguyễn Thị Ngọc Anh nói.

Một nội dung khác được TS Nguyễn Thị Ngọc Anh lưu ý là mức độ rủi ro phụ thuộc vào vị trí sử dụng AI. Chẳng hạn, dùng AI để tóm tắt một văn bản nội bộ có mức rủi ro nhất định; dùng AI để xếp hạng các điểm ngập nhằm ưu tiên khảo sát có mức rủi ro cao hơn; còn sử dụng AI để tự động từ chối một hồ sơ lại ở mức cao hơn nữa.

TS Nguyễn Thị Ngọc Anh, Giám đốc Nghiên cứu danh dự CMC OpenAI - Tập đoàn CMC trình bày chuyên đề “Trí tuệ nhân tạo trong điều hành và quản trị công”. Ảnh: Quang Thái

Do đó, không nên chỉ đặt câu hỏi AI có nguy hiểm hay không mà cần xem xét cụ thể mức độ tác động, mức độ tự chủ, độ nhạy cảm của dữ liệu, khả năng khắc phục sai sót và quy mô ảnh hưởng. Đây là cơ sở để phân loại các ứng dụng theo những mức rủi ro khác nhau.

Từ kinh nghiệm quốc tế đến bài toán của Hà Nội

Chia sẻ kinh nghiệm quốc tế, TS Nguyễn Thị Ngọc Anh cho biết, nhiều quốc gia đã triển khai AI trong khu vực công theo những cách khác nhau nhưng có điểm chung là sử dụng năng lực dùng chung, đo giá trị bằng thời gian, khối lượng công việc hoặc chất lượng dịch vụ thay vì chỉ đếm số lượng chatbot; đồng thời tăng cường tính minh bạch khi thuật toán bắt đầu ảnh hưởng đến quyết định công.

Điều đáng học hỏi là cách các quốc gia gắn công nghệ với quy trình và chỉ tiêu đo lường. Hà Nội cần xây dựng mô hình phù hợp, trong đó có quyền truy cập, nhật ký, năng lực tìm kiếm, mô hình nền, tiêu chuẩn an toàn và kho tri thức; còn kiến thức nghiệp vụ của từng sở vẫn cần được quản lý riêng theo quyền truy cập.

Về lộ trình, TS Nguyễn Thị Ngọc Anh cho rằng, trước hết có thể bắt đầu bằng phân loại, tóm tắt, dự thảo, tra cứu - những công việc cho kết quả sớm, dễ kiểm tra và có thể được con người sửa chữa. Sau đó mới tiến tới trợ lý dịch vụ công, các bài toán đô thị, môi trường và cuối cùng là những hệ thống AI có ảnh hưởng lớn đến người dân.

Đặc biệt, trước khi đưa một sản phẩm AI vào điều hành, cần vượt qua 4 “cổng” kiểm tra. Thứ nhất là nguồn gốc dữ liệu: dữ liệu lấy từ đâu, có phải bản mới nhất và có thuộc nhóm được bảo vệ hay không. Thứ hai là khả năng truy ngược, tức mỗi kết luận phải có thông tin làm căn cứ. Thứ ba là mức độ chắc chắn, phải phân biệt đâu là dữ kiện, đâu là suy luận. Thứ tư là trách nhiệm của con người: ai kiểm tra, ai xác minh, ai phối hợp và ai quyết định.

Từ thực tế này, TS Nguyễn Thị Ngọc Anh đặc biệt nhấn mạnh yêu cầu xây dựng thói quen giao việc cho AI một cách có hệ thống. Một câu lệnh hiệu quả cần xác định rõ vai trò, nhiệm vụ, bối cảnh, dữ liệu đầu vào, định dạng đầu ra và tiêu chí đánh giá.

Theo TS Nguyễn Thị Ngọc Anh, AI chỉ có thể cho kết quả phù hợp khi yêu cầu được giao rõ ràng, đầy đủ. Vì vậy, cán bộ càng giao nhiệm vụ rõ ràng thì kết quả càng dễ kiểm soát. Khi sử dụng AI trong công việc, cần yêu cầu hệ thống dẫn nguồn để có thể truy vết căn cứ; nếu chưa đủ dữ liệu thì không được suy diễn mà phải chỉ ra thông tin còn thiếu và những vấn đề cần làm rõ.

Quang cảnh hội nghị. Ảnh: Quang Thái

Trong quản trị dữ liệu, TS Nguyễn Thị Ngọc Anh cảnh báo không đưa dữ liệu nội bộ, dữ liệu nhạy cảm lên các hệ thống AI công khai. Dữ liệu công khai đã được công bố chính thức có thể sử dụng trên các hệ thống AI công khai, trong khi dữ liệu nội bộ cần được xử lý trên những nền tảng do cơ quan phê duyệt.

Trước khi đưa dữ liệu vào một công cụ AI, người quản lý cần trả lời 6 câu hỏi: Dữ liệu gì? Hệ thống ở đâu? Ai có quyền truy cập? Dữ liệu có được lưu lại không? Có nhật ký hay không? Dữ liệu có thể được sử dụng cho mục đích khác hay không?

AI chỉ hỗ trợ, không thay thế thẩm quyền

Từ góc độ ứng dụng AI trong khu vực công, TS Nguyễn Thị Ngọc Anh cho rằng, một dự án AI tốt không bắt đầu bằng câu hỏi “nên dùng mô hình nào”, mà phải bắt đầu từ câu hỏi “vấn đề công nào đang cần giải quyết”.

Chẳng hạn, AI có thể phát hiện sớm các điểm nghẽn giao thông, điểm ngập để ưu tiên khảo sát và đầu tư; phân loại phản ánh của người dân để chuyển đúng đầu mối; tổng hợp nhiều nguồn thông tin, tìm căn cứ và hỗ trợ so sánh phương án. Trong bối cảnh khối lượng thông tin ngày càng lớn và bộ máy cần vận hành tinh gọn, AI chỉ thực sự có ý nghĩa khi giúp giảm thời gian xử lý công việc, giảm bỏ sót, nâng khả năng nhìn nhận vấn đề và chất lượng quyết định.

Một trợ lý AI trong điều hành, theo TS Nguyễn Thị Ngọc Anh, không nhất thiết phải tự quyết định thay cán bộ mà chỉ cần làm tốt những việc như tóm tắt báo cáo, biên bản; trích xuất nhiệm vụ, thời hạn và người phụ trách; cảnh báo nhiệm vụ sắp đến hạn hoặc quá hạn. Sản phẩm đầu tiên nên giúp cán bộ kiểm soát công việc tốt hơn, không thay thế quyền quyết định của cán bộ.

TS Nguyễn Thị Ngọc Anh cũng lưu ý, khoảng cách lớn giữa một ý tưởng được trình diễn và một sản phẩm có thể vận hành thực tế. Một sản phẩm chứng minh khái niệm có thể chạy tốt trong phạm vi hẹp, nhưng chỉ khi được đưa vào quy trình chính thức, có người sở hữu, chỉ tiêu đo lường, giám sát và các điều kiện bảo đảm thì mới tạo ra giá trị công bền vững.

Đặc biệt, “AI không bao giờ là người chịu trách nhiệm”. AI có thể thực hiện việc tính toán, đọc, phát hiện, tổng hợp, đề xuất; nhưng con người phải thẩm định dữ liệu, căn cứ, kiểm tra và là chủ thể có thẩm quyền quyết định, đồng thời chịu trách nhiệm giải trình trước người dân và pháp luật.

TS Nguyễn Thị Ngọc Anh đề xuất phân vùng kiểm soát AI theo mức độ tác động. Ở vùng xanh, có thể cho phép những tác vụ ít rủi ro như tra cứu, tóm tắt tự động. Vùng vàng là những tác vụ có tác động đáng kể như khuyến nghị phương án, xếp hạng, dự báo, đề xuất ưu tiên. Vùng đỏ là những tác vụ có thể tác động trực tiếp đến quyền và lợi ích của con người; AI không được tự quyết định mà chỉ hỗ trợ.

TS Nguyễn Thị Ngọc Anh cũng lưu ý, một công cụ dù không trực tiếp ký quyết định vẫn có thể định hình quyết định. Ví dụ, AI xếp hạng 50 điểm có nguy cơ úng ngập để đề xuất thứ tự khảo sát. Bản xếp hạng đó có thể tác động đến địa bàn nào được khảo sát trước, địa bàn nào được xem xét đầu tư. Vì vậy, phải mở được bằng chứng về dữ liệu và lý do tạo ra thứ hạng, đồng thời đánh giá tính công bằng của kết quả.

“AI không làm thay trách nhiệm cho lãnh đạo. AI có thể giúp thành phố nhìn thấy sớm hơn, phân tích nhanh hơn và có nhiều lựa chọn tốt hơn. Nhưng AI càng tham gia sâu vào quyết định thì yêu cầu về bằng chứng, kiểm soát, công bằng và trách nhiệm giải trình càng phải cao hơn”, TS Nguyễn Thị Ngọc Anh nhấn mạnh.