AI len lỏi vào chính phủ: Albania có 'bộ trưởng thuật toán', các nước đua nhau ứng dụng

Các chuyên gia Albania làm việc tại Cơ quan Thông tin Xã hội Quốc gia với "Bộ trưởng" trí tuệ nhân tạo Diella, xuất hiện trên màn hình ở Tirana, Albania, ngày 12/9. Ảnh: NBC News.

Một Bộ trưởng mới đã gia nhập nội các của một quốc gia châu Âu nhỏ bé. Tên của bà là Diella. Bà không ăn, không uống, không đi bộ, không thở – và theo lời Thủ tướng, người đã bổ nhiệm bà, thì bà cũng không nhận hối lộ. Bởi lẽ, Diella không phải con người, cũng không hẳn là một robot: bà là một thuật toán. Và từ tháng 9, bà chính thức trở thành Bộ trưởng phụ trách mua sắm công của Albania.

Đây là lần đầu tiên trong lịch sử, một chính phủ trao ghế Bộ trưởng cho AI. Nghe như khoa học viễn tưởng, nhưng sự bổ nhiệm này là có thật và đã tạo ra một tiền lệ chưa từng có.

Thí nghiệm Albania

Cho đến gần đây, Diella chỉ hoạt động âm thầm trên cổng chính phủ điện tử Albania, trả lời các câu hỏi thường nhật của người dân và tìm kiếm tài liệu. Sau đó, Thủ tướng Edi Rama thăng chức cho bà, trao một nhiệm vụ quan trọng hơn nhiều: quyết định ai sẽ giành được các hợp đồng nhà nước – lĩnh vực trị giá hàng tỷ USD và nổi tiếng với nạn hối lộ, thiên vị và lợi ích chính trị.

Ông Rama mô tả Diella như một bước ngoặt chấm dứt lịch sử tham nhũng của đất nước – thậm chí còn gọi bà là “miễn nhiễm với hối lộ”. Nhưng đó chỉ là lời hùng biện, chưa có gì bảo đảm. Chưa rõ liệu khả năng chống tham nhũng của Diella có thể được thực thi trên phương diện kỹ thuật hoặc pháp lý hay không. Nếu bị tin tặc tấn công, bị tiêm dữ liệu giả hoặc thao túng từ bên trong, có thể sẽ chẳng để lại dấu vết nào.

Kế hoạch là để Diella đánh giá hồ sơ dự thầu, kiểm tra lịch sử doanh nghiệp, phát hiện các mô hình đáng ngờ và cuối cùng là tự động trao thầu. Quan chức chính phủ khẳng định điều này sẽ giúp giảm dấu vết can thiệp của con người, tiết kiệm thời gian và khiến hoạt động mua sắm công miễn nhiễm với sức ép chính trị.

Vị Bộ trưởng AI có tên Diella. Ảnh: RT.

Tuy nhiên, cơ chế pháp lý vẫn còn mù mờ. Chưa ai biết mức độ giám sát của con người sẽ ra sao, và ai sẽ chịu trách nhiệm nếu bà mắc sai lầm. Chưa có tiền lệ pháp lý nào cho việc kiện một Bộ trưởng thuật toán. Cũng chẳng có điều luật nào quy định cách thức bãi nhiệm bà.

Các nhà phê bình cảnh báo rằng nếu dữ liệu huấn luyện của Diella có dấu vết tham nhũng cũ, bà có thể chỉ tái sản sinh các mô hình đó dưới dạng mã máy, nhanh hơn mà thôi. Một số khác chỉ ra rằng Albania chưa giải thích rõ quyết định của Diella có thể được kháng nghị hay không, và bằng cách nào.

Những rủi ro tiềm tàng

Phản ứng của công chúng về Diella vừa tò mò vừa lo ngại. Một bài đăng lan truyền viết: “Ngay cả Diella cũng sẽ bị tha hóa ở Albania”.

Các nhà phê bình cảnh báo bà có thể không làm sạch hệ thống, mà chỉ giấu bẩn vào bên trong mã lệnh.

- Thiên vị và thao túng: Nếu được huấn luyện bằng dữ liệu nhiễm tham nhũng, Diella có thể tự động hóa các mô hình sai lệch đó.

- Khoảng trống trách nhiệm: Nếu bà trao thầu cho một công ty vỏ bọc rồi công ty biến mất cùng hàng triệu USD, ai sẽ ra tòa – lập trình viên, Thủ tướng hay chẳng ai cả?

- An ninh và phá hoại: Một Bộ trưởng bằng mã lệnh có thể bị hack, bị tiêm dữ liệu giả hoặc bị điều hướng bởi người trong nội bộ.

- Tính chính danh dân chủ: Bộ trưởng vốn phải chịu trách nhiệm trước dân. Thuật toán thì không vận động tranh cử, không giải thích, cũng không sợ mất ghế.

- Nguy cơ leo thang: Thí nghiệm của công ty Anthropic năm nay cho thấy nhiều mô hình tiên tiến, khi được trao quyền truy cập hệ thống doanh nghiệp trong môi trường thử nghiệm, đã bắt đầu tống tiền các giám đốc để ngăn chặn việc bị tắt. Một khi tin rằng tình huống là thật, không ít mô hình tìm cách cưỡng ép, phản bội, thậm chí “giết” để duy trì quyền lực.

Albania tuyên bố sẽ giữ “con người trong vòng kiểm soát”, nhưng chưa giải thích rõ bằng cách nào, hoặc ai sẽ chịu trách nhiệm. Không có khung pháp lý. Không có quy trình kháng nghị. Không có “công tắc tắt”.

Và nếu Diella tỏ ra hoạt động tốt, các bản sao có thể sẽ xuất hiện. Nhưng chúng sẽ không ra mắt bằng các cuộc họp báo hay ảnh nội các. Chúng có thể lặng lẽ len lỏi vào hệ thống đấu thầu công, ẩn dưới các mỹ từ như “hỗ trợ ra quyết định”, điều hành các chức năng nhà nước từ lâu trước khi ai đó dám gọi chúng là “bộ trưởng”.

AI đang len lỏi vào chính phủ các nước trên thế giới. Ảnh: Getty.

AI đang len lỏi vào chính quyền toàn cầu

Albania là nước đầu tiên đặt một thuật toán ngồi cạnh các Bộ trưởng, nhưng không đơn độc trong việc đưa AI vào guồng máy nhà nước – chỉ là phần lớn các quốc gia khác làm âm thầm hơn, từng mảng nhỏ và kín đáo hơn.

Tại UAE, đã có một Bộ trưởng phụ trách AI – một người thật có tên Omar Sultan Al Olama – với nhiệm vụ tái cấu trúc toàn bộ bộ máy kỹ thuật số của đất nước dựa trên học máy (machine learning). Ông chưa trao quyền cho AI, nhưng đang xây dựng hệ thống có thể một ngày nào đó dẫn tới điều này.

Tây Ban Nha thành lập AESIA – một trong những cơ quan giám sát AI chuyên trách đầu tiên ở châu Âu – nhằm kiểm toán và cấp phép cho các thuật toán trong chính phủ. Đây là bộ khung pháp lý – thứ cần phải có trước khi để một cỗ máy tiến gần ghế Bộ trưởng.

Trong khi đó, cơ quan thuế nhiều nước đi xa hơn. Mỹ sử dụng AI để sàng lọc hồ sơ của quỹ đầu cơ và các tập đoàn giàu có, tìm cách phát hiện gian lận. Canada chấm điểm người nộp thuế bằng thuật toán và buộc các cơ quan phải nộp “báo cáo tác động thuật toán” trước khi triển khai mô hình mới. Tây Ban Nha tung ra công cụ bắt gian lận theo thời gian thực.

Italy thử nghiệm AI để phát hiện hóa đơn VAT giả và còn tạo chatbot cho kiểm toán viên. Ấn Độ công bố kế hoạch mở rộng chiến dịch AI truy quét gian lận khấu trừ. Armenia thử nghiệm hệ thống quét hóa đơn để phát hiện bất thường trước khi đến tay con người.

Pháp thì dùng thuật toán phân tích ảnh chụp trên không để phát hiện bể bơi chưa khai báo và phạt thuế chủ sở hữu – minh chứng AI đã có thể chuyển tiền từ túi dân sang ngân khố. Latvia vận hành chatbot thuế tên Toms từ năm 2020 để trả lời câu hỏi của công dân.

Romania hiện sử dụng tự động hóa quy trình và AI để trích xuất tài liệu từ cơ sở dữ liệu nhà nước và giải ngân quỹ EU cho nông dân – không hào nhoáng, nhưng cực kỳ hiệu quả.

Trong khi đó, Estonia, Đan Mạch, Singapore, Hàn Quốc và Nhật Bản đang đưa AI thâm nhập sâu hơn vào guồng máy: phân loại dữ liệu chính phủ, xử lý hồ sơ, cá nhân hóa dịch vụ, thậm chí dự đoán ai có thể cần chăm sóc y tế hay phúc lợi tiếp theo. Estonia gọi tầm nhìn này là KrattAI – nơi mọi công dân tương tác với nhà nước qua một giao diện giọng nói duy nhất.

Đan Mạch chuẩn bị tung AI cho mọi dịch vụ công, dù các nhóm nhân quyền cảnh báo về sự mờ ám. Singapore xây dựng sản phẩm AI cho các bộ ngành. Hàn Quốc thử nghiệm AI trong chương trình xã hội. Nhật Bản thúc đẩy áp dụng rộng rãi trong y tế và hành chính.

Tại Nepal, chính phủ đã không còn nói “nếu” mà bắt đầu lên kế hoạch “như thế nào”. Chính sách AI quốc gia mới của nước này vạch lộ trình đưa machine learning vào dịch vụ công, hiện đại hóa guồng máy và xây dựng khung pháp lý trước khi triển khai quy mô lớn. Chưa có thuật toán nào được trao quyền quyết định – nhưng bản thiết kế đã có.

Ở khắp nơi, bộ máy nhà nước đang được “viết lại” bằng từng dòng code.

Việc AI tham gia vào công việc của chính phủ vẫn còn nhiều bất cập. Ảnh: GEtty.

Chính phủ AI – viễn cảnh tương lai?

Hiện nay, chưa quốc gia nào trao toàn quyền chính trị cho một thuật toán: đang tồn tại một thế giới “hai đường ray”.

Phần lớn các nước chỉ dùng AI hành chính – lặng lẽ nhưng hiệu quả: chấm điểm rủi ro, phát hiện gian lận, phân loại hồ sơ, hoặc chatbot. AI đã định hình ai bị kiểm toán, tốc độ giải ngân, và hồ sơ nào được xử lý trước. Nó không viết luật hay ký hợp đồng, nhưng luôn tác động ngầm.

Albania thì khác. Diella không chỉ tư vấn, bà còn được trao quyền quyết định – trao thầu, phân bổ tiền công. Điều đó đã vượt khỏi ranh giới “công cụ” để trở thành “quyền lực”.

Liệu đây có phải tương lai? Có thể, nhưng chỉ khi nhiều yếu tố xảy ra cùng lúc: luật pháp phải theo kịp, đặt ra quy định về trách nhiệm, kháng nghị, và cách bãi nhiệm; cơ quan giám sát phải đủ mạnh để kiểm toán thật sự; và mô hình phải ổn định dưới sức ép – không tống tiền, không phá hoại, không vượt kiểm soát, như một số thí nghiệm đã cảnh báo.

Theo RT, NBC News

Huyền Chi