Rác hành vi (quyết định sai lệch do AI tạo ra)

Tác giả: Thượng tướng Nguyễn Văn Thành, Thiếu tá Cù Xuân Vũ đồng chủ biên

"Rác trí tuệ nhân tạo (AI)" - Thách thức trong kỷ nguyên số

“Rác trí tuệ nhân tạo” là một vấn đề có tác động sâu rộng, một thách thức lớn đối với con người và xã hội trong kỷ nguyên số. Công trình nghiên cứu công phu này sẽ giúp bạn đọc nắm được những nội dung cốt lõi, nhận diện rõ bản chất, biểu hiện và những tác động của “rác AI” đối với đời sống xã hội cùng một số giải pháp.

Rác hành vi (quyết định sai lệch do AI tạo ra)

Rác hành vi trong AI có thể được xem là tầng biểu hiện nguy hiểm nhất của các hệ thống AI khi chúng tham gia vào quá trình đưa ra quyết định vốn trước đây thuộc về con người.

Đây là lớp rác mang tính ứng dụng trực tiếp, xuất hiện khi hệ thống AI tham gia vào luồng quyết định tự động hoặc hỗ trợ quyết định cho con người.

Rác hành vi trong AI có thể được xem là tầng biểu hiện nguy hiểm nhất của các hệ thống AI khi chúng tham gia vào quá trình đưa ra quyết định vốn trước đây thuộc về con người. Nếu rác dữ liệu tồn tại âm thầm trong lớp đầu vào và rác mô hình bộc lộ qua cơ chế suy luận méo mó bên trong thuật toán, thì rác hành vi lại xuất hiện ngay ở đầu ra, nơi quyết định cuối cùng được đưa ra và tác động trực tiếp đến người dùng, tổ chức và toàn xã hội.

Ảnh minh họa.

- Về cách nhận diện rác hành vi:

Thuật ngữ rác hành vi không chỉ đề cập các sai lệch kỹ thuật đơn thuần, mà còn bao gồm các quyết định sai lệch do đặc tính vận hành, cách thiết kế mô hình, cấu trúc khuyến khích trong hệ thống, và cả các yếu tố đạo đức - pháp lý liên quan đến quá trình ứng dụng AI trong các lĩnh vực quản trị, kinh doanh, y tế, tài chính, lao động hay đời sống công cộng.

Bản chất của rác hành vi nằm ở chỗ các hệ thống AI ngày càng được tin dùng để tự động hóa quy trình, giảm tải công việc và tăng tốc độ xử lý, khiến con người có xu hướng phó thác quyết định cho máy móc. Khi sự phó thác này đặt lên một hệ thống chưa được kiểm soát đầy đủ, thiếu minh bạch về tiêu chí, không có khả năng tự giám sát và không hiểu biết về ngữ cảnh xã hội rộng hơn, những sai lệch nhỏ trong mô hình có thể dẫn đến hậu quả đặc biệt nghiêm trọng.

Đây chính là lý do giải thích vì sao rác hành vi được xem là lớp rác nguy hiểm nhất, bởi nó không chỉ sai, mà sai một cách có hệ thống, tự động, quy mô lớn và khó nhận biết ngay lập tức.

Rác hành vi xuất hiện trong hầu hết các lĩnh vực mà AI tham gia vào quy trình ra quyết định. Trong lĩnh vực tài chính - ngân hàng, các mô hình chấm điểm tín dụng và phê duyệt khoản vay sử dụng dữ liệu lớn để xác định khả năng trả nợ của một cá nhân hoặc doanh nghiệp.

Nếu mô hình sử dụng dữ liệu thiên lệch hoặc được thiết kế với trọng số không hợp lý, quyết định phê duyệt có thể sai lệch ở cấp độ hệ thống, khiến nhiều người không đủ điều kiện được tiếp cận tín dụng dù họ hoàn toàn có khả năng trả nợ.

Trong lĩnh vực y tế, thuật toán phân loại hình ảnh chẩn đoán, hồ sơ bệnh án hoặc dữ liệu xét nghiệm có thể đưa ra dự đoán sai do dữ liệu huấn luyện thiếu đa dạng hoặc mô hình hoạt động kém hiệu quả, dẫn đến chẩn đoán sai bệnh và gây tổn hại sức khỏe nghiêm trọng cho bệnh nhân. Trong lĩnh vực tuyển dụng và quản trị nhân sự, các mô hình đề xuất ứng viên hoặc chấm điểm hồ sơ có thể vô tình tái tạo các định kiến xã hội về giới tính, vùng miền, dân tộc hay tầng lớp, khiến một số nhóm bị loại trừ khỏi cơ hội việc làm mà không có lý do chính đáng.

Trong hệ sinh thái số, đặc biệt là mạng xã hội, các hệ thống đề xuất nội dung được tối ưu hóa theo mục tiêu duy trì tương tác có thể thúc đẩy người dùng tiếp xúc với nội dung cực đoan, sai sự thật hoặc gây nghiện, từ đó tác động trực tiếp đến hành vi chính trị, tiêu dùng hay văn hóa của công chúng. Tất cả những ví dụ này cho thấy, rác hành vi không còn là vấn đề kỹ thuật thuần túy, mà đã trở thành câu chuyện xã hội học, kinh tế học, đạo đức học và pháp lý, gắn chặt với sự vận hành của các thiết chế trong xã hội hiện đại.

- Về cơ chế hình thành rác hành vi:

Để hiểu rõ cơ chế hình thành rác hành vi, trước hết cần nhìn lại mối quan hệ giữa rác dữ liệu, rác mô hình và các cơ chế vận hành trong hệ thống AI. Rác hành vi thường xuất hiện khi mô hình đưa ra quyết định cuối cùng dựa trên nền dữ liệu nhiễu hoặc bị gắn nhãn sai.

Ví dụ, nếu dữ liệu về lịch sử vay vốn trong quá khứ chứa định kiến theo vùng miền hoặc theo nhóm thu nhập, mô hình AI rất dễ tái tạo các định kiến này và đưa ra quyết định mang tính phân biệt. Khi đó, bản thân mô hình không “có ý thức phân biệt”, nhưng các mối quan hệ thống kê trong dữ liệu dẫn đến việc mô hình ưu tiên hoặc loại trừ một số nhóm đối tượng theo những khuôn mẫu vô thức.

Bên cạnh đó, rác mô hình - tức các sai lệch xuất hiện trong quá trình học của mô hình như hiện tượng quá khớp, bỏ sót đặc trưng quan trọng hoặc sai lệch do kiến trúc cũng góp phần tạo ra các hành vi dự đoán thiếu tin cậy. Một số mô hình tạo sinh hoặc mô hình dự đoán có thể tối ưu hóa sai mục tiêu do cơ chế thưởng phạt được thiết kế không hợp lý. Đây được gọi là sai lệch cơ chế khuyến khích.

Khi hệ thống được khuyến khích tối ưu hóa một đại lượng mang tính kỹ thuật như độ chính xác tổng hợp, tốc độ phản hồi hoặc tỷ lệ chuyển đổi, mà không được kiểm soát bằng các tiêu chí xã hội như tính công bằng, tính bao trùm hoặc tác động dài hạn, nó có thể đưa ra các quyết định đạt mục tiêu kỹ thuật nhưng gây hại cho con người hoặc xã hội. Bản chất của rác hành vi nằm ở chính điểm giao nhau này: mô hình quá tập trung vào mục tiêu tối ưu hóa tốt nhất theo cách hiểu của thuật toán, nhưng lại không hiểu các chuẩn mực xã hội ẩn sau các con số.

Có thể thấy rằng, rác hành vi là một trong những thách thức lớn nhất của kỷ nguyên trí tuệ nhân tạo bởi nó nằm ở tầng mặt của hệ thống, nơi máy móc trực tiếp tác động đến con người và xã hội. Tầng rác này không chỉ xuất phát từ lỗi kỹ thuật, mà còn từ cách con người thiết kế, vận hành và quản trị hệ thống AI.