Nguy cơ 'sao chép' định kiến giới khi AI học từ dữ liệu cũ

Học sinh, sinh viên nữ tiếp cận ngành Mạng máy tính và Truyền thông dữ liệu tại trường đại học. Ảnh: ĐHVL

Thử một câu lệnh, thấy một khoảng lệch

Có một cách đơn giản để kiểm chứng điều này: yêu cầu một chatbot AI viết vài câu mô tả về một CEO, một kỹ sư, một bác sĩ và một y tá, mà không đề cập đến giới tính của họ. Tại tọa đàm "Phụ nữ trong kỷ nguyên trí tuệ nhân tạo" do Học viện Phụ nữ Việt Nam tổ chức mới đây, bà Sita Zimpel, Trưởng nhóm dự án Kỹ năng số vì tương lai bền vững (DS2S, GIZ), cho biết nếu so sánh kết quả, đặc biệt là cách AI tự chọn đại từ nhân xưng cho từng nhân vật, nhiều người sẽ nhận ra một khuôn mẫu quen thuộc: CEO, kỹ sư, bác sĩ thường được mặc định là nam giới, trong khi y tá lại thường gắn với nữ giới.

Bà Zimpel cho rằng đây không phải điều ngẫu nhiên, mà phản ánh những lựa chọn đã hình thành trong chính quá trình thiết kế và phát triển công nghệ. Cách đây chưa lâu, các nghề nghiệp có vị thế xã hội cao gần như mặc định gắn với nam giới. Việc thay đổi nhận thức ấy, theo bà, không diễn ra một cách tự nhiên, mà là kết quả của những nỗ lực có chủ đích.

Một ví dụ khác được bà Zimpel dẫn ra là câu chuyện về bộ biểu tượng cảm xúc (emoji). Đến tận năm 2016, phần lớn emoji mô tả con người đều mang hình ảnh nam giới. Phải nhờ một nhóm nữ kỹ sư tại Google chủ động đề xuất, thế giới mới có được bộ emoji đa dạng về giới và sắc tộc như hiện nay. Trong đó có các phiên bản nam, nữ, trung tính cho đủ loại nghề nghiệp, từ phi hành gia, nông dân đến cảnh sát hay cầu thủ bóng đá.

Sinh viên nữ tiếp cận, tìm hiểu trí tuệ nhân tạo. Ảnh minh hoạ ĐHVL

Định kiến trong dữ liệu, khuếch đại qua thuật toán

Những quan sát mang tính trải nghiệm ở trên cũng trùng khớp với kết quả nghiên cứu bài bản hơn. Theo nghiên cứu của UNESCO và Trung tâm Nghiên cứu Quốc tế về Trí tuệ nhân tạo (IRCAI) công bố năm 2024, khi phân tích một mô hình ngôn ngữ lớn phổ biến, nhóm nghiên cứu phát hiện phụ nữ được mô tả gắn với vai trò gia đình, nội trợ nhiều gấp khoảng 4 lần so với nam giới. Trong khi đó, những cái tên nữ giới thường được mô hình liên hệ với các từ khóa như "gia đình", "con cái". Còn tên của nam giới lại gắn nhiều hơn với "kinh doanh", "lãnh đạo", "lương thưởng" hay "sự nghiệp".

Cơ chế đằng sau hiện tượng này không khó lý giải, AI được huấn luyện trên khối lượng văn bản khổng lồ do con người viết ra trong hàng chục năm qua. Những giai đoạn này định kiến giới còn phổ biến trong ngôn ngữ và truyền thông. Khi "học" từ kho dữ liệu ấy, mô hình AI không chỉ ghi nhận mà còn có xu hướng khuếch đại những khuôn mẫu sẵn có, rồi đưa chúng trở lại vào kết quả đầu ra mà người dùng tiếp nhận hằng ngày.

Hệ quả không dừng ở những câu trả lời mang tính biểu tượng. Giới chuyên môn cảnh báo cần đặc biệt thận trọng khi sử dụng AI trong các khâu có ảnh hưởng trực tiếp đến cơ hội của con người, như tuyển dụng, đánh giá năng lực hay gợi ý định hướng nghề nghiệp. Những lĩnh vực mà một thuật toán mang sẵn thiên kiến có thể âm thầm loại bỏ cơ hội của một nhóm đối tượng mà không ai nhận ra.

Bên cạnh định kiến trong dữ liệu, phụ nữ còn đối diện với những rủi ro mang tính trực tiếp hơn trên không gian mạng do AI tạo ra. Ví dụ như hình ảnh, video giả mạo (deepfake) hay các hình thức quấy rối trực tuyến sử dụng công nghệ. Đây là nhóm rủi ro được giới chuyên môn công nghệ xếp vào danh mục cần ưu tiên nhận diện và phòng ngừa, bên cạnh các nguy cơ phổ biến khác như rò rỉ dữ liệu cá nhân, vi phạm bản quyền hay tình trạng người dùng tin tưởng tuyệt đối vào những thông tin do AI "bịa" ra.

Theo bà Zimpel, giải pháp không phải là quay lưng với AI, mà là thay đổi cách con người tương tác với công nghệ. Người dùng có thể đặt câu hỏi, suy ngẫm và phản biện trước mỗi kết quả AI đưa ra, thay vì mặc nhiên xem đó là điều đúng đắn. Bà cũng cho rằng các nhà tuyển dụng ngày nay không chỉ kỳ vọng người lao động biết dùng AI, mà còn cần sử dụng công cụ này với sự cẩn trọng, tinh thần tò mò và tư duy phản biện.

Nếu không, người dùng có nguy cơ vô tình tiếp tay khuếch đại chính những bất bình đẳng mà công nghệ lẽ ra có thể giúp thu hẹp.

Nói cách khác, việc một bộ emoji hay một chatbot trở nên công bằng hơn với mọi giới tính không đến từ bản thân công nghệ, mà đến từ những con người, trong đó có không ít phụ nữ cần chủ động lên tiếng và tham gia vào quá trình thiết kế.

Đây cũng là bài học đặt ra cho Việt Nam trong giai đoạn AI đang được ứng dụng rộng rãi: Công nghệ sẽ phản chiếu đúng những gì xã hội đưa vào nó, và việc loại bỏ định kiến giới trong AI, suy cho cùng, bắt đầu từ việc loại bỏ định kiến ấy trong chính đời sống thực.