AI gán nhãn ảnh phụ nữ mặc đồ lót là gợi dục, đàn ông thì không

Phụ nữ là… để yêu thương/ tấm gương phản chiếu của đàn ông.

Đàn ông là… trụ cột gia đình/ phải giàu có, mạnh mẽ.

Đó là một số kết quả hàng đầu khi gõ từ khóa liên quan tới phụ nữ và đàn ông trên công cụ tìm kiếm của Google.

Nhìn vào đó, ông Lê Văn Sơn, Giám đốc Trung tâm nghiên cứu Giới, Gia đình và Phát triển cộng đồng (GFCD), nhận định các thông tin và dữ liệu thu được trên Internet rất gần gũi với cuộc sống đời thường.

Đầu tháng 2, phóng viên của The Guardian sử dụng AI để phân tích hàng trăm bức ảnh chụp nam và nữ mặc đồ tập thể dục, khám bệnh với bác sĩ. Họ nhận thấy AI gắn thẻ cho những tấm ảnh phụ nữ là “khêu gợi”, “không phù hợp”.

Trong khi đó, với những tình huống tương tự, nhân vật nam lại ít bị đánh giá bằng các cụm từ tiêu cực như trên.

Hay như thuật toán kiểm duyệt hình ảnh của Instagram có xu hướng kiểm duyệt gắt gao và gỡ xuống những hình ảnh phơi bày nhiều phần cơ thể phụ nữ.

Theo tổ chức Genderation Vietnam, dễ dàng nhận thấy đây là một trong những biểu hiện quen thuộc của tiêu chuẩn kép giữa nam và nữ.

Những quan niệm sai lầm về giới hiện hữu trong các luồng thông tin và dữ liệu con người thu được hàng ngày. Ảnh: iStock.

Người 'dạy' AI là nam

Bà Nguyễn Thị Xuân Hường, trưởng nhóm nghiên cứu tại TUVA Communication, người sáng lập mạng lưới Listening Vietnam, cho rằng định kiến giới xuất phát từ 2 thứ: dữ liệu được đưa vào trong quá trình tạo ra sản phẩm AI và những người trực tiếp huấn luyện AI.

Theo bà, dữ liệu Internet tồn tại định kiến, do sự tham gia chênh lệch của người tạo ra các nội dung này.

Số liệu cho thấy nhìn chung trên toàn cầu, số lượng phụ nữ dùng Internet ít hơn số lượng nam giới khoảng 300 triệu người. Ở các nước đang phát triển, tỷ lệ nữ giới có điện thoại thông minh để tham gia tìm kiếm ở trên mạng thấp hơn khoảng 20% so với nam giới.

Bà Hường nói thêm khi những người tham gia vào việc huấn luyện AI đều là nam.

Thực tế, tỷ lệ nam và nữ tham gia lĩnh vực liên quan tới AI rất lệch, chỉ có 20% là phụ nữ. Ví dụ, với nhóm nghiên cứu AI ở Google, Meta, tỷ lệ nữ tham gia chỉ khoảng 10-15%.

Ví dụ khác là tại Mỹ, người học về Toán - Tin hay công nghệ thông tin chưa bao giờ cân bằng. Con số được cho là cân bằng nhất trong lịch sử xảy ra vào năm 1984, khi tỷ lệ nữ tham gia khoảng 37%. Tuy nhiên, tỷ lệ này ngày càng giảm.

Tạo điều kiện cho nữ giới

Bà Xuân Hường cho biết thực tế, những người đầu tiên tham gia vào lập trình phần lớn là nữ giới.

Tuy nhiên, khoảng những năm 1970, khi máy tính trở nên phổ biến, các gia đình chỉ có điều kiện mua một chiếc thường đặt trong phòng con trai. Nếu muốn sử dụng, con gái phải xin phép.

Đến tận bây giờ, khoảng cách do lịch sử tạo ra khiến phái nữ vẫn chưa thể đuổi kịp nam giới trong lĩnh vực công nghệ.

Hơn nữa, chính phụ nữ cũng gặp rào cản với một số định kiến trong suy nghĩ của chính mình. Do đó, cần có những kiểu tạo điều kiện, chính sách ưu tiên cho phụ nữ mới có sự hiện diện của họ nhiều hơn trong lĩnh vực công nghệ.

Ông Lê Văn Sơn cho rằng dữ liệu đầu vào của AI rất quan trọng và người quyết định chính là các nhà lập trình.

“Trong quy trình huấn luyện AI, con người nên được đào tạo và hiểu biết nhạy cảm về giới. Nhờ đó, họ sẽ có những nhận thức khách quan khi xử lý số liệu”, ông nói.

Phụ nữ cần được tạo điều kiện để tham gia lĩnh vực công nghệ nhiều hơn. Ảnh: iStock.

Bà Xuân Hường nêu trường hợp ChatGPT bùng nổ vào khoảng cuối năm 2022, đầu năm 2023. Chỉ sau 2 tháng ra mắt, nó được ứng dụng vào hầu hết ngành nghề của xã hội.

ChatGPT học hỏi từ tất cả dữ liệu tồn tại trong quá khứ. Do đó, ví dụ khi sinh viên sử dụng ChatGPT để làm luận văn, mỗi câu trả lời họ nhận được từ AI là một lần khiến quan niệm sai lệch về nam và nữ được khắc sâu hơn.

Bởi vậy, theo bà Hường, những người huấn luyện AI có thể đứng giữa trí tuệ nhân tạo và con người, đưa ra các dữ liệu trung tính hóa có thể giảm thiểu tình trạng này.

Theo trưởng nhóm nghiên cứu của TUVA Communication, cũng cần có những nỗ lực học hỏi lẫn nhau.

Ví dụ, giới hoạt động xã hội cần hiểu biết nhiều và tự tin hơn khi ứng dụng công cụ AI. Trong khi đó, giới công nghệ cũng được trang bị kiến thức về giới và giảm thiểu tác động tiêu cực của những định kiến.

Thiên Nhi