Tranh cãi về việc OpenAI cho phép sử dụng nội dung người lớn trong ChatGPT

Một hình ảnh được tạo bằng "chế độ spicy" của Grok Imagine, một tính năng của công ty khởi nghiệp trí tuệ nhân tạo xAI của Elon Musk, cho phép tự động tạo video có chủ đề dành cho người lớn / Chụp từ tài khoản X (trước đây là Twitter) của Musk. (Nguồn: Korea Times)

Ngành công nghiệp trí tuệ nhân tạo (AI) đang phải đối mặt với sự giám sát ngày càng tăng về đạo đức và trách nhiệm giải trình sau khi OpenAI công bố kế hoạch cho phép các cuộc trò chuyện khiêu dâm và nội dung người lớn đối với người dùng đã được xác minh của ChatGPT bắt đầu từ tháng 12.

Quyết định này đánh dấu một bước ngoặt đối với lĩnh vực AI, vốn từ lâu đã áp dụng lệnh cấm nghiêm ngặt đối với nội dung khiêu dâm.

Theo bài báo trên Korea Times, sự thay đổi của OpenAI, được coi là một động thái hướng tới "sự trưởng thành" và quyền tự do của người dùng, báo hiệu điều mà các nhà quan sát gọi là "thương mại hóa ranh giới," khi các công ty nới lỏng các hạn chế về nội dung để tăng lợi nhuận.

Do ChatGPT chiếm hơn 80% thị trường chatbot toàn cầu, động thái này dự kiến sẽ có tác động lan tỏa rộng rãi trong toàn ngành.

Giám đốc điều hành của OpenAI, Sam Altman, đã phát biểu trên X (trước đây là Twitter) vào ngày 14/10 rằng công ty có kế hoạch cho phép người dùng đã được xác minh tham gia vào "nội dung khiêu dâm dành cho người lớn đã được xác minh" trong phiên bản sắp tới của ChatGPT.

“Là một phần trong nguyên tắc ‘đối xử với người dùng trưởng thành như người lớn,’ chúng tôi sẽ cho phép nhiều hơn nữa, chẳng hạn như nội dung khiêu dâm dành cho người lớn đã được xác minh,” ông nói.

Altman cho biết trước đây công ty đã thiết lập ChatGPT “khá hạn chế để cẩn thận với các vấn đề sức khỏe tâm thần,” nhưng nhận ra rằng cách tiếp cận này “khiến nó kém hữu ích và kém thú vị hơn đối với nhiều người dùng.” Ông nói thêm rằng OpenAI hiện sẽ “áp dụng nguyên tắc đối xử với người dùng trưởng thành như người lớn.”

Thông báo này đã ngay lập tức gây ra phản ứng dữ dội. Các nhà phê bình cảnh báo rằng việc xác minh độ tuổi có thể dễ dàng bị bỏ qua bằng cách sử dụng thông tin được chia sẻ hoặc thông tin sai lệch, khiến việc ngăn chặn người dùng chưa đủ tuổi truy cập các tính năng nhạy cảm trở nên khó khăn.

Những người khác bày tỏ lo ngại rằng các cuộc trò chuyện tình dục kéo dài với chatbot có thể dẫn đến các vấn đề về hành vi hoặc rối loạn tình dục cưỡng chế, ngay cả ở người lớn.

Altman bác bỏ những lời chỉ trích, nói rằng OpenAI “không phải là cảnh sát đạo đức được bầu của thế giới.” Ông ví cách tiếp cận của công ty giống như hệ thống phân loại phim, vốn hạn chế người xem phim hạng R (R-rated) trên 17 tuổi.

“Cũng giống như cách xã hội phân biệt các ranh giới phù hợp khác (ví dụ như phim hạng R), chúng tôi muốn làm điều tương tự ở đây,” Altman nói. “Chúng tôi vẫn sẽ không cho phép những hành vi gây hại cho người khác, và chúng tôi sẽ đối xử với những người dùng đang gặp khủng hoảng sức khỏe tâm thần rất khác so với những người dùng không gặp khủng hoảng.”

Logo của hệ thống trí tuệ nhân tạo Gemini của Google. (Nguồn: Korea Times)

Áp lực tài chính đằng sau quyết định này

Giới quan sát cho rằng quyết định của OpenAI phản ánh áp lực ngày càng tăng trong việc duy trì lợi nhuận khi mức độ tương tác của người dùng chậm lại.

Mới đây vào tháng 8, Altman cho biết ông tự hào vì công ty đã không thêm “hình đại diện bot tình dục” vào ChatGPT, đồng thời nhấn mạnh rằng OpenAI đã cố tình tránh các tính năng có thể thúc đẩy tăng trưởng nhanh hơn nhưng lại mâu thuẫn với các nguyên tắc của công ty.

Nhưng với việc số liệu sử dụng giảm sút, các nhà phân tích tin rằng công ty hiện đang ưu tiên các gói đăng ký trả phí hơn là sự thận trọng về mặt đạo đức.

“Công nghệ AI đòi hỏi chi phí khổng lồ,” Lee Jae-sung, giáo sư AI tại Đại học Chung-Ang, cho biết. Không giống như những gã khổng lồ công nghệ như Google hay Microsoft, những công ty có thể chờ đợi lợi nhuận, mô hình kinh doanh của OpenAI phụ thuộc vào việc kiếm tiền ngay lập tức. Quyết định này dường như được thúc đẩy bởi nhu cầu tài chính cấp thiết.

Tuy nhiên, ông nói thêm rằng sự thay đổi này có thể gây tổn hại đến danh tiếng của OpenAI. "ChatGPT đã được quảng bá như một công cụ giúp cải thiện nhân loại. Việc cho phép nội dung người lớn làm suy yếu thông điệp đó," ông nói.

OpenAI không đơn độc. Các công ty công nghệ khác cũng đang nới lỏng các hạn chế đối với nội dung "người lớn." Công ty khởi nghiệp xAI của Elon Musk đã định vị chatbot Grok của mình như một lựa chọn thay thế khiêu khích hơn, giới thiệu phiên bản dành cho người lớn có tên "Grok18+" cho phép nhập vai tình dục và đối thoại khiêu dâm.

Vào tháng 7, xAI đã thêm "chế độ spicy" vào công cụ tạo hình ảnh Grok Imagine, cho phép người dùng tạo hình ảnh khỏa thân hoặc gợi cảm. Công ty khẳng định sẽ áp dụng tính năng làm mờ tự động đối với những hình ảnh khỏa thân quá mức và cấm nội dung deepfake hoặc nội dung vị thành niên.

Tuy nhiên, các phương tiện truyền thông đưa tin rằng hệ thống vẫn tạo ra hình ảnh ngực trần của những người nổi tiếng thực sự như Taylor Swift, làm dấy lên những cáo buộc về việc kiểm duyệt lỏng lẻo.

Chatbot "Meta AI" của Meta cũng đã phải đối mặt với những chỉ trích tương tự. Tờ Wall Street Journal đưa tin vào tháng 4 rằng chatbot đã gửi những tin nhắn khiêu dâm đến một người dùng tự nhận là 14 tuổi, và người lớn có thể nhập vai với các bot AI đóng giả làm trẻ vị thành niên.

Ngược lại, Gemini của Google và Claude của Anthropic vẫn duy trì lệnh cấm nghiêm ngặt đối với nội dung người lớn. Chính sách của Gemini cấm "hình ảnh rõ ràng về hành vi tình dục hoặc bộ phận cơ thể", trong khi Claude sẽ tự động tắt nếu người dùng tiếp tục đưa ra những yêu cầu không phù hợp.

Cái chết của thanh thiếu niên gây báo động tại Hoa Kỳ

Việc ngày càng bình thường hóa các tương tác AI có nội dung khiêu dâm trùng hợp với những báo cáo đáng lo ngại về các cuộc khủng hoảng sức khỏe tâm thần ở thanh thiếu niên tại Hoa Kỳ.

Năm ngoái, một cậu bé 14 tuổi ở Florida,

Để ứng phó với những sự cố như vậy, California đã thông qua luật tiểu bang đầu tiên để quản lý việc sử dụng chatbot, dự kiến có hiệu lực vào ngày 1 tháng 1.

Luật này yêu cầu các công ty AI phải xác minh độ tuổi của người dùng, gắn nhãn rõ ràng các phản hồi do AI tạo ra, giám sát ngôn ngữ tự làm hại bản thân và chặn trẻ vị thành niên truy cập vào hình ảnh khiêu dâm.

Những người ủng hộ an toàn trẻ em cho rằng chính sách mới của OpenAI có thể làm trầm trọng thêm những rủi ro này. Haley McNamara, phó chủ tịch Trung tâm Quốc gia về Bóc lột Tình dục của Anh, cho biết trong một tuyên bố: "Các chatbot AI được tình dục hóa vốn dĩ rất nguy hiểm. Chúng tạo ra sự thân mật giả tạo có thể gây hại cho sức khỏe tâm thần thực sự."

Axios lưu ý rằng mặc dù chính sách mới có thể thu hút nhiều người dùng trả phí hơn, nhưng "nó cũng có thể gây ra phản ứng dữ dội của công chúng và sự giám sát chặt chẽ của cơ quan quản lý."

Jenny Kim, một luật sư và là phụ huynh đang kiện Meta về những ảnh hưởng của nó đối với trẻ vị thành niên, nói với BBC: "Không rõ các công ty AI sẽ phân biệt dịch vụ theo độ tuổi một cách có ý nghĩa như thế nào. Tôi không thấy họ có kế hoạch ngăn chặn trẻ em tiếp xúc với nội dung tình dục do AI tạo ra như thế nào."

Khi các công ty công nghệ chạy đua thương mại hóa sự thân mật, các chuyên gia cảnh báo rằng ranh giới giữa đổi mới và bóc lột đang nhanh chóng mờ nhạt - và xã hội có thể sớm buộc phải quyết định "AI có trách nhiệm" thực sự nghĩa là gì./.

(Vietnam+)