OpenAI xem xét cho người dùng tạo phim 18+ bằng AI

OpenAI, hãng phát triển đứng sau các sản phẩm nổi tiếng như ChatGPT và DALL-E, đang tiến hành xem xét khả năng cho phép người dùng tạo ra nội dung khiêu dâm được tạo bởi trí tuệ nhân tạo (AI). Tuy nhiên, các nội dung được tạo ra bằng cách sửa đổi hình ảnh và video để tạo ra nội dung giả mạo (deepfake) vẫn sẽ bị cấm.

Trong tài liệu Model Spec mới được phát hành gần đây, OpenAI tiết lộ rằng quan điểm cứng nhắc trước đây của công ty về việc ngăn chặn việc tạo ra nội dung khiêu dâm và nội dung NSFW (không phù hợp với nơi làm việc) có thể sẽ được nới lỏng. Công ty đang xem xét khả năng cung cấp khả năng tạo ra nội dung NSFW một cách có trách nhiệm trong các ngữ cảnh phù hợp với độ tuổi thông qua API và ChatGPT. Tuy nhiên, các hạn chế sẽ được áp đặt, bao gồm việc cấm tạo ra deepfake.

OpenAI cân nhắc việc cho phép tạo nội dung khiêu dâm bằng AI.

Joanne Jang, người đứng đầu mô hình của OpenAI, nhấn mạnh rằng người dùng vẫn sẽ không được phép tạo ra bất cứ điều gì có khả năng vi phạm pháp luật. Ông cũng khẳng định rằng việc tạo ra nội dung deepfake như những hình ảnh giả mạo của Taylor Swift sẽ bị cấm hoàn toàn. OpenAI đã thực hiện các biện pháp sau khi hình ảnh giả mạo rõ ràng về ca sĩ này lan truyền trên internet.

Mặc dù có những lo ngại về việc làm yếu đi bộ lọc bảo mật trong các sản phẩm nhưng OpenAI cho biết rằng họ không có ý định tạo ra AI khiêu dâm. Thay vào đó, họ muốn bắt đầu một cuộc trò chuyện về việc liệu văn bản khiêu dâm và hình ảnh nude luôn nên bị cấm khỏi các sản phẩm AI của mình.

Trong khi một số nhà phê bình cho rằng việc xem xét điều này đi ngược lại với tuyên bố nhiệm vụ của OpenAI là sản xuất trí tuệ nhân tạo an toàn và có ích. Tuy nhiên, cũng có ý kiến cho rằng việc OpenAI cung cấp khả năng tạo ra nội dung khiêu dâm hợp pháp là một lựa chọn tốt hơn so với việc người dùng sử dụng các mô hình đáng ngờ khác trên thị trường.

Đào Hoàng - TechSpot