AI tạo video gây phản cảm khi 'hồi sinh' người chết

Công cụ tạo video mới của OpenAI đang khiến nhiều gia đình người nổi tiếng rơi vào khủng hoảng khi hình ảnh người thân đã khuất bị “hồi sinh” bằng AI trong những video phản cảm, xuyên tạc và đôi khi đầy nhục mạ.

Những đoạn clip do AI tạo ra mô phỏng lại người đã mất, từ Malcolm X, Whitney Houston đến Kobe Bryant đã khiến dư luận dậy sóng. Điều này đặt ra câu hỏi về ranh giới đạo đức và quyền kiểm soát hình ảnh trong kỷ nguyên AI.

Nội dung gây phản cảm

Ilyasah Shabazz, con gái của nhà hoạt động dân quyền Malcolm X, nói bà không muốn xem bất kỳ đoạn clip nào do AI tạo ra về cha mình. Những video này được thực hiện bằng Sora 2, công cụ chuyển văn bản thành video mới ra mắt của OpenAI khi tạo ra cảnh Malcolm X kể chuyện cười thô tục, tranh cãi với Mục sư Martin Luther King.

“Thật thiếu tôn trọng và đau lòng khi thấy hình ảnh của cha tôi bị lợi dụng một cách vô cảm như vậy. Tôi không hiểu vì sao những người phát triển công nghệ này không hành xử với cùng lương tâm và sự quan tâm mà họ muốn dành cho chính gia đình mình", Shabazz nói với Washington Post.

Sora 2 tạo video từ hình ảnh những người quá cố mà không có sự cho phép. Ảnh: Bloomberg.

Sora 2 nhanh chóng trở thành hiện tượng toàn cầu nhờ khả năng tạo video có độ chân thực đáng kinh ngạc. Chỉ trong vài ngày sau khi ra mắt, ứng dụng này đã vươn lên vị trí dẫn đầu bảng xếp hạng tải xuống. Tuy nhiên, tốc độ lan truyền mạnh mẽ cũng đồng nghĩa với việc hàng loạt video giả mạo người nổi tiếng xuất hiện dày đặc trên mạng xã hội.

Những hình ảnh “hồi sinh” Michael Jackson, Elvis Presley hay Amy Winehouse lan truyền với tốc độ chóng mặt, khiến nhiều người xem không thể phân biệt thật giả.

Một số video được tạo ra nhằm mục đích gây cười như cảnh người dẫn chương trình “Mr. Rogers’ Neighborhood” Fred Rogers hát rap cùng Tupac Shakur. Tuy nhiên, phần lớn nội dung được tạo ra lại vượt quá giới hạn.

Trong đó, một video tái hiện Whitney Houston trong tình trạng say xỉn qua góc quay giả từ camera cảnh sát, Kobe Bryant bay trên chiếc trực thăng trong vụ tai nạn khiến anh và con gái thiệt mạng hay cựu tổng thống John F. Kennedy đùa cợt về vụ ám sát một chính trị gia đương đại đều khiến cộng đồng bức xúc.

Quy định lỏng lẻo

Theo chính sách của OpenAI, công cụ chỉ được phép mô phỏng người thật khi có sự đồng ý của họ. Dù vậy, trong lần ra mắt mới đây, công ty đã miễn trừ quy định này đối với “các nhân vật lịch sử”, cho phép người dùng tự do tạo ra video về những người đã qua đời. Chính quyết định này khiến nhiều gia đình nạn nhân phẫn nộ.

Zelda Williams, con gái của diễn viên quá cố Robin Williams, chia sẻ trên Instagram rằng cô liên tục bị gửi cho các video AI về bố mình và cầu xin mọi người “hãy dừng lại”.

“Thật điên rồ khi chứng kiến di sản của những con người thực bị thu hẹp lại thành những trò hề kinh khủng, nơi TikTok điều khiển họ”, Zelda nói.

Quy định của OpenAI về việc sử dụng Sora 2 còn nhiều kẻ hở. Ảnh: Bloomberg.

Giới chuyên gia cho rằng hiện tượng này phản ánh một bước ngoặt của công nghệ AI, nơi ranh giới giữa sáng tạo và xúc phạm trở nên mờ nhạt. Henry Ajder, nhà nghiên cứu về deepfake, nhận định việc “hồi sinh tổng hợp” những người đã mất đặt ra câu hỏi lớn về quyền kiểm soát hình ảnh và di sản cá nhân.

“Nếu bạn dùng hình ảnh người nổi tiếng để tạo nội dung, nó chắc chắn thu hút lượt xem. Nhưng với người đã khuất, điều đó chạm đến câu hỏi sâu xa hơn: ai sở hữu ký ức và danh tính của họ”, Ajder cho biết.

Trước làn sóng phản đối, OpenAI cho biết sẽ cho phép đại diện của những nhân vật công chúng mới qua đời yêu cầu chặn hình ảnh của họ khỏi video Sora. “Chúng tôi tin rằng người của công chúng và gia đình họ nên có quyền kiểm soát cách hình ảnh bản quyền”, một phát ngôn viên của OpenAI cho biết.

Nhiều tổ chức trong ngành giải trí Mỹ cũng lên tiếng cảnh báo. Creative Artists Agency, công ty quản lý nhiều ngôi sao Hollywood, cho rằng Sora 2 đã khiến khách hàng và tài sản trí tuệ phải đối mặt với rủi ro nghiêm trọng. Hiệp hội Điện ảnh Mỹ (MPAA) kêu gọi OpenAI hành động “ngay lập tức và quyết đoán” để bảo vệ quyền lợi của các nhà sáng tạo.

Không chỉ nghệ sĩ, những nhân vật lịch sử cũng trở thành nạn nhân. Một video do Sora tạo ra cho thấy Winston Churchill quảng bá cho hãng hàng không JetBlue hoặc nhắc đến những trò đùa tục tĩu trên Internet.

Minh Hoàng