Tính năng AI gây lo ngại của TikTok

Vì tính năng trên mà nền tảng thêm một cài đặt mới tự động cho phép người dùng “phối trộn” nội dung từ người dùng khác, trừ phi họ chủ động từ chối. Không ít nhà sáng tạo nội dung phát hiện cài đặt tỏ ý phàn nàn và thấy lo ngại về dữ liệu của mình.

TikTok đang thử nghiệm công cụ tạo meme - Ảnh: Samuel Boivin/NurPhoto/Getty Images

Với tính năng mới tên Meme mixer, bất cứ ai xem phim ngắn trên TikTok đều có thể dùng số nội dung này tạo ra hình ảnh hay thay đổi khuôn mặt, giọng nói, bối cảnh.

Ví dụ nếu có đoạn phim ghi lại cảnh ai đó ở một quán cà phê mới, người xem dễ dàng dùng Meme mixer tạo nội dung đổi bối cảnh thành bãi biển hay tình huống khác chỉ bằng câu lệnh. Hình ảnh tạo ra bởi AI sẽ được chia sẻ dưới phần bình luận của đoạn phim gốc.

Một số người dùng cảm thấy đây giống như hành vi xâm phạm quyền riêng tư – một nỗ lực âm thầm thay đổi nội dung gốc từ nền tảng mạng xã hội. Tuy nhiên từ góc nhìn của TikTok, tính năng mới chỉ nhằm mở rộng khả năng đăng hình ảnh trong phần bình luận mà thôi.

Theo nhà sáng tạo nội dung Sean Szolek-Van Valkenburgh: “Thật khó chịu khi cho chúng tôi lựa chọn không tham gia chỉ bằng một nút chuyển đổi. Mặc dù giới sáng tạo hiểu rằng đăng tải nội dung lên nền tảng đồng nghĩa tự nguyện giao nộp một số quyền, nhưng vẫn cần có tùy chọn hạn chế AI khai thác các quyền đó”.

Vài năm gần đây TikTok đẩy mạnh tích hợp hàng loạt tính năng AI,chẳng hạn trợ lý thông minh Tako xuất hiện dưới dạng biểu tượng mờ phía trên ảnh đại diện lúc người dùng lướt xem phim ngắn.

Giống như các nền tảng mạng xã hội khác, TikTok phải hứng chịu phản ứng dữ dội vì tích hợp trí tuệ nhân tạo. Giới sáng tạo lo ngại sự can thiệp của AI lấn át nội dung gốc mà họ đăng tải, bên cạnh đó còn có lo ngại về môi trường, pháp lý và đạo đức. Tuy nhiên tất cả chẳng thể ngăn cản TikTok, Snapchat, Meta (sở hữu Facebook cùng Instagram) tiếp tục đặt cược vào AI.

“Phối trộn” nội dung

Meme mixer vẫn đang ở giai đoạn thử nghiệm chứ chưa được phổ biến rộng rãi, cũng chưa có thông tin về thời điểm ra mắt chính thức. TikTok thừa nhận tính năng có thể thay đổi đáng kể trước khi phát hành chính thức.

Cài đặt Meme mixer được bật mặc định. Nhưng nền tảng vẫn thiết lập nút tắt để người dùng ngăn người khác tạo meme AI từ video của mình, hoạt động tương tự cách kiểm soát việc cho phép ghép đoạn phim.

Tính năng mới không thể bị tắt ở cấp độ tài khoản mà phải tắt ở từng đoạn phim, dễ gây khó chịu cho người dùng khi Meme mixer chính thức trình làng.

TikTok cho biết tính năng chỉ phục vụ mục đích chỉnh sửa nội dung chứ không được sử dụng huấn luyện mô hình AI – một tuyên bố chẳng ai có thể kiểm chứng. Trong chính sách AI chung của công ty, họ nêu rõ bất cứ nội dung nào được sáng tạo hay chỉnh sửa hoàn toàn bởi trí tuệ nhân tạo đều phải tuân thủ các nguyên tắc cộng đồng.

Nguyên tắc do TikTok đặt ra về nội dung chỉnh sửa đặc biệt cấm nội dung khiến người dùng hiểu lầm rằng điều gì đó là thật hoặc giả, đặc biệt khi nó “mô tả nguồn tin giả mạo hay sự kiện khủng hoảng, thể hiện sai lệch hình ảnh người của công chúng ở bối cảnh nhất định”. Như vậy nội dung giả mạo (deepfake) và nội dung lạm dụng tình dục trẻ em đều bị cấm.

Nội dung AI đăng tải trên TikTok phải có nhãn dán tuân thủ tiêu chuẩn C2PA. Nhưng với loạt mô hình AI xử lý hình ảnh mạnh mẽ hơn, người dùng ngày càng khó phân biệt thật giả.

Chính sách kiểm soát tốt trên lý thuyết chưa chắc hiệu quả trên thực tế. Nhà sáng tạo nội dung Georgie (biệt danh Soupytime) chỉ ra rằng hành vi đăng lại hay đánh cắp nội dung xảy ra tràn lan trên mạng, loạt công cụ trí tuệ nhân tạo mới càng khiến việc lấy cắp nội dung gốc tạo deepfake dễ dàng thực hiện hơn.

Bê bối liên quan đến Grok AI trên mạng xã hội X là ví dụ tiêu biểu. Nếu không có biện pháp phòng ngừa, người dùng rất dễ lấy nội dung mà mọi người chia sẻ trực tuyến rồi biến chúng thành thứ gì đó độc hại.

Cách tắt Meme mixer

Nếu muốn tắt tính năng mới, hãy nhấn vào 3 dấu chấm ở góc dưới bên phải, cuộn xuống và chọn Privacy settings. Ở mục Allow AI to remix content chuyển sang Off.

Lưu ý rằng người dùng phải thực hiện với từng đoạn phim mà họ không muốn bị “phối trộn”.