TikTok triển khai công cụ phát hiện deepfake mạo danh người nổi tiếng
TikTok triển khai công cụ giúp chính trị gia và người nổi tiếng phát hiện, báo cáo nội dung AI sử dụng hình ảnh của họ trái phép, nhằm hạn chế thông tin sai lệch trước các cuộc bầu cử tại châu Âu năm 2027.
Ngày 20/11, TikTok thông báo ra mắt công cụ phát hiện nội dung giả mạo bằng trí tuệ nhân tạo (deepfake) nhắm vào các nhân vật công chúng trên phạm vi toàn cầu. Động thái này diễn ra trong bối cảnh nền tảng tăng cường kiểm soát thông tin sai lệch trước thềm hàng loạt cuộc bầu cử tại châu Âu vào năm tới.
Công cụ có tên “Phát hiện sự giống nhau” (likeness detection) cho phép các chính trị gia và tài khoản có lượng người theo dõi lớn tìm kiếm, báo cáo những nội dung do AI tạo ra có sử dụng hình ảnh của họ mà không được cho phép. Tính năng đang được triển khai từng bước trên toàn cầu.
Deepfake là thuật ngữ chỉ các nội dung giả mạo dưới dạng văn bản, hình ảnh, video hoặc âm thanh, được tạo ra hay chỉnh sửa bằng AI nhằm khiến người xem tưởng là thật.

TikTok ra mắt công cụ phát hiện deepfake nhằm ngăn chặn mạo danh chính trị gia trước mùa bầu cử châu Âu. Ảnh: Unsplash
Với TikTok, công cụ mới là một phần trong nỗ lực bảo vệ tính toàn vẹn của các cuộc bầu cử tại châu Âu vào năm 2027, trong đó có các cuộc bầu cử ở Ý, Pháp và Hy Lạp.
Phát biểu tại một sự kiện về an toàn và đổi mới của TikTok ở London hôm 19/11, bà Francesca Scapolo, phụ trách quan hệ chính phủ của công ty về các cuộc bầu cử châu Âu, nhấn mạnh việc bảo vệ tính toàn vẹn của bầu cử là một trong những trách nhiệm quan trọng nhất của nền tảng.
Theo bà Scapolo, công cụ nhận diện hình ảnh sẽ giúp các chính trị gia và cơ quan chính phủ phát hiện những nội dung có khả năng được tạo bằng AI, sau đó bị phát tán mà không có sự đồng ý của người xuất hiện trong đó.
Liên minh châu Âu (EU) bắt đầu triển khai các quy định toàn diện về tính minh bạch của AI từ tháng 8, trong đó có yêu cầu gắn nhãn đối với deepfake và những nội dung khác do AI tạo ra.
TikTok cho biết nền tảng đã yêu cầu người dùng gắn nhãn các hình ảnh, video và âm thanh chân thực được tạo bằng AI trong nhiều năm qua. Công cụ mới được kỳ vọng bổ sung một lớp bảo vệ, giúp những người bị sử dụng hình ảnh trái phép chủ động phát hiện và báo cáo nội dung vi phạm.
Không chỉ TikTok, các nền tảng mạng xã hội khác cũng phát triển công nghệ nhận diện nội dung giả mạo. YouTube đã xây dựng công cụ cho phép người sáng tạo phát hiện những video do AI tạo ra có sử dụng hình ảnh khuôn mặt của họ.
AI ngày càng được ứng dụng rộng rãi trong hoạt động kiểm duyệt nội dung trực tuyến, khi các công ty công nghệ tìm cách xử lý khối lượng lớn nội dung có vấn đề, từ thông tin sai lệch, nội dung khiêu dâm đến ngôn từ thù hận. Công nghệ này cũng được xem là giải pháp giúp các nền tảng giảm chi phí vận hành và sự phụ thuộc vào đội ngũ kiểm duyệt viên.
Năm ngoái, TikTok cho biết những cải tiến công nghệ sẽ giúp công ty cắt giảm nhân sự và số địa điểm kiểm duyệt nội dung trên toàn cầu.



