UNITE phát hiện video deepfake toàn diện, lá chắn bảo vệ người dùng chống lại nạn tin giả
Google phối hợp với Đại học California – Riverside phát triển hệ thống UNITE, công cụ phát hiện video deepfake mới, một giải pháp hiệu quả chống lại nạn tin giả trong thời đại AI.
UNITE - công cụ AI đột phá trong phát hiện video deepfake. Nguồn: Shutterstock
UNITE: Giải pháp phát hiện video deepfake toàn diện
UNITE (Universal Network for Identifying Tampered and synthEtic videos) là mô hình AI mới được thiết kế để phát hiện video giả mạo (deepfake) không chỉ dựa vào khuôn mặt như các công cụ trước đây, mà quét toàn bộ khung hình, từ nhân vật đến hậu cảnh và các mẫu chuyển động - theo ScienceDaily.
Dự án do Giáo sư Amit Roy-Chowdhury và nghiên cứu sinh Rohit Kundu (UCR) cùng các chuyên gia của Google gồm Hao Xiong, Vishal Mohanty và Athula Balachandra thực hiện.
Công trình nghiên cứu này được trình bày tại Hội nghị Thị giác máy tính và Nhận dạng mẫu (CVPR) năm 2025 với tiêu đề: "Hướng tới một bộ dò video tổng hợp phổ quát: Từ thao tác khuôn mặt hoặc nền đến nội dung hoàn toàn do AI tạo ra."
UNITE được huấn luyện trên kiến trúc transformer và nền tảng SigLIP, có khả năng phân tích các đặc điểm không bị giới hạn bởi một đối tượng cố định.
Ngoài ra, phương pháp huấn luyện mới "attention-diversity loss" giúp mô hình chú ý đến nhiều vùng trong video, không chỉ tập trung vào khuôn mặt. Điều này giúp UNITE trở thành công cụ phổ quát, có thể phát hiện nhiều kiểu video bị can thiệp hoặc tổng hợp bằng AI.
Theo nghiên cứu sinh Rohit Kundu, đồng tác giả của dự án, nhiều công cụ phát hiện deepfake hiện nay không hoạt động nếu video không có khuôn mặt. Trong khi đó, các mô hình tạo sinh hiện đại đã có thể tạo ra toàn bộ video từ văn bản hoặc ảnh tĩnh, vượt xa các kỹ thuật hoán đổi mặt đơn giản trước kia. "Người ta hiện đang tạo ra toàn bộ video giả mạo – từ khuôn mặt đến hậu cảnh – bằng cách sử dụng các mô hình tạo sinh mạnh mẽ. Hệ thống của chúng tôi được xây dựng để bắt kịp tất cả những điều đó," Kundu cho biết.
UNITE: Lá chắn bảo vệ người dùng trong cuộc chiến chống tin giả
UNITE không chỉ là một bước tiến công nghệ mà còn là công cụ thực tiễn dành cho các nền tảng mạng xã hội, tổ chức kiểm chứng thông tin (fact-checkers) và cơ quan báo chí trong việc chống lan truyền video giả mạo.
Trong bối cảnh công nghệ dựng video bằng AI ngày càng phổ biến và dễ tiếp cận, ngay cả người dùng bình thường cũng có thể tạo ra video giả có độ chân thực cao.
"Thật đáng sợ khi những công cụ này trở nên dễ tiếp cận đến vậy," Kundu chia sẻ. "Bất kỳ ai có kỹ năng vừa phải đều có thể vượt qua các bộ lọc an toàn và tạo ra các video chân thực về các nhân vật công chúng nói những điều họ chưa từng nói."
Mặc dù vẫn đang trong quá trình phát triển, UNITE có thể sớm đóng vai trò quan trọng trong việc ngăn chặn thông tin sai lệch từ video, bảo vệ sự thật trong không gian số.
"Mọi người xứng đáng được biết liệu những gì họ đang thấy có phải là thật hay không," Kundu nói. Và để đối phó với những công nghệ làm giả ngày càng tinh vi, chúng ta cần có những công cụ mạnh mẽ như UNITE.
