Bộ nhận diện hình ảnh AI của Meta lộ lỗ hổng

Phát hiện này cho thấy những thách thức trong việc xác minh ảnh do AI tạo ra sau khi chúng trải qua các chỉnh sửa phổ biến. Đây là một hạn chế có thể khiến việc phát hiện các nội dung deepfake trên mạng trở nên khó khăn hơn, đặc biệt trong năm diễn ra nhiều cuộc bầu cử quan trọng, bao gồm cả cuộc bầu cử giữa nhiệm kỳ tại Mỹ.

Trong quá trình phân tích 40 hình ảnh được tạo bằng Muse Image, Reuters nhận thấy công cụ phát hiện của Meta xác minh thành công tất cả các ảnh AI gốc, nhưng không thể xác minh 55% số ảnh đó sau khi chúng bị cắt còn khoảng từ một phần ba đến một nửa kích thước ban đầu.

Công cụ phát hiện ảnh AI mới của Meta bị phát hiện không nhận diện được nhiều hình ảnh do chính hãng tạo ra sau khi chúng bị cắt (crop). Ảnh: Reuters

Trên trang web của mình, Meta cho biết công cụ phát hiện đang ở giai đoạn xem trước (preview) có thể nhận diện các hình ảnh do AI của hãng tạo ra, ngay cả khi chúng bị cắt, nhờ hệ thống đóng dấu bản quyền vô hình (invisible watermark) mang tên Content Seal. Dấu này được nhúng vào mọi hình ảnh do Muse Image tạo ra và được thiết kế để giúp người dùng xác minh liệu hình ảnh có được tạo bởi các mô hình AI của Meta hay không.

Khi được hỏi về kết quả phân tích của Reuters đối với công cụ phát hiện này, Meta lưu ý rằng đây vẫn chỉ là phiên bản xem trước. Công ty cho biết dấu bản quyền được thiết kế để vẫn tồn tại sau các chỉnh sửa thông thường, nhưng tín hiệu có thể bị mất nếu hình ảnh bị cắt quá nhiều.

Các công ty công nghệ đối thủ như Google và OpenAI cũng từng cảnh báo rằng các công cụ phát hiện AI của họ không hoàn toàn miễn nhiễm trước những kỹ thuật chỉnh sửa hình ảnh.

Vào tháng 3, Hội đồng Giám sát (Oversight Board) của Meta - một tổ chức gồm các chuyên gia có quyền đưa ra các quyết định mang tính ràng buộc và khuyến nghị về các vấn đề nội dung trên các nền tảng mạng xã hội của công ty đã kêu gọi Meta làm nhiều hơn nữa để giải quyết tình trạng nội dung do AI tạo ra mang tính lừa dối đang gia tăng trên các nền tảng của mình, đồng thời đầu tư vào các công cụ phát hiện mạnh mẽ hơn.

Cửa hàng Meta ở Burlingame, thuộc khu vực Vịnh San Francisco, California, Hoa Kỳ. Ảnh: Reuters

Ông Siwei Lyu, giáo sư khoa học máy tính tại Đại học Bang New York ở Buffalo, chuyên nghiên cứu về pháp y hình ảnh AI, cho biết ông chưa trực tiếp đánh giá công cụ của Meta, nhưng các hệ thống dựa trên dấu bản quyền (watermark) vốn có những hạn chế nhất định.

"Những phương pháp dựa trên watermark có thể rất hiệu quả khi dấu bản quyền vẫn còn nguyên vẹn. Tuy nhiên, bất kỳ chỉnh sửa nào làm mất hoặc làm suy yếu tín hiệu được nhúng, chẳng hạn như cắt ảnh, thay đổi kích thước, nén mạnh hoặc chỉnh sửa đều có thể làm giảm hiệu quả của chúng, tùy thuộc vào cách watermark được thiết kế", ông Lyu nói.

Sarah Barrington, nhà nghiên cứu AI và nghiên cứu sinh tiến sĩ tại Trường Thông tin thuộc Đại học California, Berkeley (UC Berkeley), cho rằng công nghệ watermark mang lại nhiều triển vọng cho tương lai của nội dung do AI tạo ra, nhưng khả năng của nó vẫn có giới hạn.

"Cũng giống như nhiều biện pháp phòng ngừa trong an ninh mạng hoặc an ninh vật lý, công nghệ này có thể không hoàn toàn kín kẽ. Nhưng ngay cả khi chỉ phát hiện được 90% trường hợp, đó vẫn là một bước tiến rất lớn so với con số 0", bà nói.