Thí nghiệm Nano Banana Pro: Các công cụ nhận diện AI hoàn toàn bất lực trước ảnh chỉnh sửa

Các công cụ phần mềm hiện nay đang gặp khó khăn lớn trong việc ngăn chặn làn sóng deepfake. Một thí nghiệm thực tế mang tên Nano Banana Pro đã phơi bày lỗ hổng nghiêm trọng của sáu công cụ nhận diện AI phổ biến nhất hiện nay, khi kết quả cho thấy chúng dễ dàng bị qua mặt chỉ bằng những thao tác hậu kỳ đơn giản.

Woman holding banana 3 – This image tricks them all (Source: Nano Banana Pro – post-processed with CyberLink PhotoDirector)

Sự thất bại của các hệ thống phòng thủ AI

Trong nỗ lực tìm kiếm giải pháp ngăn chặn sự phát tán của nội dung giả mạo, sáu công cụ nhận diện AI đã được đưa vào kiểm soát với hình ảnh từ thí nghiệm Nano Banana Pro. Tuy nhiên, kết quả thu được rất đáng thất vọng: các công cụ này gần như không thể phát hiện ra dấu vết của trí tuệ nhân tạo sau khi hình ảnh đã qua xử lý.

Đáng chú ý, các phương pháp được sử dụng để "đánh lừa" hệ thống không phải là những kỹ thuật cao siêu. Chỉ với những bước chỉnh sửa hình ảnh thông thường bằng các phần mềm tiêu chuẩn như CyberLink PhotoDirector, tỷ lệ phát hiện của các công cụ nhận diện đã giảm xuống mức gần như bằng không. Điều này cho thấy rào cản kỹ thuật để vượt qua các bộ lọc an ninh AI hiện tại là rất thấp.

Thách thức trong việc kiểm soát nội dung giả mạo

Kết quả từ Nano Banana Pro gửi đi một thông điệp cảnh báo mạnh mẽ về sự phụ thuộc vào công nghệ để xác thực thông tin. Khi các công cụ nhận diện hiện tại dễ dàng bị khuất phục bởi những chỉnh sửa thủ công cơ bản, khả năng tự bảo vệ của người dùng trước các nội dung deepfake ngày càng trở nên mong manh.

Bên cạnh đó, việc các phần mềm thương mại phổ biến có thể được sử dụng để xóa bỏ các đặc điểm nhận dạng của AI đặt ra một thách thức lớn cho các nhà phát triển. Thay vì là một lá chắn vững chắc, các công cụ nhận diện AI hiện nay chỉ đóng vai trò như một lớp lọc sơ bộ, thiếu sự ổn định cần thiết để đối phó với những hình ảnh được xử lý tinh vi hơn.

Nhìn chung, cuộc chạy đua giữa công nghệ tạo ảnh AI và công nghệ nhận diện đang có sự chênh lệch rõ rệt. Trong khi khả năng tạo ra hình ảnh giả mạo ngày càng tiến bộ, các giải pháp phát hiện vẫn cần những bước đột phá lớn hơn để có thể thực sự trở thành công cụ tin cậy trong cuộc chiến chống lại tin giả.

PHỐ HỘI