Google tăng cường biện pháp chống lại deepfake khiêu dâm

Công nghệ deepfake với nhiều nguy cơ tiềm ẩn ngày càng tinh vi và khó ngăn chặn

Deepfake là công nghệ sử dụng trí tuệ nhân tạo (AI) để chỉnh sửa, tạo ra các video, hình ảnh âm thanh giả mạo. Công nghệ này thường sử dụng các thuật toán học sâu (deep learning) để ghép khuôn mặt hoặc giọng nói của một người vào bất kỳ video, hình ảnh hoặc âm thanh nào để tạo ra những nội dung giả mạo nhưng lại rất chân thực.

Về mặt ứng dụng, deepfake mang lại khá nhiều giá trị trong các lĩnh vực như giải trí, giáo dục, quảng cáo. Tuy nhiên, công nghệ này tiềm ẩn nhiều nguy cơ nghiêm trọng khi bị lạm dụng vào các mục đích xấu như lan truyền thông tin giả, lừa đảo, xâm phạm quyền riêng tư,... Cùng với sự phát triển nhanh và mạnh mẽ trong lĩnh vực AI, công nghệ deepfake ngày càng trở nên tinh vi. Việc phát hiện và ngăn chặn deepfake thực sự là một thách thức lớn đối với xã hội hiện nay.

Đối mặt với các hình thức lạm dụng AI mới, đặc biệt là deepfake khiêu dâm không có sự đồng ý, mới đây, Google đã công bố các biện pháp chống lại các nội dung khiêu dâm lạm dụng deepfake.

Quy trình xóa các nội dung deepfake dễ dàng hơn

Trước đây, người dùng đã có thể yêu cầu xóa nội dung khiêu dâm giả mạo không có sự đồng ý khỏi Google search. Quy trình này đã được Google cải tiến đơn giản hơn, dễ dàng hơn, giúp giải quyết vấn đề này ở quy mô lớn hơn. Khi người dùng yêu cầu xóa thành công nội dung deepfake không được sự đồng ý của họ khỏi Google search, hệ thống cũng sẽ tự động lọc tất cả các kết quả tương tự để người dùng không phải yêu cầu nhiều lần, đồng thời quét và xóa mọi bản sao được tìm thấy.

Giảm thứ hạng các trang web chứa deepfake

Google cho biết sẽ hạ thấp thứ hạng của các trang web thường xuyên lưu trữ hình ảnh, video khiêu dâm giả mạo không có sự đồng ý. Thử nghiệm cho thấy, cách tiếp cận này hiệu quả đối với các loại nội dung có hại khác, đây sẽ là giải pháp hiệu quả để giảm thiểu nội dung khiêu dâm giả mạo trong kết quả tìm kiếm.

"Các bản cập nhật trong năm nay đã giảm hơn 70% khả năng hiển thị kết quả hình ảnh rõ ràng trên các loại truy vấn. Với những thay đổi này, mọi người có thể đọc về tác động của deepfake đối với xã hội, thay vì xem các trang có hình ảnh giả mạo không có sự đồng ý" - Emma Higham, Giám đốc sản phẩm của Google chia sẻ.

Google cũng đang nỗ lực phát triển các giải pháp mới để phân biệt giữa nội dung khiêu dâm có thật và được đồng ý (như cảnh khỏa thân của diễn viên) với nội dung giả mạo rõ ràng (như deepfake có sự tham gia của diễn viên đó). Đây là một thách thức lớn và Google vẫn đang liên tục cải thiện để đưa nội dung hợp pháp lên trên, hạ thứ hạng nội dung giả mạo nhằm giúp cộng đồng tránh được những hậu quả tiêu cực từ các nội dung deepfake khiêu dâm không có sự đồng ý. Đây là một bước tiến quan trọng trong việc bảo vệ người dùng trên môi trường internet.

Nam Phong