Nỗi lo mất niềm tin giữa người với người vì Deepfake

Các chuyên gia cho rằng, khi công nghệ video Deepfake ngày càng hoàn thiện, quy mô gian lận trực tuyến sẽ còn gia tăng hơn nữa. Ảnh: The Guardian.

Lừa đảo trên "quy mô công nghiệp"

Deepfake là công nghệ mô phỏng hình ảnh khuôn mặt con người, được đặt tên theo cụm từ được kết hợp giữa "deep learning" (máy học) và "fake" (giả). Công nghệ này có thể tạo ra các sản phẩm âm thanh, hình ảnh hoặc thậm chí là cả video giả, nhờ vào trí tuệ nhân tạo tinh vi.

Theo các nghiên cứu mới nhất, gian lận sử dụng công nghệ Deepfake không còn là những vụ việc lẻ tẻ mà đã diễn ra trên "quy mô công nghiệp". Các chuyên gia cảnh báo rằng khả năng tạo ra nội dung giả mạo bằng trí tuệ nhân tạo (AI) đã đạt đến mức mà hầu như bất kỳ ai cũng có thể thực hiện được.

Simon Mylius - một nhà nghiên cứu tại MIT - nhận định rằng các rào cản kỹ thuật đã biến mất.

"Khả năng đã đột nhiên đạt đến mức mà hầu như bất cứ ai cũng có thể tạo ra nội dung giả mạo", ông nói.

Theo phân tích từ Cơ sở dữ liệu sự cố AI, các vụ lừa đảo và thao túng có chủ đích chiếm tỷ lệ lớn nhất trong các sự cố được báo cáo gần đây, với công cụ giá rẻ và dễ triển khai trên diện rộng.

Công nghệ này đang được sử dụng để tạo ra các trò lừa đảo được cá nhân hóa cao độ. Báo cáo ghi nhận nhiều ví dụ về việc "mạo danh để trục lợi", từ việc sử dụng video deepfake của các nhà báo Thụy Điển, Tổng thống Síp, cho đến Thủ hiến Tây Úc Robert Cook đang chào mời kế hoạch đầu tư.

Thiệt hại tài chính từ xu hướng này là vô cùng lớn. Năm ngoái, một nhân viên tài chính tại Singapore đã chuyển gần 500.000 USD cho những kẻ lừa đảo sau một cuộc gọi video mà ông tin là đang họp với ban lãnh đạo công ty. Tại Anh, ước tính người tiêu dùng đã mất tới 9,4 tỷ bảng Anh do gian lận chỉ trong chín tháng tính đến tháng 11/2025.

Fred Heiding - nhà nghiên cứu từ Harvard, cảnh báo: "Công nghệ lừa đảo đang trở nên rẻ đến mức hầu như ai cũng có thể sử dụng được... chúng hoạt động nhanh hơn nhiều so với dự đoán của hầu hết các chuyên gia".

Không chỉ các tập đoàn lớn, các công ty khởi nghiệp cũng không nằm ngoài tầm ngắm. Jason Rebholz, giám đốc điều hành công ty bảo mật AI Evoke, đã trải qua một tình huống hy hữu khi phỏng vấn một ứng viên kỹ sư được giới thiệu qua mạng lưới của mình.

Dù hồ sơ xin việc rất ấn tượng, cuộc phỏng vấn video đã lộ ra những điểm bất thường: phông nền giả tạo, các đường viền xung quanh nhân vật bị mờ nhạt và cơ thể lúc ẩn lúc hiện. Sau khi tham khảo ý kiến chuyên gia, Rebholz xác nhận đó là một video được tạo bởi AI.

Rebholz lo ngại: "Nếu chúng ta - một công ty bảo mật - bị nhắm mục tiêu trong vụ này, thì tất cả mọi người đều bị nhắm mục tiêu".

Hệ lụy là sự khủng hoảng niềm tin

Mối nguy hiểm thực sự không chỉ dừng lại ở thiệt hại kinh tế. Công nghệ sao chép giọng nói hiện nay đã xuất sắc đến mức những kẻ lừa đảo có thể dễ dàng giả giọng một người cháu đang gặp khó khăn để gọi điện xin tiền người thân.

Fred Heiding nhận định rằng điều tồi tệ nhất vẫn còn ở phía trước, khi sự phát triển của deepfake có thể dẫn đến những hậu quả nghiêm trọng cho các cuộc bầu cử và toàn xã hội.

"Điểm mấu chốt lớn ở đây sẽ là sự thiếu tin tưởng hoàn toàn vào các thể chế kỹ thuật số và các thể chế cũng như vật chất nói chung," ông nhấn mạnh.

Khi mắt thấy tai nghe không còn là sự thật, niềm tin giữa người với người đang đứng trước thử thách lớn chưa từng có.

Hiền Thảo