AI-generated deepfakes là gì, và làm sao để phòng tránh cho doanh nghiệp ?

Mục lục

AI-generated deepfakes là gì?
Những mối nguy từ AI-generated deepfakes
Một số giải pháp phòng chống AI-generated deepfakes trong doanh nghiệp
1. Giáo dục và nâng cao nhận thức:
2. Sử dụng công nghệ phát hiện deepfake:
3. Tăng cường bảo mật dữ liệu:
4. Xây dựng quy trình xác minh thông tin:
5. Hợp tác với các bên liên quan:

AI-generated deepfakes là gì?

AI-generated deepfakes - hay ngắn gọn hơn là “Deepfakes” - là một thuật ngữ kết hợp từ "deep learning" và "fake", đề cập đến việc sử dụng trí tuệ nhân tạo (AI) để tạo ra video, hình ảnh hoặc âm thanh giả mạo một cách hiệu quả và đáng ngạc nhiên. Cụ thể, AI-generated deepfakes thường sử dụng kỹ thuật học sâu để tổ hợp và tái tạo hình ảnh hoặc video của một người vào nội dung khác, thường là một cách rất chân thực.

AI-generated deepfakes có thể được tạo ra bằng cách sử dụng các mô hình học sâu như GANs (Generative Adversarial Networks) để học cách tạo ra hình ảnh hoặc video mới từ dữ liệu mẫu. Các mô hình này có thể học được cách biểu diễn của một người từ các video và ảnh đã có, sau đó tạo ra hình ảnh hoặc video mới mà giống như người đó.

AI-generated deepfakes có thể được sử dụng cho nhiều mục đích, từ giải trí và nghệ thuật đến lừa đảo và phỉ báng. Trong giải trí, deepfake có thể được sử dụng để tạo ra video hài hước hoặc phim ảnh, trong khi nếu bị kẻ xấu lợi dụng, nó có thể trở thành công cụ đắc lực tạo ra video giả mạo nhằm gây hại cho danh tiếng hoặc quyền riêng tư của người khác.

Tính đến hiện nay, AI-generated deepfakes đã trở thành một vấn đề đáng lo ngại cả về mặt đạo đức lẫn an ninh, khi nó có thể dẫn đến việc lạm dụng thông tin, lừa đảo, hoặc thậm chí làm mất lòng tin vào hình ảnh và video. Do đó, việc nghiên cứu và phát triển biện pháp ngăn chặn và phát hiện deepfake trở thành một ưu tiên quan trọng trong cộng đồng nghiên cứu và công nghiệp.

Những mối nguy từ AI-generated deepfakes

Vụ việc ở Hong Kong được đề cập đến ở đầu bài viết là trường hợp sử dụng AI-generated deepfakes tấn công vào các mục tiêu cao cấp mới nhất trong vài tuần trở lại đây.

Trước đó, vô số hình ảnh giả mạo của ngôi sao Taylor Swift đã bị phát tán trên mạng xã hội. Một đảng chính trị tại Pakistan thậm chí còn dùng AI-generated deepfakes để tạo video ứng viên tranh cử của họ đang phát biểu dù ông này đã đi tù. Ngay cả Tổng thống Mỹ Biden cũng không thoát khỏi AI-generated deepfakes với một video gây tranh cãi khi ông này kêu gọi các cử tri…đừng đi bỏ phiếu.

Những vụ tấn công vào các mục tiêu ít giá trị hơn bằng AI-generated deepfakes cũng ngày càng tinh vi và lan rộng về quy mô. Trong lĩnh vực ngân hàng, hacker tìm cách qua mặt hệ thống xác thực giọng nói bằng các đoạn âm thanh giả mạo và chiếm quyền truy cập tài khoản của nạn nhân.

Những người bình thường cũng trở thành đối tượng bị AI-generated deepfakes nhắm đến, cụ thể là các cuộc tấn công “spear phishing”. Thủ đoạn phổ biến là hacker sẽ đánh lừa các thành viên gia đình và bạn bè nạn nhân bằng cách sử dụng các đoạn âm thanh giả mạo trong các cuộc điện thoại, từ đó yêu cầu họ chuyển tiền vào một tài khoản bên thứ ba.

Năm ngoái, một cuộc khảo sát bởi McAfee cho thấy 70% số người được khảo sát không thể tự tin phân biệt được giọng nói người thật và giả mạo, và gần một nửa trong số họ sẽ thực sự làm theo yêu cầu chuyển tiền nếu nhận được cuộc gọi từ bạn bè hoặc người thân nói rằng đã bị cướp hay gặp tai nạn giao thông.

Hacker còn giả mạo làm cơ quan thuế, ngân hàng, bệnh viện, bảo hiểm.. nhằm dụ dỗ nạn nhân cung cấp các thông tin tài chính và thông tin cá nhân nhạy cảm.

Hồi tháng 2 năm nay, FCC (Mỹ) đã ban hành quyết định nêu rõ các cuộc gọi sử dụng AI-generated deepfakes là vi phạm pháp luật, trừ khi được thực hiện theo yêu cầu của bên được gọi. FCC còn cấm sử dụng AI giả mạo làm các cơ quan chính phủ và doanh nghiệp, đồng thời dự kiến đưa ra các điều khoản tương tự với các cá nhân. Có thể thấy, các quốc gia trên toàn thế giới đang dần vạch ra nhiều biện pháp để ngăn chặn AI-generated deepfakes.

Một số giải pháp phòng chống AI-generated deepfakes trong doanh nghiệp

Để chống lại mối đe dọa từ AI-generated deepfakes, các doanh nghiệp cần áp dụng một số giải pháp dưới đây:

1. Giáo dục và nâng cao nhận thức:

- Nâng cao nhận thức của nhân viên về deepfake, giúp họ hiểu rõ về tác hại và cách thức hoạt động của nó.

- Cung cấp cho nhân viên các hướng dẫn cụ thể để nhận diện deepfake, bao gồm các dấu hiệu cảnh báo và các công cụ hỗ trợ.

- Khuyến khích nhân viên báo cáo bất kỳ nội dung nào nghi ngờ là deepfake.

2. Sử dụng công nghệ phát hiện deepfake:

- Áp dụng các công nghệ tiên tiến như học máy và xử lý ngôn ngữ tự nhiên để tự động phát hiện deepfake trong nội dung truyền thông của doanh nghiệp.

- Hợp tác với các nhà cung cấp dịch vụ phát hiện deepfake uy tín để có được giải pháp phù hợp với nhu cầu của doanh nghiệp.

- Cập nhật thường xuyên các công nghệ phát hiện deepfake để theo kịp sự phát triển của các kỹ thuật tạo deepfake mới.

3. Tăng cường bảo mật dữ liệu:

- Áp dụng các biện pháp bảo mật nghiêm ngặt để bảo vệ dữ liệu hình ảnh, âm thanh và video của doanh nghiệp.

- Hạn chế quyền truy cập vào dữ liệu nhạy cảm và chỉ cấp cho những người có nhu cầu thực sự.

- Giám sát hoạt động truy cập dữ liệu để phát hiện bất kỳ hành vi khả nghi nào

4. Xây dựng quy trình xác minh thông tin:

-Thiết lập quy trình xác minh thông tin chặt chẽ trước khi chia sẻ bất kỳ nội dung nào trên các kênh truyền thông của doanh nghiệp.

- Sử dụng nhiều nguồn tin uy tín để xác minh thông tin và tránh dựa vào một nguồn duy nhất.

- Cẩn trọng với những nội dung có vẻ quá tốt để trở thành sự thật hoặc có những điểm bất thường.

5. Hợp tác với các bên liên quan:

- Hợp tác với các cơ quan chức năng và các tổ chức khác để chia sẻ thông tin về deepfake và phối hợp các nỗ lực phòng chống.

- Tham gia vào các diễn đàn và nhóm thảo luận về deepfake để cập nhật những thông tin mới nhất và học hỏi kinh nghiệm từ các doanh nghiệp khác.

- Hỗ trợ các nghiên cứu và phát triển các giải pháp phòng chống deepfake hiệu quả hơn.

Bằng cách áp dụng các giải pháp phòng chống AI-generated deepfakes một cách hiệu quả, các doanh nghiệp có thể bảo vệ danh tiếng và uy tín của mình, đồng thời đảm bảo sự an toàn cho dữ liệu và thông tin của họ.

Kiên Trung