YouTube siết chặt kiểm soát các video giả mạo bằng AI
Mới đây, YouTube đã cập nhật chính sách cho phép người dùng yêu cầu xóa các video sử dụng công nghệ AI để mô phỏng khuôn mặt hoặc giọng nói của họ.
Người dùng có thể gửi khiếu nại về những video được cho là giả mạo được làm từ công cụ trí tuệ nhân tạo (AI). (Ảnh: The Gaze)
Đây là một bước tiến quan trọng trong nỗ lực của YouTube nhằm bảo vệ quyền riêng tư của người dùng và chống lại nạn giả mạo ngày càng gia tăng trên nền tảng này.
Theo chính sách mới, bản thân người bị giả mạo có thể trực tiếp khiếu nại hoặc thay mặt cho người khác nếu họ là trẻ vị thành niên, đã qua đời hoặc không có khả năng truy cập máy tính. YouTube sẽ xem xét yêu cầu và đưa ra quyết định dựa trên các yếu tố như:
- Video được tạo hoàn toàn bằng AI hay tổng hợp từ các video có sẵn?
- Nội dung video có mang tính châm biếm, nhại lại hay có giá trị với công chúng?
- Mức độ nguy hại tiềm ẩn của video đối với danh tiếng và quyền riêng tư của người bị giả mạo?
Tuy nhiên, quyết định cuối cùng về việc xóa video hay không thuộc về YouTube. Nền tảng này sẽ đảm bảo tính minh bạch và công bằng trong quá trình xem xét bằng cách cung cấp cho người dùng quyền giải thích lý do khiếu nại và cơ hội phản hồi từ người tải lên video.
Việc YouTube mạnh tay với các video giả mạo bằng AI được cho là có liên quan đến kỳ bầu cử tổng thống Mỹ sắp tới. Các chuyên gia lo ngại rằng những video này có thể được sử dụng để lan truyền thông tin sai lệch và ảnh hưởng đến kết quả bầu cử.
Sự bùng nổ của các mô hình AI tạo video từ văn bản vào đầu năm 2024 càng khiến cho vấn đề video giả mạo trở nên cấp bách hơn. Các công cụ như Sora của OpenAI, Lumier của Google và Emu Video của Meta có khả năng tạo ra những video vô cùng chân thực, khiến người xem khó phân biệt được với video thật.
Chính sách mới của YouTube là một bước đi đúng hướng trong việc giải quyết vấn đề video giả mạo bằng AI. Tuy nhiên, để thực sự hiệu quả, YouTube cần có sự phối hợp chặt chẽ với các bên liên quan khác như các tổ chức bảo vệ quyền riêng tư và các chuyên gia về AI.
Ngoài ra, người dùng cũng cần nâng cao nhận thức về nguy cơ của video giả mạo và cẩn trọng khi tiếp cận với các thông tin trên mạng.
