Dùng AI tạo tin giả 'MC Quyền Linh bị bắt tạm giam', 2 đối tượng bị xử phạt

Chiều 8/1, Công an TPHCM đã thông tin về tình trạng thông tin sai sự thật được tạo bằng AI phát tán trên không gian mạng gây ra nhiều hệ lụy cho xã hội.

Theo Công an TPHCM, thông tin giả mạo, sai sự thật được tạo dựng bằng công nghệ trí tuệ nhân tạo (AI) ngày càng xuất hiện nhiều trên không gian mạng gây ảnh hưởng đến uy tín của tổ chức, danh dự, nhân phẩm cá nhân, tiềm ẩn nguy cơ tác động xấu đến an ninh, trật tự;

Để ngăn chặn, Công an TPHCM đã tăng cường công tác xác minh, xử lý nghiêm các trường hợp vi phạm. Cụ thể, Phòng An ninh mạng và Phòng chống tội phạm sử dụng công nghệ cao – Công an TPHCM đã xác minh, mời làm việc và răn đe 2 trường hợp gồm T.T.H (ngụ phường An Phú) và N.T.M.D (ngụ phường Tân Sơn Nhất) về hành vi đăng tải, chia sẻ thông tin sai sự thật trên mạng xã hội được tạo bởi công cụ AI.

Các nội dung này đã làm ảnh hưởng đến uy tín của tổ chức, đồng thời xúc phạm danh dự, nhân phẩm của cá nhân, vi phạm quy định pháp luật.

2 đối tượng bị xử phạt do đăng tải thông tin sai sự thật. Ảnh: CACC.

Trước đó, trên mạng xã hội lan truyền nhiều bài viết, hình ảnh, video với nội dung "Nghệ sĩ/MC Quyền Linh bị Công an TPHCM ra lệnh bắt tạm giam", thu hút sự quan tâm lớn của dư luận.

Qua quá trình xác minh và phân tích kỹ thuật chuyên sâu, Phòng An ninh mạng và phòng chống tội phạm sử dụng cao xác định đây là nội dung hoàn toàn sai sự thật, được tạo dựng bằng công nghệ AI, lồng ghép hình ảnh, thông tin giả mạo nhằm gây hiểu nhầm, dẫn dắt dư luận theo hướng tiêu cực.

Việc tạo lập và phát tán thông tin giả mạo nêu trên không chỉ xâm phạm nghiêm trọng quyền, lợi ích hợp pháp của cá nhân liên quan, mà còn gây nhiễu loạn thông tin, ảnh hưởng tiêu cực đến môi trường thông tin lành mạnh trên không gian mạng.

Video thông tin sai sự thật về MC Quyền Linh. Ảnh: CACC.

Công an TPHCM khuyến cáo, mọi hành vi đăng tải, chia sẻ thông tin giả mạo, sai sự thật, xuyên tạc, xâm phạm quyền và lợi ích hợp pháp của tổ chức, cá nhân; gây ảnh hưởng xấu đến ANTT, tùy theo tính chất, mức độ vi phạm, sẽ bị xử lý nghiêm theo quy định của pháp luật, bao gồm xử phạt vi phạm hành chính hoặc truy cứu trách nhiệm hình sự.

Người dân khi tham gia mạng xã hội cần chủ động kiểm chứng, xác thực thông tin từ các nguồn chính thống trước khi đăng tải hoặc chia sẻ; đồng thời trang bị kiến thức, kỹ năng nhận diện các hình ảnh, video, nội dung được tạo bằng AI để tránh vô tình tiếp tay cho các hành vi vi phạm pháp luật.

Khi phát hiện các thông tin nghi vấn, có dấu hiệu giả mạo, sai sự thật người dân cần kịp thời phản ánh cho cơ quan chức năng để phối hợp xác minh, xử lý, góp phần xây dựng không gian mạng an toàn, lành mạnh.

Nam Thương