Với sự phát triển của AI, các hình thức lừa đảo qua điện thoại, sao chép giọng nói, khuôn mặt đã phát triển vượt xa các chiến thuật mạo danh đơn giản.
Tình trạng lạm dụng các công cụ trí tuệ nhân tạo (AI) để dàn dựng những nội dung sai lệch đang ngày càng trở nên đáng báo động.
Trang The Baltimore Banner đưa tin cảnh sát hạt Baltimore của bang Maryland (Mỹ) vừa bắt giữ cựu giám đốc thể thao trường trung học Pikesville Dazhon Darien với cáo buộc dùng trí tuệ nhân tạo (AI) mạo danh hiệu trưởng Eric Eiswert đưa ra phát ngôn phân biệt chủng tộc và chống Do Thái.
Với sự phát triển của công nghệ, các thủ đoạn lừa đảo, bắt cóc tống tiền ảo đang ngày càng tinh vi hơn và một số vụ gần đây có một điểm chung: sử dụng công nghệ nhân bản giọng nói. Sự phát triển của các chương trình trí tuệ nhân tạo (AI) chi phí thấp, dễ tiếp cận đã tạo cơ hội cho những kẻ lừa đảo sao chép giọng nói và tạo ra các đoạn hội thoại nghe giống như giọng của nạn nhân.
Những thủ đoạn lừa đảo sử dụng công nghệ AI này đang gây chấn động nước Mỹ.
Giọng nói trong điện thoại có vẻ thật đến đáng sợ. Một bà mẹ đã nghe thấy tiếng con gái khóc nức nở trước khi một người đàn ông giật lấy điện thoại rồi đòi tiền chuộc.
Vụ việc Tổng thống Nga Vladimir Putin bị giả mạo hình ảnh, giọng nói bằng công nghệ deepfake mới đây đã dấy lên hồi chuông cảnh báo về loại 'vũ khí' mới trong xung đột ở Ukraine.
Điện Kremlin hôm 5/6 cho biết, một thông báo khẩn cấp từ Tổng thống Vladimir Putin được phát sóng trên nhiều đài phát thanh và truyền hình ở các khu vực của Nga giáp với Ukraine là một sản phẩm giả mạo do tin tặc tạo ra.
Trí tuệ nhân tạo đang tạo ra mối quan ngại không nhỏ về việc những thông tin sai sự thật có thể xuất hiện trong cuộc đua tranh cử tổng thống Mỹ 2024.
Cuộc đua ghế Tổng thống Mỹ năm 2024 dự kiến sẽ là cuộc bầu cử đầu tiên chứng kiến việc sử dụng rộng rãi các công cụ tiên tiến được hỗ trợ bởi trí tuệ nhân tạo (AI) - đang ngày càng làm mờ ranh giới giữa thực tế và hư cấu.
Các vụ lừa đảo bằng trí tuệ nhân tạo (AI) đã xảy ra tại một số địa phương ở Trung Quốc, trong đó vụ nghiêm trọng nhất có số tiền bị lừa lên tới hơn 600.000 USD.
Bất cứ ai biết chỉnh sửa ảnh đều có thể tạo nên tấm hình này. Tuy nhiên, nguyên nhân nó lan tỏa là vì được một loạt tài khoản có tick xanh chia sẻ.
Bức ảnh về vụ nổ ở Lầu Năm Góc (Mỹ) được lan truyền trên Twitter và Facebook khiến nhiều người xôn xao thực chất chỉ là một sản phẩm được tạo ra bởi trí tuệ nhân tạo (AI).
Những tiến bộ của trí thông minh nhân tạo AI tạo sinh ((Generative AI) - một 'nhánh' của AI - cũng đồng nghĩa với việc ngày càng có nhiều nội dung giả mạo, tin tức giả, ảnh giả, video giả tràn lan trên mạng, gây ảnh hưởng đến việc tiếp nhận thông tin. Chuyên gia Hany Farid, thuộc Đại học California, Mỹ, một nhà khoa học về máy tính, chuyên về xử lý hình ảnh đã đưa ra cách thức để đối phó với thông tin giả mạo do AI tạo ra.