Phát hiện hàng trăm trang web dùng AI để sản xuất tin tức sai lệch

Nội dung AI gây hiểu lầm bao gồm các sự kiện bịa đặt, lời khuyên y tế và trò lừa bịp về cái chết của người nổi tiếng, làm dấy lên mối lo ngại mới rằng công nghệ này có thể làm xấu hơn vấn nạn thông tin sai lệch trực tuyến.

Mối lo ngại về việc các trang web trôi nổi sử dụng AI để đưa tin giả đã trở thành hiện thực. Ảnh minh họa: GI

Hai báo cáo được phát hành riêng biệt bởi NewsGuard, một công ty theo dõi thông tin sai lệch trực tuyến và ShadowDragon, một công ty cung cấp tài nguyên và đào tạo cho các cuộc điều tra kỹ thuật số.

Steven Brill, CEO của NewsGuard, cho biết trong một tuyên bố: “Độc giả ngày càng ít tin tưởng vào các nguồn tin tức một phần là do không phân biệt được đâu là nguồn tin đáng tin cậy và ngược lại. Làn sóng mới của các trang web do AI tạo ra này sẽ chỉ khiến độc giả khó biết ai đang cung cấp tin tức cho họ hơn, làm giảm thêm lòng tin” .

NewsGuard đã xác định được 125 trang web, từ loại hình tin tức đến thông tin lối sống và được xuất bản bằng 10 ngôn ngữ, với nội dung được viết hoàn toàn hoặc chủ yếu bằng các công cụ AI.

Các trang web bao gồm một cổng thông tin y tế mà NewsGuard cho biết đã xuất bản hơn 50 bài báo do AI tạo ra để đưa ra lời khuyên y tế.

NewsGuard cho biết các trang web thường tràn ngập quảng cáo, cho thấy nội dung không trung thực được tạo ra để "câu view" lấy quảng cáo cho chủ sở hữu trang web, những người thường hoàn toàn giấu mặt.

Nội dung không xác thực cũng được ShadowDragon tìm thấy trên các trang web và mạng xã hội, bao gồm cả trên Instagram và trong các bài đánh giá của Amazon. Công ty cũng chỉ ra một số tài khoản Instagram dường như sử dụng ChatGPT hoặc các công cụ AI khác để viết mô tả dưới hình ảnh và video.

Để tìm các ví dụ, các nhà nghiên cứu đã tìm ra các thông tin sai lệch rõ ràng và các câu trả lời soạn sẵn thường do các công cụ AI tạo ra. Một số trang web thậm chí vẫn còn quên chưa xóa thông tin do AI cảnh báo nội dung của nó đưa ra sau khi được yêu cầu viết bài chứa thông tin sai lệch hoặc độc hại.

ShadowDragon đã tìm thấy những tin nhắn như vậy trên mạng xã hội việc làm LinkedIn, trong các bài đăng trên Twitter và nhiều mạng xã hội khác. Một số bài đăng trên Twitter đã được xuất bản bởi các bot, chẳng hạn như ReplyGPT, để tự động trả lời các bình luận của người dùng.

Hoàng Hải (theo NewsGuard, NYT)