Những 'cậu bé AI' kể khổ khiến người già sập bẫy

Những câu chuyện đẫm nước mắt được tạo ra bằng AI

Thời gian gần đây, các nền tảng video ngắn tại Trung Quốc xuất hiện hàng loạt video về những cậu bé có hoàn cảnh đáng thương. Khi thì phải nhịn đói vì không có tiền ăn trưa, lúc lại bị bạn bè bắt nạt vì chưa đóng học phí. Những câu chuyện được kể bằng giọng nói nghẹn ngào, cùng gương mặt ngây thơ và đôi mắt ngấn lệ khiến không ít người xem xúc động.

Điểm chung của các nhân vật này là đều mang tên “Xiaohai” (Tiểu Hải). Tuy nhiên, chúng không phải những đứa trẻ có thật mà là sản phẩm được tạo ra bằng công nghệ AI.

Trong một video lan truyền trên mạng xã hội, Tiểu Hải xuất hiện với bộ đồng phục học sinh, tay cầm chiếc bánh bao hấp và buồn bã kể: “Các bạn cùng lớp đều đi ăn trưa hết rồi. Con phải trốn trong lớp để ăn chiếc bánh này”.

Ở một video khác, cậu bé đứng dưới trời mưa, kể rằng mình bị bắt nạt vì chưa đóng học phí. Sau những lời tâm sự đầy tủi thân, Tiểu Hải cầu xin người xem mua ngũ cốc kiều mạch để giúp cậu hoàn thành chỉ tiêu bán hàng, tránh bị người khác chế giễu.

Đáng chú ý, các nhân vật này thường xưng hô với người xem là “các dì”, “các mẹ”, tạo cảm giác gần gũi như con cháu trong gia đình. Những câu chuyện về cuộc sống thiếu thốn, người cha đơn thân vất vả hay nỗi lo không có tiền đi học liên tục được sử dụng để khơi gợi lòng trắc ẩn.

Sau khi lấy được sự đồng cảm, các tài khoản bắt đầu giới thiệu thực phẩm chức năng, ngũ cốc, dầu ăn và nhiều mặt hàng gia dụng khác.

Theo thông tin được truyền thông Trung Quốc phản ánh, nhiều sản phẩm có giá bán cao hơn đáng kể so với thị trường. Với mức hoa hồng bán hàng có thể lên tới 55%, những người đứng sau các tài khoản này có thể thu về khoản lợi nhuận không nhỏ.

Một người am hiểu ngành sản xuất nội dung số tiết lộ với tờ The Beijing News rằng, chỉ cần sử dụng những câu lệnh AI được chia sẻ công khai trên mạng, người sáng tạo nội dung có thể sản xuất hàng loạt video Tiểu Hải và kiếm từ 2.000 đến 3.000 nhân dân tệ mỗi ngày, tương đương khoảng 7,4–11,1 triệu đồng.

Trào lưu này nhanh chóng lan rộng trên các nền tảng video ngắn tại Trung Quốc. Những chủ đề liên quan đến Tiểu Hải đã thu hút tổng cộng hơn 600 triệu lượt xem.

Hình ảnh Tiểu Hải được AI tạo dựng (Nguồn: SCMP)

Người già trao tình thương cho một nhân vật không có thật

Điều khiến dư luận lo ngại không chỉ là cách những nhân vật AI được sử dụng để bán hàng, mà còn là sự tin tưởng và gắn bó về mặt tình cảm của nhiều người cao tuổi dành cho chúng.

Phần lớn người theo dõi các tài khoản Tiểu Hải là người trung niên và người già. Dưới mỗi video, hàng nghìn bình luận thể hiện sự xót xa, yêu thương xuất hiện.

“Sao con chỉ ăn bánh bao thế? Mẹ thương con đến đứt ruột”, một phụ nữ để lại bình luận.

Một người khác sau khi đặt mua hàng đã nhắn nhủ: “Con trai yêu quý, mẹ đã đặt mua bốn món rồi. Mẹ mãi yêu con”.

Những lời bình luận cho thấy không ít người xem thực sự coi nhân vật trên màn hình như con cháu của mình. Họ mua hàng không hẳn vì nhu cầu sử dụng mà bởi mong muốn giúp đỡ một đứa trẻ đang gặp khó khăn.

Thậm chí, sự gắn bó với những nhân vật ảo còn dẫn đến những tình huống khó tin.

Tháng 5, cảnh sát tại thành phố Urumqi, Trung Quốc, phát hiện một cụ bà 79 tuổi không biết chữ đang một mình di chuyển bằng tàu hỏa.

Khi được hỏi, cụ bà khẳng định muốn đến tỉnh Sơn Tây để gặp Tiểu Hải. Trước đó, trong một buổi phát trực tiếp, nhân vật này đã mời bà đến ăn nấm và ngắm hoa.

Tin tưởng lời mời, cụ bà quyết định lên đường mà không nhận ra người mình muốn gặp thực chất chỉ là một nhân vật do AI tạo ra.

Sau khi giải thích rõ sự việc, cảnh sát đã liên hệ với người thân và đưa bà trở về nhà an toàn.

Các chuyên gia pháp lý tại Trung Quốc cảnh báo, hành vi cố tình dựng lên những câu chuyện sai sự thật để kích thích người xem mua hàng có thể cấu thành hành vi lừa đảo, tùy thuộc vào tính chất và mức độ vi phạm.

Tại thời điểm vụ việc được truyền thông phản ánh, tổng số tiền liên quan đến các hành vi lừa đảo bị cáo buộc vẫn chưa được công bố. Phần lớn video về Tiểu Hải trên các nền tảng video ngắn tại Trung Quốc đại lục đã bị gỡ bỏ.

Theo giáo sư Mã Lượng, Đại học Bắc Kinh, sự phổ biến của những nhân vật AI như Tiểu Hải không đơn thuần là câu chuyện về công nghệ hay hoạt động kinh doanh trực tuyến mà còn phản ánh một vấn đề xã hội đáng lo ngại.

“Nhiều người cao tuổi đang phải đối mặt với sự cô đơn cùng cực trong cuộc sống thực. Họ tìm đến việc tiêu dùng trên môi trường số để lấp đầy khoảng trống tình cảm”, ông chia sẻ với tạp chí China Newsweek.

Khi thiếu sự quan tâm và kết nối trong đời sống hằng ngày, một số người cao tuổi dễ tìm kiếm cảm giác được yêu thương, cần đến và chia sẻ thông qua mạng xã hội.

Những nhân vật AI với gương mặt hiền lành, lời nói lễ phép và hoàn cảnh đáng thương đã đánh trúng nhu cầu tình cảm ấy. Việc mua một món hàng đôi khi không còn đơn thuần là giao dịch thương mại mà trở thành cách để người xem thể hiện tình yêu thương và cảm giác mình đang giúp đỡ một người thân.

Đáng lo ngại hơn, công nghệ AI cho phép những người vận hành tài khoản tạo ra số lượng lớn video với nội dung, biểu cảm và lời thoại khác nhau mà không cần người thật xuất hiện. Điều này khiến những câu chuyện hư cấu có thể liên tục được sản xuất, lan truyền và tiếp cận hàng triệu người.

Trước tình trạng trên, một số cư dân mạng Trung Quốc đã sử dụng chính công nghệ AI để tạo ra loạt video mang tên “Tiểu Hải độc ác”, với mục đích cảnh báo cha mẹ và những người lớn tuổi về thủ đoạn thao túng cảm xúc trên mạng.

Trong các video châm biếm, Tiểu Hải xuất hiện trong bộ quần áo tù nhân, gửi lời xin lỗi đến những người từng tin tưởng mình. Ở một số video khác, nhân vật mặc đồ xa xỉ, hút thuốc và khoe khoang về việc kiếm tiền từ lòng thương của những người mà cậu vẫn gọi là “các dì, các mẹ”.

Dù mang tính hài hước, những video này cũng cho thấy nỗ lực của người trẻ trong việc giúp thế hệ lớn tuổi nhận diện các nội dung giả mạo do AI tạo ra. Tuy nhiên, việc cảnh báo về công nghệ có thể chưa đủ để giải quyết tận gốc vấn đề. Bởi đằng sau những khoản tiền được chi ra còn là nhu cầu được quan tâm, trò chuyện và kết nối của không ít người già.