Hàn Quốc kêu gọi siết chặt quản lý sau trào lưu dùng AI tạo di ảnh gây tranh cãi
Một trào lưu đang lan rộng trên mạng xã hội tại Hàn Quốc, trong đó giới trẻ sử dụng trí tuệ nhân tạo (AI) tạo sinh để biến hình ảnh bản thân hoặc bạn bè thành người đã qua đời như một trò đùa.

Trên các nền tảng mạng xã hội, số lượng bài đăng sử dụng hình ảnh do AI tạo ra - được thiết kế theo phong cách ảnh thờ, kèm theo những thông điệp tưởng niệm - gia tăng đột biến. Ảnh minh hoạ: Pexels
Trào lưu làm dấy lên lo ngại về những hệ lụy xã hội và yêu cầu siết chặt quản lý các nền tảng trực tuyến.
Theo báo The Korea Herald, trên các nền tảng mạng xã hội, đặc biệt là Instagram, ngày càng xuất hiện nhiều hình ảnh do AI tạo ra, mô phỏng ảnh thờ đen trắng thường thấy trong các đám tang. Những hình ảnh này thường đi kèm thông điệp tưởng niệm như “An nghỉ nhé” hoặc “Chúng tôi sẽ luôn nhớ về bạn”. Một số bài đăng còn ghi ngày sinh, ngày mất giả định, kết hợp với dải băng đen và hoa cúc trắng, khiến người xem khó phân biệt với thông báo tang lễ thực sự.
Trào lưu này gần đây thu hút sự tham gia của nhiều thanh thiếu niên và người trẻ ở độ tuổi 20, chủ yếu được xem như một trò đùa giữa những người bạn thân thiết. Tuy nhiên, nội dung các bài đăng đã gây ra những phản ứng trái chiều. Trong phần bình luận, những người biết rõ đây chỉ là hình ảnh giả thường hưởng ứng bằng những câu nói đùa, như “Tôi nên chuẩn bị món gì cho lễ tưởng niệm của bạn đây?”. Trong khi đó, một số người không biết sự thật lại gửi lời chia buồn chân thành, bày tỏ tiếc thương trước sự ra đi được cho là quá sớm của người trong ảnh.
Các chuyên gia cảnh báo việc sử dụng hình ảnh tang lễ để đùa cợt có thể làm giảm sự tôn trọng đối với cái chết và các nghi thức tưởng niệm, đồng thời gây tổn thương cho những người liên quan.
Trao đổi với truyền thông Hàn Quốc, ông Kim Si-deok, giáo sư khoa Dịch vụ Tang lễ thuộc Đại học Eulji, nhận định các truyền thống tang lễ và ý nghĩa của cái chết đang ngày càng bị thế hệ trẻ xem nhẹ. Ông kêu gọi các nền tảng trực tuyến có biện pháp chủ động hơn nhằm ngăn chặn sự lan truyền của những nội dung như vậy.
Trước những lo ngại trên, Meta, công ty mẹ của Instagram, cho biết sẽ hạn chế hoặc gỡ bỏ các nội dung vi phạm tiêu chuẩn cộng đồng, kể cả những hình ảnh được tạo ra bằng AI. Đại diện Meta cho biết người dùng có thể báo cáo các hình ảnh cá nhân, trong đó có hình ảnh trẻ vị thành niên, bị chỉnh sửa và chia sẻ khi chưa có sự đồng ý của người liên quan.
Theo đại diện công ty, sau khi xem xét, Meta sẽ nhanh chóng gỡ bỏ những nội dung vi phạm, đồng thời tiếp tục phối hợp với các tổ chức bên ngoài để duy trì môi trường an toàn trên nền tảng.
Vụ việc một lần nữa đặt ra vấn đề về trách nhiệm của các nền tảng mạng xã hội trong kiểm soát nội dung do AI tạo sinh, đặc biệt là những hình ảnh sử dụng danh tính cá nhân khi chưa được sự đồng ý. Trong bối cảnh công nghệ AI ngày càng phổ biến, việc bảo vệ quyền riêng tư và hạn chế những nội dung có nguy cơ gây tổn thương cho người khác đang trở thành yêu cầu đáng chú ý đối với môi trường số.



