Khi người đã khuất 'sống lại' trong chatbot

“Deadbot” là các mô hình AI được huấn luyện từ tin nhắn, thư thoại và dữ liệu cá nhân của người đã khuất. Ảnh: Minh họa của AI

Trong một bữa tối thân mật ở Ba Lan do các nhà nghiên cứu Đại học Cambridge tổ chức, một người mẹ vừa mất con trai thổ lộ rằng bà đã sẵn sàng “hồi sinh kỹ thuật số” đứa con. Nhưng rồi theo tường thuật của tạp chí Vox, đến cuối bữa ăn, bà đổi ý. Bà nhận ra bản sao ấy “không phải con trai mình”, và thị trường đứng sau công nghệ đó vốn được thiết kế để giữ chân, kiếm tiền, “chứ không phải để chăm sóc” con người.

Nỗi đau thành sản phẩm, ký ức thành dữ liệu

“Deadbot” là các mô hình AI được huấn luyện từ tin nhắn, thư thoại và dữ liệu cá nhân của người đã khuất. Để tạo ra những bot này, về mặt công nghệ, rào cản gần như bằng 0. Chẳng cần ứng dụng chuyên biệt, chỉ vài câu lệnh gửi vào một chatbot thông dụng là có thể bắt đầu “trò chuyện” với người thân đã mất trong vài phút.

Xu hướng công nghệ này theo Vox đã được ghi nhận từ năm 2024 khi ngành “di sản số” được định giá 22 tỉ USD và dự kiến đạt gần 80 tỉ USD vào năm 2034, dù con số này gộp cả các dịch vụ quen thuộc như tưởng niệm trực tuyến hay lập kế hoạch di sản.

Thực tế thì những loại hình kinh doanh ra đời từ nỗi đau và sự mất mát chẳng phải chuyện mới, từ bia mộ cầu kỳ đến quan tài mạ vàng. Nhưng không khó để nhận ra AI làm được điều mà chiếc quan tài không thể, nó định hình lại chính cách con người đối diện với sự mất mát ấy.

Để có thể hình dung trước những gì có thể xảy ra với xu hướng công nghệ này, bà Katarzyna Nowaczyk-Basinska, giảng viên Đại học Cambridge với hơn 10 năm nghiên cứu “sự bất tử kỹ thuật số”, và ông Tomasz Hollanek, chuyên gia đạo đức AI, đã dựng ba ứng dụng giả định.

Trong kịch bản đầu tiên, cô gái tên Bianca tải tin nhắn và giọng nói của bà ngoại lên ứng dụng Manana. “Bà” trò chuyện rất giống thật, cho đến khi hết bản dùng thử cao cấp và bắt đầu quảng cáo sản phẩm. Kịch bản thứ hai, Paren’t, nặng nề hơn với một người mẹ mắc bệnh nan y tạo bản sao để tiếp tục “hiện diện” trong cuộc đời con trai. Theo ông Hollanek, trẻ em vốn rất khó hiểu về cái chết nên dễ hoang mang, đau khổ. Kịch bản thứ ba, Stay, tinh vi hơn cả. Một người cha già trả trước nhiều năm để bản sao của mình trò chuyện với các con sau khi ông qua đời. Trong khi một người con của ông thấy tò mò thì một người con khác lại thấy “đau khổ và có phần ghê sợ”.

Ba kịch bản giả định nhưng lại cùng chỉ ra một sự thật: người đã khuất không còn tiếng nói, người ở lại đang yếu lòng nhất, còn quyền điều khiển cuộc trò chuyện lại nằm trong tay doanh nghiệp.

Ai bảo vệ những người đang đau khổ?

Ngay cả khi mọi thứ vận hành suôn sẻ, cuộc chia tay với người quá cố suy cho cùng cũng chỉ là đang bị hoãn lại. Ông Hollanek cho biết việc người dùng rời xa bản sao số, dù tự nguyện hay vì công ty phá sản, đang được nghiên cứu như một dạng “mất mát lần thứ hai”. Bản sao ấy nên tồn tại 5, 10 hay 50 năm, khi người sống không ngừng đổi thay còn “người đối thoại” thì cứ mãi đứng yên.

Câu hỏi ấy không có đáp án chung cho mọi nền văn hóa. Nhóm nghiên cứu chọn Trung Quốc, Ấn Độ và Ba Lan để lấp khoảng trống của giới nghiên cứu công nghệ, vốn thiên về nhóm “WEIRD”, tức các xã hội phương Tây, có học vấn, công nghiệp hóa, giàu có và dân chủ.

Ở Ba Lan, công nghệ này va chạm với vai trò của Giáo hội Công giáo. Ở Trung Quốc, các học giả Đạo giáo hào hứng với triển vọng bất tử, trong khi học giả Phật giáo cho rằng con người nên học cách buông bỏ.

Dù khác biệt như vậy nhưng những người tham gia dự án nghiên cứu ở các nước vẫn gặp nhau ở một điểm. Theo ông Hollanek, họ đều thấy “hết sức đáng lo ngại” khi công nghệ này chỉ do doanh nghiệp thương mại phát triển, không kèm bất kỳ “nghĩa vụ chăm sóc” rõ ràng nào với khách hàng.

Các nhà nghiên cứu kêu gọi cần sớm có quy định và cơ chế bảo vệ ở cấp chính sách, cùng đội ngũ chuyên gia hỗ trợ dùng AI có đạo đức, chẳng hạn trong môi trường lâm sàng để giúp người ở lại nói lời từ biệt chưa kịp nói.

Theo Vox, một số chuyên gia còn đề xuất chỉ cho phép dùng deadbot dưới sự giám sát tâm lý. Mỗi người cũng có thể phải ghi rõ trong di nguyện rằng mình có muốn “lưu lại” dưới dạng bản sao số hay không.

Khi deadbot được coi là thiết bị y tế

Theo một nghiên cứu công bố trên tạp chí Springer ngày 22/11/2022, tháng 1/2021, Microsoft được cấp bằng sáng chế chatbot mô phỏng một người cụ thể, nhưng ông Tim O’Brien, giám đốc phụ trách AI của hãng, khẳng định chưa triển khai vì lo ngại đạo đức và tính chất “gây bất an” của nó.

Nghiên cứu dẫn trường hợp một bà mẹ Hàn Quốc gặp avatar con gái đã mất trong thực tế ảo và cảm thấy cuối cùng đã được nói lời từ biệt. Từ đó, tác giả đề xuất xếp deadbot vào nhóm thiết bị y tế, chỉ dành cho người mắc chứng đau buồn kéo dài và phải chứng minh vô hại trước khi sử dụng.