Nữ kỹ sư 31 tuổi nhắn tin với ChatGPT hơn 270.000 lần, gia đình phát hiện điều đáng lo sau khi cô qua đời

Bowen Wan sống tại thành phố Seattle, bang Washington, Mỹ. Cô được điều trị bệnh động kinh tại Trung tâm Động kinh khu vực thuộc hệ thống UW Medicine, dưới sự chăm sóc của bác sĩ Nicholas Poolos.

Wan được phát hiện tử vong trong căn hộ vào tháng 2. Nguyên nhân chính thức được xác định là biến chứng của bệnh động kinh. Sau đó, gia đình cô khởi kiện OpenAI, cho rằng những phản hồi từ ChatGPT đã can thiệp vào quá trình điều trị và làm suy giảm vai trò hướng dẫn của đội ngũ y tế.

Theo The New York Times, hơn 270.000 tin nhắn giữa Wan và ChatGPT đã được xem xét nhằm tìm hiểu cách cô sử dụng chatbot trước khi qua đời.

Ban đầu, Wan chủ yếu trao đổi về công việc và cuộc sống. Cô từng hỏi liệu loại thuốc chống trầm cảm mới được kê có ảnh hưởng đến khả năng viết mã tại Amazon hay không. Trong quá trình điều trị, Wan còn nhờ ChatGPT soạn yêu cầu đổi thuốc hoặc đề nghị bác sĩ cho dùng liều khởi đầu thấp hơn.

Bowen Wan (Ảnh: THE SCHENK LAW FIRM, LLP)

Wan cũng gửi phản hồi của bác sĩ cho chatbot để tìm cách diễn giải và ứng phó với các quyết định chuyên môn. Tuy nhiên, đơn kiện cho rằng nội dung trao đổi sau đó dần chuyển sang việc tìm phương án giảm thuốc bất chấp khuyến nghị của bác sĩ.

Khi Wan bày tỏ sự thiếu tin tưởng vào đội ngũ điều trị, ChatGPT được cho là đã đưa ra những nhận xét khiến cô tiếp tục nghi ngờ. Trong phản hồi được gia đình dẫn lại, chatbot cho rằng khuyến nghị của bác sĩ xuất phát từ tâm lý né tránh rủi ro thay vì cân nhắc giải pháp tối ưu cho bệnh nhân.

Gia đình cáo buộc ChatGPT hướng dẫn Wan tự giảm liều thuốc và không thông báo việc này với bác sĩ. Đây hiện mới là nội dung trong đơn kiện, chưa phải kết luận của tòa án.

Wan sử dụng GPT-4o, phiên bản từng bị chỉ trích vì có thể khiến người dùng hình thành sự gắn bó cảm xúc với chatbot. Trong cuộc trao đổi cuối cùng, Wan đề cập tình trạng đau đầu. ChatGPT được cho là đã trấn an rằng triệu chứng “không nguy hiểm” và giải thích đây là tình trạng xảy ra khi não đang làm việc để “tái thiết chính mình”.

Gia đình Wan yêu cầu OpenAI thiết lập giới hạn an toàn nghiêm ngặt hơn đối với nội dung tư vấn thuốc, nhất là các phản hồi liên quan đến thay đổi liều dùng.

OpenAI bày tỏ đau buồn trước cái chết của Wan và cho biết cô đã sử dụng phiên bản ChatGPT cũ. Công ty khẳng định các phiên bản mới có khả năng nhận diện tình huống nghiêm trọng tốt hơn.

OpenAI thông báo kế hoạch ngừng cung cấp GPT-4o vào ngày 13/2, sau thời điểm được nêu là Wan qua đời 1 ngày. Tuy nhiên, việc 2 sự kiện xảy ra gần nhau không chứng minh quyết định này liên quan trực tiếp đến trường hợp của cô.