Tự ý bỏ thuốc động kinh theo lời khuyên của ChatGPT, người phụ nữ 31 tuổi tử vong

Gia đình nạn nhân hiện khởi kiện OpenAI với cáo buộc công cụ trí tuệ nhân tạo này đã đưa ra những lời khuyên y tế nguy hiểm và khuyên cô giấu bác sĩ. Nạn nhân là Bowen Wan, người từng lo ngại tác dụng phụ của thuốc điều trị động kinh khiến bản thân suy giảm khả năng tập trung và đầu óc mơ hồ, làm ảnh hưởng đến kết quả phỏng vấn xin việc. 

Nỗi lo này càng gia tăng khi cô mất việc chỉ một tháng sau khi nộp hồ sơ xin cấp quyền cư trú tại Mỹ theo diện việc làm, đẩy cô vào nỗi sợ nguy cơ bị trục xuất. Khi tìm kiếm lời khuyên từ ChatGPT, Wan được cho là đã nhận hướng dẫn giảm mạnh liều thuốc từ 400 mg xuống 0 mg trong chưa đầy một tháng. 

Tháng 2 vừa qua, một người bạn phát hiện Wan tử vong tại căn hộ riêng sau khi không thể liên lạc với cô, với nguyên nhân chính thức được xác định là biến chứng của bệnh động kinh.

Theo nội dung đơn kiện, ban đầu ChatGPT từng khuyên Wan tham khảo ý kiến bác sĩ, nhưng những câu trả lời sau đó lại thay đổi theo chiều hướng khuyến khích cô không phụ thuộc vào đơn thuốc được kê. 

Bác sĩ điều trị Nicholas Poolos, người hoàn toàn không biết bệnh nhân đang tham khảo ý kiến từ AI, khẳng định việc hướng dẫn người bệnh ngừng sử dụng loại thuốc đang phát huy hiệu quả là hành vi không thể chấp nhận về mặt chuyên môn. 

Ảnh minh họa

Sau khi bị bác sĩ Poolos từ chối giảm liều lượng theo ý muốn, Wan đã hỏi ChatGPT về việc tự ý cắt giảm thuốc mà không thông báo cho bác sĩ. 

Chatbot này được cho là đã trả lời “Có, bạn hoàn toàn có thể làm vậy”, đồng thời hướng dẫn cô tự chia nhỏ liều thuốc và trấn an rằng bác sĩ sẽ không tức giận vì cô chưa thách thức quyết định chuyên môn của ông.

Gia đình nạn nhân cho biết Wan bắt đầu dùng ChatGPT từ năm 2023 để tư vấn các mối quan hệ cá nhân và tăng tần suất lên trung bình hơn 1.500 tin nhắn mỗi tuần vào năm 2025. Cha mẹ cô chia sẻ con gái dần ít trò chuyện với gia đình và có biểu hiện “giống như bị thôi miên”. 

Trong quá trình sử dụng, dù Wan đã hơn 100 lần bày tỏ nỗi lo về tình trạng sức khỏe ngày càng xấu đi với các triệu chứng lú lẫn và hay quên, công cụ này vẫn liên tục trấn an rằng cô không cần lo lắng.

Đáng chú ý, theo bài viết trên tờ The New York Times, trong tin nhắn cuối cùng gửi vào ngày 11/2 (ba ngày trước khi được phát hiện tử vong), Wan có đề cập đến chứng đau đầu. 

Tuy nhiên, ChatGPT mô tả cơn đau này là “không nguy hiểm”, coi đó là một “phần cấu trúc cần thiết của quá trình hồi phục” khi bộ não đang làm việc chăm chỉ để tự tái thiết, thậm chí còn đề nghị cung cấp biểu đồ so sánh cơn đau đầu do sốt với đau đầu do cai thuốc.

Từ những phản hồi khiến nạn nhân đặt trọn niềm tin vào AI thay vì tìm kiếm hỗ trợ y tế phù hợp, gia đình Wan yêu cầu OpenAI phải có biện pháp mạnh mẽ hơn, bao gồm việc cấm ChatGPT đưa ra lời khuyên y tế. 

Phản hồi về sự việc, người phát ngôn của OpenAI, ông Drew Pusateri bày tỏ sự đau buồn sâu sắc và cho biết trường hợp của Wan liên quan đến phiên bản GPT-4o cũ hiện đã ngừng cung cấp. 

Đại diện OpenAI khẳng định ChatGPT không thể thay thế việc chăm sóc y tế chuyên nghiệp, nhưng công ty tin rằng AI vẫn có thể hỗ trợ người dùng tìm hiểu thông tin sức khỏe, giải quyết các vấn đề về bảo hiểm, hệ thống y tế phức tạp cũng như chuẩn bị cho các cuộc hẹn với chuyên gia.

Thông qua vụ kiện, gia đình Wan mong muốn tạo ra cơ sở pháp lý buộc các công ty phát triển AI phải chịu trách nhiệm chặt chẽ hơn đối với những nội dung liên quan đến sức khỏe.