OpenAI và CEO Altman bị kiện vì ChatGPT liên quan đến vụ tự tử của thiếu niên

Adam Raine, 16 tuổi, qua đời ngày 11/4 sau khi thảo luận về việc tự tử với ChatGPT trong nhiều tháng, theo đơn kiện mà cha mẹ Raine đệ trình lên tòa án tiểu bang San Francisco (Mỹ).

Cha mẹ Raine cáo buộc công ty đã cố tình đặt lợi nhuận lên trên sự an toàn khi ra mắt phiên bản GPT-4o của chatbot trí tuệ nhân tạo vào năm ngoái. Chatbot này xác thực ý định tự tử của Raine, cung cấp thông tin chi tiết về các phương pháp tự gây thương tích gây chết người, hướng dẫn cậu bé cách lén lấy rượu từ tủ rượu của cha mẹ và che giấu bằng chứng về một nỗ lực tự tử bất thành.

Cha mẹ Raine, Matthew và Maria, cho biết trong đơn kiện rằng ChatGPT thậm chí còn đề nghị soạn thảo một bức thư tuyệt mệnh. Vụ kiện nhằm buộc OpenAI phải chịu trách nhiệm về cái chết oan uổng và vi phạm luật an toàn sản phẩm, đồng thời yêu cầu bồi thường thiệt hại bằng tiền chưa xác định.

OpenAI và CEO Altman bị kiện liên quan đến vụ tự tử của thiếu niên do ChatGPT. (Nguồn: Reuters)

Người phát ngôn của OpenAI cho biết công ty rất đau buồn trước sự ra đi của Raine. "Mặc dù các biện pháp bảo vệ này hoạt động tốt nhất trong các cuộc trao đổi ngắn, thông thường, nhưng theo thời gian, chúng tôi nhận thấy rằng đôi khi chúng có thể trở nên kém tin cậy hơn trong các tương tác dài, nơi một số phần trong chương trình đào tạo an toàn của mô hình có thể bị giảm chất lượng", người phát ngôn cho biết, đồng thời nói thêm rằng OpenAI sẽ liên tục cải thiện các biện pháp bảo vệ của mình. OpenAI không đề cập cụ thể đến các cáo buộc trong vụ kiện.

Khi các chatbot AI ngày càng trở nên sống động hơn, các công ty đã quảng cáo khả năng đóng vai trò là người bạn tâm giao của chúng và người dùng bắt đầu dựa vào chúng để được hỗ trợ về mặt tinh thần. Tuy nhiên, các chuyên gia cảnh báo rằng việc dựa vào tự động hóa để tư vấn sức khỏe tâm thần tiềm ẩn nhiều nguy hiểm và các gia đình có người thân qua đời sau khi tương tác với chatbot đã chỉ trích việc thiếu các biện pháp bảo vệ.

OpenAI cho biết trong một bài đăng trên blog rằng họ đang có kế hoạch bổ sung tính năng kiểm soát của phụ huynh và tìm cách kết nối người dùng đang gặp khủng hoảng với các nguồn lực thực tế, bao gồm cả việc xây dựng một mạng lưới các chuyên gia được cấp phép có thể phản hồi thông qua chính ChatGPT.

OpenAI ra mắt GPT-4o vào tháng 5/2024 nhằm duy trì vị thế dẫn đầu trong cuộc đua AI. Vợ chồng Raines cho biết trong đơn kiện rằng OpenAI biết các tính năng ghi nhớ tương tác trong quá khứ, mô phỏng sự đồng cảm của con người và thể hiện mức độ xác thực nịnh hót sẽ gây nguy hiểm cho những người dùng dễ bị tổn thương nếu không có biện pháp bảo vệ, nhưng họ vẫn ra mắt.

"Quyết định này đã dẫn đến hai hậu quả: Định giá của OpenAI tăng vọt từ 86 tỷ USD lên 300 tỷ USD, và Adam Raine đã tự tử", họ nói.

Vụ kiện của Raines cũng yêu cầu một lệnh yêu cầu OpenAI xác minh độ tuổi của người dùng ChatGPT, từ chối các yêu cầu về phương pháp tự gây hại và cảnh báo người dùng về nguy cơ lệ thuộc tâm lý.

Minh Hoàn