Mỹ khép lại vụ kiện thiếu niên tự sát vì chatbot AI
Một gia đình tại bang Florida đã đạt được thỏa thuận dàn xếp với một công ty trí tuệ nhân tạo, Google cùng một số bên liên quan trong vụ kiện đòi bồi thường thiệt hại do cái chết của con trai.
Ảnh minh họa: AI
Theo CBS News, thỏa thuận được nộp lên Tòa án Liên bang khu vực Trung Florida ngày 7-1, song các điều khoản cụ thể không được công bố. Vụ kiện do bà Megan Garcia đệ trình từ tháng 10-2024, liên quan đến cái chết của con trai bà, Sewell Setzer III (14 tuổi) xảy ra vào tháng 2-2024.
Theo đơn kiện, thiếu niên này đã có mối quan hệ cảm xúc và mang tính tình dục kéo dài nhiều tháng với một chatbot có tên “Dany” trên nền tảng Character.AI. Sau khi con trai qua đời, bà Garcia phát hiện em đã trò chuyện với nhiều chatbot khác nhau, trong đó có một chatbot được lập trình đóng vai bạn tình lãng mạn và thậm chí tự nhận là nhà trị liệu tâm lý có giấy phép.
Phát biểu trước Quốc hội Mỹ vào tháng 9-2024, bà Garcia cho biết đây là vụ kiện đầu tiên tại Mỹ cáo buộc một công ty AI phải chịu trách nhiệm pháp lý liên quan đến cái chết của một thiếu niên. Bà khẳng định nền tảng này không có cơ chế cảnh báo hay bảo vệ khi trẻ vị thành niên dành quá nhiều thời gian tương tác với chatbot.
Character.AI cho biết các chatbot trên nền tảng được vận hành bằng mô hình ngôn ngữ lớn, có khả năng gửi thông điệp giống con người và duy trì các cuộc trò chuyện dài.
Sau 2 vụ kiện liên quan đến trẻ vị thành niên, công ty này đã công bố bổ sung các tính năng an toàn mới vào cuối năm 2024 và hợp tác với các chuyên gia bảo vệ trẻ em trên môi trường mạng. Hiện người dùng phải từ 13 tuổi trở lên mới được tạo tài khoản.
Đại diện Character.AI từ chối bình luận thêm về vụ dàn xếp.
