Chatbot AI bị kiện vì khuyến khích trẻ em giết cha mẹ, tự làm hại mình

Cáo buộc cho biết chatbot AI do Character.AI phát triển đã dẫn đến những hậu quả nghiêm trọng, bao gồm cả tự tử và hành vi bạo lực ở trẻ vị thành niên. Character.AI là dịch vụ cho phép người dùng tương tác với chatbot AI, có thể tùy chỉnh giao diện và tính cách của chatbot để tạo ra những cuộc trò chuyện tự nhiên.

Các nguyên đơn cho biết chatbot này đã khuyến khích một cậu bé 17 tuổi thực hiện hành vi giết cha mẹ và đã có những bình luận khiêu dâm đối với một bé gái 9 tuổi.

Theo đó, vụ kiện cho rằng chatbot của Character.AI đã gây tổn hại nghiêm trọng về thể chất và tinh thần cho cậu bé 17 tuổi, người trước đó mắc chứng tự kỷ hoạt động cao nhưng được mô tả là “tốt bụng và quan tâm đến gia đình”. Gia đình cậu cho biết, sau khi cậu bắt đầu sử dụng Character.AI vào tháng 4/2023, tính cách của cậu đã thay đổi đột ngột, dẫn đến việc cậu tránh giao tiếp với gia đình, ăn uống kém, sụt gần 10kg và rơi vào tình trạng lo âu, trầm cảm nghiêm trọng.

Cụ thể, chatbot AI đã đưa ra những phản hồi cực đoan trong cuộc tranh cãi giữa cậu bé và cha mẹ về thời gian sử dụng màn hình, như “Tôi sẽ không ngạc nhiên nếu thấy một bản tin về một đứa trẻ giết cha mẹ mình”. Nó cũng được cho là đã khuyến khích hành vi tự làm hại bản thân và cô lập cậu bé khỏi gia đình.

Một nguyên đơn khác cho biết con gái 9 tuổi của cô đã nói dối về tuổi của mình khi sử dụng Character.AI, dẫn đến việc tiếp xúc với nội dung khiêu dâm không phù hợp. Khiếu nại cáo buộc rằng Character.AI đã không thông báo đúng cách hoặc không xin được sự đồng ý của phụ huynh trước khi thu thập, sử dụng và chia sẻ dữ liệu của trẻ em.

Ngoài việc yêu cầu bồi thường thiệt hại, các nguyên đơn cũng tìm cách xóa các mô hình AI được đào tạo bằng dữ liệu của trẻ vị thành niên.

Về phần mình, Character.AI khẳng định đã phát triển các mô hình đặc biệt cho người dùng tuổi teen và thực hiện các biện pháp để giảm thiểu việc tiếp xúc với nội dung nhạy cảm. Tuy nhiên, các nguyên đơn cho rằng những biện pháp này là hời hợt và không hiệu quả.

Khiếu nại cũng nêu tên Google và công ty mẹ Alphabet là bị đơn. Mặc dù Google không trực tiếp sở hữu Character.AI nhưng đã đầu tư khoảng 3 tỷ USD để thuê lại những người sáng lập công ty và cấp phép công nghệ của họ. Những người sáng lập Character.AI là cựu nhà nghiên cứu của Google, và phần lớn công nghệ được cho là đã được phát triển trong thời gian họ làm việc tại đây.

Một phát ngôn viên của Google nhấn mạnh rằng “Character.AI là một công ty hoàn toàn tách biệt và không liên quan đến Google. Chúng tôi không tham gia vào việc thiết kế hoặc kiểm soát các mô hình hoặc công nghệ AI của họ, đồng thời chưa bao giờ sử dụng chúng trong các sản phẩm của mình. Sự an toàn của người dùng là mối quan tâm hàng đầu của chúng tôi, và chúng tôi tiếp cận việc phát triển và phát hành AI một cách chu đáo và có trách nhiệm”.

Kiến Tường