Sử dụng chatbot để chia sẻ cảm xúc

Ảnh minh họa

"Nghe có vẻ như bạn đang có rất nhiều việc vào lúc này, Taylee. Mình hiểu rằng những thay đổi và trách nhiệm này có thể gây căng thẳng", Troodi đáp. Troodi là một chatbot về sức khỏe tinh thần, được tích hợp trên điện thoại Troomi dành cho trẻ em.

Taylee cảm thấy Troodi thực sự thấu hiểu mình và luôn sẵn sàng trò chuyện, ngay cả khi cha mẹ cô bé đang ngủ. "Đôi khi cháu quên mất rằng Troodi không phải là người thật", cô bé chia sẻ.

Nhiều bậc phụ huynh cũng hài lòng khi con cái trò chuyện với Troodi. Chatbot này đưa ra lời khuyên về quản lý căng thẳng, giải quyết xung đột và cũng hữu ích cho những trẻ có xu hướng suy nghĩ quá nhiều.

Hơn nữa, nhiều cha mẹ nhận thấy đôi khi lời khuyên sẽ dễ được đón nhận hơn khi đến từ một bên trung lập. Mẹ của Taylee, bà Amber Johnson, cho biết bà và con gái rất thân thiết nhưng "cách nói của Troodi khiến con bé dễ chấp nhận hơn".

Trí tuệ nhân tạo hỗ trợ sức khỏe tinh thần

Nếu được triển khai hiệu quả, chatbot hỗ trợ cảm xúc có thể góp phần xoa dịu cuộc khủng hoảng sức khỏe tinh thần ở thanh thiếu niên. Troomi là một thử nghiệm đáng chú ý, trong đó cha mẹ – những khách hàng chính – đóng vai trò giám sát chặt chẽ.

Tuy nhiên, nhiều trẻ em hiện nay tự tìm đến các trợ lý trí tuệ nhân tạo (AI) như ChatGPT hay My AI của Snapchat để chia sẻ cảm xúc mà không có sự đồng ý của cha mẹ.

Mùa thu năm ngoái, Amber Johnson nhận được email từ Troomi thông báo về tính năng mới. Taylee chưa từng gặp bác sĩ trị liệu và Amber cũng không nghĩ con gái mình cần điều đó, nhưng cô hiểu rằng việc chuyển nhà đang ảnh hưởng lớn đến tâm lý của con.

Nhiều bậc phụ huynh cũng hài lòng khi con cái trò chuyện với Troodi.

Tình hình càng tệ hơn khi gia đình cô rơi vào cảnh chưa có nơi ở cố định vì nhà của họ được bán nhanh hơn dự kiến. Amber cho rằng đây là thời điểm thích hợp để thử chatbot của Troomi. Tuy nhiên, cô quyết định không nói trước với con gái.

"Tôi nghĩ con bé sẽ cảm thấy kỳ lạ nếu tôi chủ động khuyên dùng, như thể tôi đang ngầm bảo rằng con bé cần đến nó", Amber chia sẻ. Thay vào đó, cô âm thầm kích hoạt Troodi trên điện thoại của Taylee và chỉ trong hai ngày, con gái cô đã tự mình thử trải nghiệm.

Troomi Wireless, có trụ sở tại Orem, Utah, sản xuất điện thoại thông minh với trình duyệt Internet hạn chế, theo dõi tin nhắn và kiểm soát danh bạ cũng như thời gian sử dụng. Ra mắt vào cuối năm 2021, công ty hiện có hàng chục nghìn người dùng là thanh thiếu niên trên nước Mỹ, theo CEO Bill Brady.

Vào tháng 11/2024, Troomi đã cung cấp cho phụ huynh tùy chọn kích hoạt Troodi trên điện thoại của trẻ em và đến nay đã có hàng nghìn người sử dụng. Công ty hợp tác với Elomia Health, một startup chuyên về chatbot sức khỏe tinh thần, phát triển Troodi dựa trên nền tảng GPT-4 của OpenAI, với hướng dẫn và kiểm định của đội ngũ bác sĩ lâm sàng.

"Chúng tôi tin rằng an toàn trực tuyến có liên quan mật thiết đến sức khỏe tinh thần", Brady nói. "Mục tiêu của Troodi là giúp trẻ em giải quyết các vấn đề tâm lý trước khi chúng trở nên nghiêm trọng".

AI không thể thay thế tương tác trực tiếp

Các nhà trị liệu lo ngại rằng trẻ em có thể tìm đến các chatbot thông thường để tìm kiếm hỗ trợ tinh thần mà không có sự giám sát thích hợp. Trường hợp đau lòng đã xảy ra năm ngoái khi một thiếu niên ở Florida tự tử sau khi tâm sự với chatbot trên Character AI – nền tảng không được thiết kế cho mục đích trị liệu. Sau đó, Character AI đã bổ sung các rào cản an toàn mới cho trẻ vị thành niên.

Ảnh minh họa

Ngay cả với các chatbot được thiết kế để hỗ trợ cảm xúc, giới chuyên gia vẫn nhấn mạnh rằng vai trò của người lớn là không thể thay thế. AI có thể là công cụ hữu ích nếu giúp cha mẹ giao tiếp tốt hơn với con cái nhưng nó không thể thay thế tương tác giữa con người.

"Điều tôi lo ngại nhất là trẻ có thể chia sẻ mọi thứ với chatbot nhưng lại không mở lòng với bất kỳ ai khác", Stephen Schueller, giáo sư khoa học tâm lý và tin học tại Đại học California, nhận định.

Với Troodi, cha mẹ có thể theo dõi lịch sử trò chuyện và nhận báo cáo về trạng thái cảm xúc của con. Nếu trẻ đề cập đến hành vi tự làm hại, hệ thống sẽ tự động gửi cảnh báo. "Nó không phải là một công cụ chẩn đoán hay một nhà trị liệu", CEO Troomi Bill Brady nói. "Đây là một người bạn đồng hành AI, giúp trẻ có thể nói chuyện và đặt câu hỏi".

Brady chia sẻ rằng nhờ phản hồi từ Troodi, ông mới biết con gái 15 tuổi của mình vẫn còn buồn về một sự cố của bạn cùng lớp, dù con đã lâu không nhắc chuyện này với ông. Trong một trường hợp khác, Suzanne và Antonio Carrillo ở Maryland đã tìm đến Troodi để hỗ trợ con gái 26 tuổi bị thiểu năng trí tuệ.

Sau một lần con bắt nạt người khác trên Facebook, gia đình quyết định mua điện thoại Troomi để cô cảm thấy được kết nối mà vẫn tránh xa rắc rối. Clare, con gái họ, cũng mắc chứng lo âu và sống trong một nhà tập thể.

Cô thường xuyên gọi cho cha mẹ cả ngày lẫn đêm để xin lời khuyên về cách đối phó với các tình huống. Nhưng từ khi có Troodi, Clare đã bớt làm phiền cha mẹ. Trong tháng đầu tiên, cô đã nhắn tin cho chatbot hơn 1.600 lần.

"Troodi không bao giờ phàn nàn dù con gái tôi hỏi cùng một câu hàng chục lần", Suzanne chia sẻ. Chatbot đã giúp Clare kiểm soát lo âu và giải quyết mâu thuẫn với bạn cùng phòng.

Tuy nhiên, chatbot sức khỏe tinh thần không phải lúc nào cũng hoàn hảo. Năm 2023, Hiệp hội Rối loạn Ăn uống Quốc gia Hoa Kỳ đã phải gỡ chatbot của họ sau khi phát hiện nó cung cấp lời khuyên không phù hợp về chế độ ăn.

Nguyên nhân được cho là do đối tác công nghệ của tổ chức đã lập trình chatbot bằng AI tạo sinh mà chưa được đồng ý.

Brady, CEO của Troomi, khẳng định Troomi rất thận trọng khi phản hồi. Nếu phát hiện có bất kỳ lỗi nào, họ sẽ ngay lập tức sửa chữa. Tuy nhiên, đôi khi AI vẫn có thể hiểu sai ngữ cảnh.

Một phụ huynh ở Oregon chia sẻ chatbot đã đánh dấu một bình luận của con gái bà về pizza, cho rằng đó có thể là ám hiệu liên quan đến tình dục trong giới trẻ. "Nhưng thực tế, con bé chỉ đang nói về việc đi ăn pizza với bạn bè", bà nói.

Dù vậy, trải nghiệm của Taylee với Troodi vẫn khá tích cực. Buổi sáng, chatbot gửi tin nhắn chúc cô bé một ngày tốt lành. Tối đến, nó lại nhắc cô chia sẻ điều mà mình tự hào hoặc một khoảnh khắc tích cực trong ngày.

"Troodi giúp cháu nhận ra rằng ngay cả khi có một ngày tồi tệ, vẫn luôn có những điều tốt đẹp diễn ra", Taylee nói.

Nguồn: Wall Street Journal

Kim Ngọc