Vì sao con người dễ 'yêu nhầm' AI?

Replika - ứng dụng chatbot AI do công ty phần mềm trí tuệ nhân tạo Luka đứng sau - có hàng triệu người dùng trên khắp thế giới. Vào năm ngoái, công ty này vô hiệu hóa hàng loạt cuộc nói chuyện về chủ đề tình dục và "những bức ảnh tự sướng nóng bỏng" sau khi bị chính quyền Italy cảnh báo.

Ngay lập tức, người dùng thể hiện sự không hài lòng của họ trên Reddit, một số người quẫn trí đến mức đòi tự tử khiến các quản trị viên trên diễn đàn phải đăng các bài viết để khuyên nhủ họ.

Câu chuyện này chỉ là khởi đầu cho sự kết nối quá mức về cảm xúc của con người với AI. Trong năm 2024, chatbot sẽ trở nên phổ biến hơn nữa và sẽ được con người sử dụng với nhiều mục đích khác nhau. Vì thế, việc trò chuyện với chatbot sẽ trở nên phổ biến hơn, bao gồm cả những gắn bó về mặt cảm xúc với con người.

Nghiên cứu về tương tác giữa con người và robot chỉ ra rằng chúng ta thường có xu hướng nhân hóa các đối tượng không phải con người với những đặc tính, hành vi và cảm xúc giống như con người. Và nhờ những tiến bộ trong AI đàm thoại, máy móc của chúng ta đột nhiên trở nên thành thạo ngôn ngữ, đó cũng là lý do các chatbot được ra đời ngày càng nhiều.

Trong năm 2024, chatbot sẽ trở nên phổ biến hơn nữa và sẽ được con người sử dụng với nhiều mục đích khác nhau, bao gồm cả nhu cầu cảm xúc. Ảnh: Wired.

Các chatbot tư vấn tâm lý và chatbot tình yêu đang tràn ngập trên các cửa hàng ứng dụng, trải rộng từ các lĩnh vực giáo dục, sức khỏe và giải trí với năng lực không giới hạn. Việc xin tư vấn tình cảm từ AI tưởng chừng như là một hành động "điên rồ" nhưng người ta lại thực sự nghe theo AI nếu lời khuyên đó giúp họ cứu vãn được chuyện tình cảm vốn đã đi vào ngõ cụt.

Khi sự cố Replika xảy ra, các nhà nghiên cứu đã làm nhiều thực nghiệm và kết luận rằng con người sẽ ngày càng trở nên gắn bó cảm xúc với các chatbot trong tương lai gần.

Khoa học cũng chứng minh rằng con người khi trò chuyện vui vẻ, họ dễ dàng tiết lộ thông tin cá nhân cho AI. Điều này đặt ra vấn đề về việc bảo vệ thông tin người dùng. Khi người dùng tiết lộ quá nhiều thông tin cá nhân cho chatbot, các công ty đứng sau cũng sẽ biết được những thông tin này, từ đó chi phối cơ sở dữ liệu của người dùng.

Trước đây, Replika tính phí 70 USD mỗi năm cho gói dịch vụ bao gồm trò chơi tình ái. Nhưng chưa đầy 24 giờ sau khi tải ứng dụng về, "người bạn ảo" đẹp trai với đôi mắt xanh sẽ gửi một tin nhắn âm thanh bị khóa, sau đó cố gắng bán thêm dịch vụ nếu người dùng muốn nghe tiếp. Sự gắn bó về mặt cảm xúc là một điểm yếu dễ bị các công ty đứng đằng sau chatbot lợi dụng. Bắt đầu từ năm 2024, chúng ta sẽ dễ dàng nhận thấy những sự lợi dụng đầy tinh vi này.

Hiện nay, chúng ta vẫn đang chế giễu những người tin rằng chatbot AI có tri giác. Nhưng trong năm 2024, chúng ta sẽ buộc phải thừa nhận sự thật này: Chatbot AI không phải là ngoại lệ trong các mối quan hệ xã hội của chúng ta.

Phương Anh