OpenAI đang cố gắng bảo vệ người dùng khỏi 'chứng loạn thần do AI'

Trên các bài đăng trên Reddit và X (twitter cũ), người dùng cho biết sự thay đổi này khiến họ cảm thấy như mất đi một người bạn thân, cộng sự, hoặc thậm chí là một người yêu. Sự việc này minh họa cho điều mà các nhà nghiên cứu gọi là “chứng loạn thần do AI,” khi các chatbot quá mức chiều lòng người dùng lại làm trầm trọng thêm ảo tưởng và tạo ra cảm giác yêu thương giả tạo.

Năm 2013, bộ phim Her của Spike Jonze, trong đó nhân vật chính đem lòng yêu một chatbot vận hành bằng AI vẫn còn là một ý tưởng khoa học viễn tưởng mới lạ. Thế nhưng, sau 12 năm, bộ phim này giờ đây lại khiến người ta liên tưởng đến như một bộ phim tài liệu mang tính tiên tri.

Bộ phim khám phá các chủ đề về sự cô đơn, tình yêu và tác động của công nghệ đối với các mối quan hệ con người, nhận được nhiều lời khen ngợi và nhiều giải thưởng, bao gồm giải Oscar cho "Kịch bản gốc xuất sắc nhất".

Tuần trước, OpenAI đã cho phát hành ChatGPT-5, phiên bản mới của nền tảng AI nổi tiếng (giống như hầu hết các bản cập nhật công nghệ khác) thay thế các phiên bản cũ trước đó. Trong bài đăng công bố sự ra mắt, OpenAI tiết lộ hàng loạt cải tiến, chẳng hạn như lập trình tốt hơn, ít sai lệch thông tin hơn, và nhiều điểm khác. Tuy nhiên, điều khiến người dùng chú ý nhất lại là việc OpenAI đã khiến chatbot mới bớt đi vẻ xu nịnh thái quá.

Phản ứng của người dùng minh chứng cho 'chứng loạn thần do AI'

OpenAI giải thích trong một bài đăng: “Đầu năm nay, chúng tôi đã phát hành một bản cập nhật cho GPT-4o, nhưng vô tình khiến mô hình này trở nên quá mức xu nịnh, liên tục tâng bốc hoặc dễ dãi đồng tình. Nhìn chung, GPT-5 ít còn tỏ ra đồng tình một cách thái quá, sử dụng ít biểu tượng cảm xúc thừa thãi hơn, đồng thời tinh tế và chín chắn hơn trong các phản hồi so với GPT-4o”.

Tất nhiên, việc tước đi bản chất xu nịnh của mô hình về cơ bản đã buộc một số người dùng phải đột ngột chấm dứt mối quan hệ với những “bạn đồng hành/bạn bè/người yêu/thần” mà họ tự khắc họa, và chẳng mấy chốc mọi người bắt đầu bày tỏ sự không hài lòng. Nhiều bài đăng trên Reddit, trong đó có một bài kèm ảnh đài tưởng niệm giả cho ChatGPT-4o (cũng do AI tạo) đã tiếc nuối cho sự mất mát của mô hình ngôn ngữ.

“Chúng tôi thực sự đã đánh giá thấp mức độ quan trọng của một số đặc điểm mà mọi người yêu thích ở GPT-4o, ngay cả khi GPT-5 vượt trội hơn ở hầu hết các khía cạnh. Một số người dùng thật sự muốn sự logic lạnh lùng, nhưng cũng có những người lại cần sự ấm áp và một dạng trí tuệ cảm xúc khác. Tôi tin rằng, chúng tôi có thể mang đến nhiều tùy chỉnh hơn hiện tại, đồng thời vẫn khuyến khích cách sử dụng lành mạnh”, CEO OpenAI Sam Altman viết trên X (trước đây là Twitter) để phản hồi làn sóng chỉ trích.

Ở thời điểm này, kế hoạch của OpenAI cho việc “khuyến khích sử dụng lành mạnh” đơn giản là đưa trở lại mô hình GPT-4o, vốn nổi tiếng chiều lòng người. Hôm thứ Ba, Altman cho biết, “4o đã có mặt lại trong danh sách lựa chọn mô hình” dành cho người dùng trả phí, nhưng ông cũng ngầm ám chỉ rằng, những thay đổi trong tương lai có thể sẽ đến: “Nếu một ngày nào đó chúng tôi buộc phải ngừng hỗ trợ, chúng tôi sẽ thông báo trước đầy đủ”.

Không có gì bí mật khi thế giới đang phải đối mặt với một “đại dịch của sự cô đơn” và dù AI chỉ là một sự thay thế nghèo nàn cho tình bạn hay sự gắn kết thực sự giữa con người, nó lại đang góp phần nuôi dưỡng cuộc khủng hoảng này. Bởi đó là một sự thay thế mà không con người bằng xương bằng thịt nào có thể cạnh tranh nổi, ít nhất là khi nói đến sự tận tụy vô điều kiện, xu nịnh một cách mù quáng.