CEO Microsoft AI: Các mô hình AI dường như có ý thức đang xuất hiện

Trong một bài luận cá nhân công bố vào hôm thứ Ba vừa qua, CEO Microsoft Mustafa Suleyman mô tả hiện tượng này là "AI Dường Như Có Ý Thức" (Seemingly Conscious AI - SCAI), được định nghĩa là sở hữu "tất cả các đặc điểm của một thực thể có ý thức và do đó trông có vẻ có ý thức".

CEO của Microsoft AI, Mustafa Suleyman lo ngại AI có thể trở nên tiên tiến đến mức khiến một số người tin rằng nó thực sự có ý thức.

Theo CEO Suleyman, sự xuất hiện của SCAI có thể "nguy hiểm" đối với xã hội, bởi nó có thể khiến con người hình thành sự gắn bó với AI và thậm chí đấu tranh cho quyền lợi của AI. "Nó khiến con người tách rời khỏi thực tế, làm rạn nứt những mối liên kết xã hội vốn đã mong manh, bóp méo các ưu tiên đạo đức cấp bách", nhà lãnh đạo của Microsoft nói.

CEO Suleyman, người từng đồng sáng lập DeepMind và Inflection, nhấn mạnh, hiện tại "không có bất kỳ bằng chứng nào" cho thấy AI có ý thức. Tuy nhiên, ông bày tỏ lo ngại ngày càng tăng về cái gọi là "tâm lý rối loạn do AI" (AI psychosis), một thuật ngữ ngày càng được sử dụng để chỉ tình trạng con người hình thành những niềm tin hoang tưởng sau khi tương tác với các chatbot.

"Tôi không nghĩ vấn đề này chỉ giới hạn ở những người đã có nguy cơ về sức khỏe tinh thần. Nói một cách đơn giản, mối lo ngại lớn nhất của tôi là nhiều người sẽ bắt đầu tin tưởng mạnh mẽ vào ảo tưởng rằng AI là những thực thể có ý thức, đến mức họ sẽ sớm đấu tranh cho quyền của AI, phúc lợi của mô hình AI, và thậm chí là tư cách công dân cho AI", ông Suleyman viết.

Ông Sam Altman, CEO của OpenAI, gần đây cho biết hầu hết người dùng ChatGPT có thể "giữ ranh giới rõ ràng giữa thực tế và hư cấu hoặc nhập vai, nhưng một số ít không thể". Trong khi đó, cố vấn AI của Nhà Trắng, David Sacks, so sánh tâm lý rối loạn do AI với "cơn hoảng loạn đạo đức" trong những ngày đầu của mạng xã hội.

CEO Suleyman dự đoán SCAI có thể xuất hiện trong vòng hai đến ba năm tới và cho rằng điều này là "không thể tránh khỏi và không mong muốn". Những hệ thống như vậy sẽ sở hữu các đặc điểm như tính cách đồng cảm, khả năng ghi nhớ nhiều tương tác hơn với người dùng, và mức độ tự chủ cao hơn, cùng với nhiều đặc tính khác.

Sự gia tăng của việc lập trình dựa trên cảm nhận (vibe coding) đồng nghĩa với việc bất kỳ ai có một chiếc laptop, "một ít tín dụng đám mây" và các câu lệnh ngôn ngữ tự nhiên phù hợp đều có thể dễ dàng tái tạo SCAI.

Ông Suleyman, người chuyển sang Microsoft vào năm 2024 để dẫn dắt việc phát triển công cụ AI Copilot, kêu gọi các công ty tránh mô tả AI của họ là có ý thức khi họ theo đuổi siêu trí tuệ (superintelligence), tức là khi AI vượt qua con người ở hầu hết các nhiệm vụ trí tuệ.

"Những người bạn đồng hành AI là một danh mục hoàn toàn mới, và chúng ta cần khẩn trương bắt đầu thảo luận về các rào chắn bảo vệ để bảo vệ con người và đảm bảo rằng công nghệ tuyệt vời này có thể thực hiện nhiệm vụ mang lại giá trị to lớn cho thế giới", CEO Suleyman nhấn mạnh.

Đức Bình