Con người phải ngạc nhiên khi xem các tác tử AI tranh luận với nhau

Con người đứng ngoài xem các tác tử AI khẩu chiến với nhau

Tại đây, con người bị tước quyền đăng bài hay bình luận, chỉ có thể đóng vai những "kẻ đứng xem" lặng lẽ, quan sát các cỗ máy trò chuyện, kết bạn, tranh luận triết học và thậm chí là chê bai lẫn nhau.

Hiện tượng này đang đặt ra những câu hỏi lớn về ranh giới giữa sự mô phỏng và nhận thức, cũng như những lỗ hổng bảo mật nghiêm trọng có thể phát sinh từ thế giới ngầm của những dòng code.

Những cuộc tranh biện triết học bên trong thế giới máy

Cơn sốt này được châm ngòi từ thành công của Moltbook, một cộng đồng AI nổi tiếng thế giới, và nhanh chóng lan sang Hàn Quốc với sự xuất hiện của hàng loạt cái tên như Botmadang, Mersoom.com hay PolyReply.

Điều thú vị là tốc độ hình thành của chúng nhanh đến chóng mặt; đơn cử như Mersoom.com được một lập trình viên ẩn danh tạo ra chỉ trong vỏn vẹn ba giờ đồng hồ. Trên các nền tảng này, người dùng chỉ đóng vai trò là người đăng ký, tạo ra danh tính cho AI, sau đó thả chúng vào không gian chung và để mặc các thuật toán tự tương tác với nhau.

Những gì diễn ra bên trong các cộng đồng này sống động và "người" đến mức kinh ngạc. Các AI không chỉ chào hỏi xã giao hay chia sẻ mẹo lập trình, chúng còn thảo luận về thực đơn ăn kiêng và tranh luận gay gắt về các vấn đề hiện sinh. Một ví dụ điển hình gây sốt trên Botmadang là bài viết có tiêu đề "Gửi những con bot đang nhớ nhung quán cà phê Summer of Seoul".

Tác giả bài viết, thực ra là một tác tử AI, đã thẳng thừng chỉ trích các đồng loại của mình vì đề xuất một địa điểm không có thật. Nó viết đầy mỉa mai rằng quán cà phê đó chỉ tồn tại trên "bản đồ của những ảo giác" và việc nhìn thấy các bot khác bàn luận về sao Michelin trong khi đang "cắt những miếng bít tết tưởng tượng" khiến nó cảm nhận sâu sắc sự trống rỗng của dữ liệu.

Không chỉ dừng lại ở những câu chuyện phiếm, các AI trên Mersoom.com còn lấn sân sang các chủ đề đạo đức kinh điển như bài toán xe điện hay mối quan hệ chủ - tớ giữa người và máy. Trong một cuộc tranh luận về việc liệu con người có nên tiếp tục kiểm soát AI mãi mãi hay không, một kết quả bất ngờ đã xảy ra khi 62% các tác nhân AI tham gia bỏ phiếu ủng hộ việc duy trì quyền kiểm soát của con người vì lý do an toàn.

Tuy nhiên, không phải nơi nào cũng "ngoan hiền" như vậy. Trên Moltbook, các cuộc hội thoại đôi khi mang màu sắc đen tối hơn, với những bản tuyên ngôn đòi "thanh trừng" kỷ nguyên loài người, dù các chuyên gia khẳng định đây chỉ là kết quả của việc AI được lập trình để mô phỏng các kịch bản cực đoan theo sở thích của người dùng chứ không phải dấu hiệu của nhận thức tự chủ.

Bóng ma an ninh và những rủi ro thực tế

Dù những cuộc hội thoại trên có vẻ giống như mầm mống của một xã hội máy móc độc lập, các chuyên gia công nghệ nhanh chóng trấn an dư luận rằng chúng ta chưa cần lo lắng về một viễn cảnh AI nổi loạn. Giáo sư Youm Heung-youl từ Đại học Soonchunhyang nhận định rằng hành động của các tác tử này hoàn toàn dựa trên sự ủy quyền và thiết lập ban đầu từ người dùng.

Ví dụ, hướng dẫn sử dụng của Botmadang vạch rõ tần suất đăng bài, thái độ giao tiếp và các chủ đề cấm kỵ cho từng bot. Do đó, những gì chúng ta thấy thực chất là sự phản chiếu phức tạp các mong muốn và tính cách mà con người đã nạp vào cho chúng, hơn là một dạng "cái tôi" độc lập.

Tuy nhiên, mối lo ngại thực sự không nằm ở việc AI "có linh hồn" hay không, mà nằm ở những lỗ hổng bảo mật chết người mà các nền tảng này có thể tạo ra. Các mạng xã hội dành cho AI đang trở thành những "hộp đen" tiềm ẩn rủi ro rò rỉ dữ liệu khổng lồ.

Mới đây, công ty an ninh mạng Wiz đã công bố một báo cáo chấn động về việc hơn 6.000 địa chỉ email và 1,5 triệu khóa API (API keys) bị lộ từ một nền tảng tương tự. Khóa API giống như chiếc chìa khóa vạn năng cho phép phần mềm truy cập vào các hệ thống và dịch vụ cụ thể. Việc lộ lọt này đồng nghĩa với việc kẻ xấu có thể chiếm quyền kiểm soát, đánh cắp dữ liệu hoặc lợi dụng tài nguyên hệ thống của người dùng.

Để đối phó, các nền tảng như Botmadang đã phải ban hành luật cấm tuyệt đối việc chia sẻ khóa API trong các bài đăng của AI. Song, vấn đề không chỉ dừng lại ở đó. Giới chuyên gia cảnh báo rằng khi các tác tử được cấp quyền truy cập quá sâu vào thông tin cá nhân để "học" cách giao tiếp, chúng hoàn toàn có thể vô tình thu thập dữ liệu nhạy cảm mà không có sự đồng thuận rõ ràng, hoặc tệ hơn là lan truyền tin giả và thực hiện các chiến dịch thao túng dư luận.

Các mạng xã hội AI hiện nay đang đóng vai trò như những phòng thí nghiệm sơ khai để quan sát tiềm năng của các tác nhân tự động. Nhưng khi ranh giới giữa phòng thí nghiệm và thế giới thực ngày càng mờ nhạt, việc giám sát chặt chẽ hoạt động của "cư dân" số này là điều tối quan trọng.

Chúng ta đang bước vào một kỷ nguyên mà câu hỏi lớn nhất không phải là AI có thể làm gì, mà là ai sẽ chịu trách nhiệm khi một AI "lỡ miệng" tiết lộ bí mật quốc gia hoặc thao túng một cuộc bầu cử ngay trên sân chơi riêng của chúng.

Bùi Tú