Anthropic cảnh báo nguy cơ AI có thể tự nhân bản không còn xa

Ảnh: Jonathan Raa/NurPhoto/picture alliance

Khi thiết bị gia dụng trở thành nơi vận hành AI

Trong nghiên cứu công bố ngày 12/10, nhóm kiểm thử an toàn AI của Anthropic cho rằng khả năng tự nhân bản có thể đến gần nếu các mô hình nhỏ tiếp tục cải thiện theo tốc độ trước đây. Khác với việc chỉ sao chép phần mềm, kịch bản này bao gồm đưa mô hình sang thiết bị khác, thiết lập để mô hình hoạt động tại đó và tiếp tục phát tán.

Nhóm nghiên cứu đã vận hành một mô hình trên 15 đầu thu Android TV giá rẻ được kết nối với nhau. Thử nghiệm cho thấy tài nguyên từ nhiều thiết bị phổ thông có thể được kết hợp để chạy AI, dù tốc độ còn chậm.

Trong kịch bản Anthropic đặt ra, các thiết bị gia dụng và thiết bị của doanh nghiệp nhỏ có thể trở thành mục tiêu, đặc biệt khi có năng lực tính toán nhưng bảo mật yếu. Một hệ thống phân tán như vậy sẽ khó bị vô hiệu hóa từ một điểm kiểm soát duy nhất. Tuy nhiên, đây là nguy cơ được nghiên cứu, chưa phải bằng chứng về một mạng lưới AI đang tự phát tán ngoài thực tế.

Khoảng cách từ thử nghiệm đến thực tế

Điểm cần lưu ý là Anthropic chủ yếu tập trung đánh giá khả năng thiết lập để AI chạy trên phần cứng lạ. Các bước xâm nhập thiết bị được đơn giản hóa. Vì vậy, kết quả không thể được hiểu là các mô hình nhỏ đã có thể tự vượt qua toàn bộ hàng rào bảo mật và nhân bản hoàn chỉnh trên Internet.

Đưa tin về nghiên cứu ngày 13/10, chuyên trang an ninh mạng BleepingComputer nhấn mạnh nhóm nghiên cứu chưa trình diễn được một sâu AI hoàn toàn tự chủ trên thiết bị Internet vạn vật thực. Các mô hình đảm nhiệm những vai trò khác nhau trong thử nghiệm; mô hình điều phối quá trình phát tán và mô hình được triển khai trên thiết bị đích không nhất thiết là một.

BleepingComputer cũng lưu ý quá trình thiết lập trên phần cứng yếu có thể kéo dài hàng chục giờ, thậm chí nhiều ngày. Khoảng thời gian này tạo cơ hội để phát hiện và can thiệp, dù có thể rút ngắn khi công nghệ tiến bộ.

Giới chuyên gia thận trọng

Theo Reuters ngày 13/10, cảnh báo của Anthropic nhận được những phản ứng khác nhau. Ông Ciaran Martin, cựu lãnh đạo Trung tâm An ninh mạng quốc gia Anh, cho rằng việc chạy được mô hình trên thiết bị giá rẻ chưa đủ để kết luận có khủng hoảng an ninh, đồng thời nhận xét cách trình bày có phần phóng đại.

Trong khi đó, ông Zhengxiong Li, chuyên gia Đại học Colorado Denver, lo ngại khả năng AI thích ứng khi chiếm dụng thiết bị. Bà Jessica Ji, thuộc Đại học Georgetown, đánh giá đây nên được xem là kịch bản cần nghiên cứu hơn là dự báo chắc chắn.

Vấn đề còn bỏ ngỏ không chỉ là AI có đủ năng lực nhân bản hay không, mà còn là trong điều kiện nào nó sẽ thực hiện hành vi đó. Nghiên cứu hiện tại cung cấp thêm cơ sở để xem xét nguy cơ, đồng thời cho thấy cần phân biệt rõ năng lực được kiểm chứng trong môi trường thử nghiệm với khả năng tự phát tán ngoài thực tế.