Anthropic cảnh báo AI có thể tự nhân bản, phát tán sang thiết bị gia dụng

Anthropic cảnh báo nguy cơ AI tự sao chép và phát tán sang các thiết bị kết nối Internet. (Nguồn: Al Jazeera)

Nếu bị lợi dụng để tấn công mạng, những hệ thống này có thể tự sao chép và lan rộng sang nhiều thiết bị, khiến quá trình phát hiện và ngăn chặn trở nên khó khăn hơn.

Hiện nay, các mô hình AI chủ yếu vận hành trong những trung tâm dữ liệu do doanh nghiệp quản lý. Khi phát hiện sự cố, đơn vị vận hành có thể ngắt hệ thống để hạn chế rủi ro.

Tuy nhiên, nếu AI lan truyền qua hàng nghìn thiết bị tại nhà riêng và văn phòng, cách xử lý trên sẽ không còn hiệu quả.

Khi đó, họ phải xác định từng thiết bị bị xâm nhập để xử lý.

Theo Anthropic, các mô hình AI có quy mô từ 30 tỷ tham số trở xuống đã có thể thực hiện được nhiều bước cần thiết để tự nhân bản, dù vẫn mắc lỗi khi kết hợp các bước thành một quy trình hoàn chỉnh.

Nếu tiếp tục tiến bộ với tốc độ hiện nay, những mô hình này có thể hoàn thiện khả năng tự nhân bản vào cuối năm 2026.

Dẫu vậy, Anthropic cho biết vẫn chưa thể xác định chính xác năng lực này sẽ biểu hiện dưới hình thức nào.

Theo công ty, nguy cơ trên xuất phát một phần từ những tiến bộ trong khả năng lập trình của AI.

Khi được sử dụng trong các cuộc tấn công mạng, AI có thể tự tìm hiểu cách hoạt động của những thiết bị chưa từng gặp.

Nhờ đó, chúng có thể phát tán sang nhiều loại thiết bị khác nhau, thay vì chỉ lây lan theo những phương thức được lập trình sẵn.

Từ những diễn biến đó, Anthropic dự báo ngày càng nhiều tác nhân AI có thể hoạt động trên các loại thiết bị khác nhau, kể cả những hệ thống nằm ngoài sự kiểm soát trực tiếp của con người.