Anthropic chặn các nỗ lực sử dụng AI phục vụ nghiên cứu vũ khí sinh học
Công ty trí tuệ nhân tạo Anthropic (Mỹ) cho biết đã phát hiện và ngăn chặn nhiều trường hợp tìm cách sử dụng chatbot Claude cho các hoạt động nguy hiểm, gồm tấn công mạng, giám sát, phát triển vũ khí và nghiên cứu sinh học có thể bị lợi dụng để chế tạo vũ khí.
Trang web Anthropic trên màn hình máy tính
Trong báo cáo công bố ngày 10-9, Anthropic cho biết các vụ việc được phát hiện từ tháng 12-2025 đến tháng 8-2026.
Những đối tượng liên quan gồm các nhóm bị nghi được bảo trợ, tội phạm tài chính, nhà cung cấp phần mềm gián điệp và các cá nhân hoạt động vì động cơ chính trị.
Một trường hợp đáng chú ý liên quan đề nghị Claude hỗ trợ soạn hồ sơ xin tài trợ cho nghiên cứu tăng chức năng đối với virus chikungunya.
Nghiên cứu được đề xuất tập trung vào khả năng lây truyền và né tránh hệ miễn dịch của virus. Hệ thống an toàn sinh học của Anthropic đã chặn yêu cầu này.
Anthropic có trụ sở tại San Francisco, Mỹ
Anthropic lưu ý nghiên cứu tăng chức năng có thể mang lại lợi ích chính đáng, như hỗ trợ phát triển vaccine và phương pháp điều trị. Tuy nhiên, kiến thức tương tự cũng có thể bị sử dụng để làm mầm bệnh trở nên nguy hiểm hơn.
Báo cáo cũng đề cập các hoạt động sử dụng AI để hỗ trợ tấn công mạng, vận hành hệ thống giám sát, xây dựng chiến dịch gây ảnh hưởng trên mạng xã hội và phát triển phần mềm liên quan vũ khí.
Theo Anthropic, AI đang giúp những cá nhân hoặc nhóm nhỏ thực hiện các hoạt động trước đây đòi hỏi đội ngũ đông đảo và trình độ kỹ thuật cao.
Các vụ lạm dụng chủ yếu liên quan những phiên bản Claude Haiku, Sonnet và Opus. Anthropic cho biết không phát hiện trường hợp lạm dụng trực tiếp các mô hình mới thuộc dòng Fable hoặc Mythos, ngoại trừ một chiến dịch “chưng cất” trái phép nhằm sao chép năng lực mô hình.
Công ty thừa nhận không còn có thể bảo đảm rằng những mô hình AI mạnh hơn hiện nay không đủ khả năng hỗ trợ nghiên cứu sinh học nguy hiểm.
Do đó, Anthropic đã tăng cường các biện pháp hạn chế đối với nhóm truy vấn sinh học có mục đích sử dụng kép, đồng thời khóa các tài khoản vi phạm và chia sẻ thông tin với cơ quan chức năng cùng các đối tác trong ngành.
Anthropic nhấn mạnh các trường hợp được công bố là những vụ việc nghiêm trọng và mới, không đại diện cho hoạt động sử dụng Claude thông thường.
Công ty kêu gọi các nhà phát triển AI, chính phủ và tổ chức xã hội tăng cường chia sẻ thông tin, nhận diện hành vi đáng ngờ và xây dựng cơ chế phòng vệ chung.
Theo AP
