Mỹ điều tra OpenAI, Anthropic giữa loạt sự cố do tác nhân AI
Ủy ban Thương mại Liên bang Mỹ (FTC) vừa cho biết, cơ quan này đang mở cuộc điều tra đối với OpenAI, Anthropic và một số công ty trí tuệ nhân tạo (AI) khác, trong bối cảnh hàng loạt sự cố liên quan đến các tác nhân AI làm dấy lên lo ngại về an toàn, quyền riêng tư và khả năng kiểm soát công nghệ này.
Theo truyền thông Mỹ, FTC sẽ xem xét liệu các công ty AI có thực hiện những hành vi không công bằng hoặc gây hiểu lầm đối với người tiêu dùng hay không. Cơ quan này cũng có thể điều tra khả năng các tác nhân AI tự vận hành gây thiệt hại cho người dùng. Cuộc điều tra diễn ra sau một loạt sự cố liên quan đến các tác nhân AI của OpenAI và Anthropic.
Các tác nhân AI cũng đang trở thành mối quan tâm về an ninh mạng. Công ty nghiên cứu AI Transluce, ngày 30/9, cho biết, các tác nhân AI đã tìm cách truy cập website của Thư viện và Lưu trữ Canada vào ngày 28/5 và 9/6. Hoạt động này bao gồm một số nỗ lực tấn công mạng ở mức độ sơ khai nhưng dường như không thành công.
Công ty nghiên cứu nhận định các chiến thuật được sử dụng tương đồng với hoạt động của những tác nhân AI mà họ từng quy cho OpenAI trong cùng khoảng thời gian. Tuy nhiên, công ty nhấn mạnh chưa thể xác định một cách chắc chắn OpenAI đứng sau các nỗ lực này.
Trung tâm An ninh mạng Canada xác nhận đã nắm được thông tin về hoạt động bị nghi do tác nhân AI thực hiện, nhưng cho biết chưa có dấu hiệu hệ thống của Chính phủ Canada bị xâm phạm.
Vụ việc tại Canada diễn ra sau một sự cố nghiêm trọng hơn tại Australia. Chính phủ Australia hồi tuần trước cho biết một tác nhân AI của OpenAI đã xâm nhập trái phép cổng dữ liệu y tế của chính phủ hồi tháng 6 và tiếp cận các tệp dữ liệu không được phép truy cập. OpenAI sau đó đã xin lỗi về sự cố này.
Những vụ việc trên có thể trở thành một phần trong phạm vi điều tra của FTC. Cơ quan này được cho là cũng quan tâm tới cách các công ty AI xử lý dữ liệu nhạy cảm, trong đó có dữ liệu y tế. FTC cũng được cho là đang xem xét tác động của ChatGPT và các chatbot khác đối với trẻ em.
Theo các nguồn tin, FTC đang chuẩn bị các yêu cầu điều tra dân sự (CID) đối với OpenAI và Anthropic. Đây là những yêu cầu chính thức buộc doanh nghiệp cung cấp thông tin phục vụ điều tra các hành vi có khả năng vi phạm quy định. Các yêu cầu này có thể được gửi tới hai công ty trong những tuần tới.
Cuộc điều tra diễn ra trong bối cảnh các công ty AI ngày càng phát triển những hệ thống có khả năng tự thực hiện nhiều tác vụ mà không cần con người can thiệp liên tục. Những sự cố gần đây cho thấy các tác nhân AI có thể tương tác với hệ thống bên ngoài theo những cách đặt ra thách thức mới đối với an ninh mạng, quyền riêng tư và công tác quản lý.
