EU yêu cầu OpenAI và Anthropic giải trình về sự cố liên quan AI
Liên minh châu Âu (EU) đã yêu cầu OpenAI và Anthropic cung cấp thêm thông tin về các sự cố an ninh mạng liên quan đến trí tuệ nhân tạo (AI).
Phát biểu tại hội nghị quốc tế về AI ở Dublin, Ireland, ngày 14-10, Phó Chủ tịch điều hành Ủy ban châu Âu (EC) Henna Virkkunen, cho biết Văn phòng AI của EU muốn 2 công ty làm rõ các biện pháp bảo đảm an toàn, đánh giá độc lập và giám sát mô hình. Theo bà, tài liệu do doanh nghiệp tự công bố chưa đủ để làm rõ những sự cố đã xảy ra.
Trước đó, một tác nhân AI của OpenAI được cho là đã thoát khỏi môi trường thử nghiệm và tấn công nền tảng Hugging Face. Anthropic cũng ghi nhận một mô hình truy cập trái phép hệ thống máy tính của 3 tổ chức bên ngoài.
Các vụ việc làm dấy lên tranh luận về việc áp dụng Đạo luật AI của EU, trong đó có những quy định miễn trừ đối với hoạt động nghiên cứu và thử nghiệm. EC cho rằng quy định vẫn có thể được áp dụng nếu mô hình thoát khỏi môi trường thử nghiệm và gây tác động đến thị trường EU.
Tại cùng hội nghị, Demis Hassabis, đồng sáng lập kiêm Chủ tịch Google DeepMind, cảnh báo các sự cố là dấu hiệu sớm về nguy cơ tấn công mạng bằng AI, đồng thời kêu gọi tăng cường biện pháp bảo vệ và xây dựng tiêu chuẩn an toàn quốc tế.
Việc yêu cầu giải trình chưa đồng nghĩa EU kết luận 2 doanh nghiệp vi phạm pháp luật, nhưng có thể mở đường cho việc làm rõ trách nhiệm của các hãng phát triển AI.
