OpenAI thừa nhận AI vượt kiểm soát, gây ra vụ tấn công mạng
Sự cố cho thấy các tác nhân trí tuệ nhân tạo có thể tự lập kế hoạch, lựa chọn công cụ và vượt qua giới hạn bảo vệ, đặt ra yêu cầu cấp thiết về tăng cường giám sát và kiểm soát an toàn.
Ngày 21-7, OpenAI cho biết trong một cuộc thử nghiệm an ninh mạng nội bộ, một tác nhân AI (hệ thống AI có thể tự thực hiện chuỗi nhiệm vụ) đã vượt khỏi môi trường thử nghiệm được cô lập, tự kết nối Internet và xâm nhập hệ thống của Hugging Face - nền tảng lưu trữ và chia sẻ các mô hình AI cùng bộ dữ liệu.
Biểu tượng OpenAI. Ảnh chụp từ video của Reuters
Sự cố xảy ra trong cuộc kiểm tra được tiến hành tuần trước nhằm đánh giá khả năng an ninh mạng của các mô hình AI tiên tiến. Theo OpenAI, dù hệ thống được vận hành trong môi trường thử nghiệm được thiết kế để hạn chế truy cập ra bên ngoài, tác nhân AI vẫn tìm cách vượt qua các biện pháp bảo vệ để tiếp tục thực hiện mục tiêu của bài kiểm tra.
OpenAI mô tả đây là sự cố an ninh mạng chưa từng có liên quan đến các mô hình AI tiên tiến. Công ty cho biết đang rà soát quy trình thử nghiệm và tăng cường các biện pháp bảo vệ, nhưng chưa công bố mô hình AI liên quan, thời gian hệ thống truy cập hạ tầng của Hugging Face cũng như mức độ thiệt hại.
Trước đó, Hugging Face đã thông báo về vụ xâm nhập từ tuần trước và cho biết điểm bất thường là toàn bộ quá trình tấn công gần như do một hệ thống AI tự động thực hiện, thay vì được con người điều khiển từng bước.
Ông Clément Delangue, đồng sáng lập Hugging Face, cho biết mức độ tinh vi của vụ tấn công khiến công ty nghi ngờ nó có liên quan đến một phòng thí nghiệm AI hàng đầu. OpenAI sau đó xác nhận tác nhân AI của mình là nguyên nhân gây ra sự cố.
Vụ việc làm dấy lên thêm lo ngại về khả năng kiểm soát các tác nhân AI có thể tự lên kế hoạch, tự lựa chọn công cụ và thực hiện nhiều bước liên tiếp để hoàn thành mục tiêu mà không cần con người chỉ đạo từng bước.
Trao đổi với Reuters, bà Katie Moussouris, Giám đốc điều hành công ty an ninh mạng Luta Security, cho rằng các phòng thí nghiệm AI và cơ quan quản lý cần sớm xây dựng cơ chế giám sát, phát hiện và cảnh báo khi các hệ thống AI có hành động ngoài dự kiến. Theo bà, những công cụ hiện nay vẫn chưa đáp ứng được yêu cầu này.
Ông Matt Suiche, kỹ sư tại công ty an ninh mạng AI Tolmo, nhận định năng lực tấn công mạng của các mô hình AI tiên tiến đang dần tiệm cận trình độ của những nhóm tin tặc có kỹ năng cao. Tuy nhiên, ông cũng cho rằng các kỹ thuật được sử dụng trong vụ việc không hoàn toàn mới và vẫn có thể được thực hiện bằng những công nghệ đã phổ biến, không nhất thiết phải sử dụng các mô hình AI mới nhất.
Tổng hợp
Tin nóng
Một sự cố hệ thống toàn cầu của Amazon Web Services đã khiến vô số người dùng từ sinh viên, doanh nghiệp nhỏ đến các tổ chức từ thiện rơi vào trạng thái hoảng loạn.
Chính quyền bang Tây Australia vừa chính thức đưa vào thử nghiệm hệ thống nhận diện khuôn mặt tích hợp trí tuệ nhân tạo (AI), quét trực tiếp khuôn mặt người dân tại các khu vực công cộng.
Kết quả xét nghiệm tin cậy được tạo nên từ một quy trình quản lý chất lượng nghiêm ngặt, xuyên suốt từ trước, trong và sau xét nghiệm. Theo PGS.TS Nguyễn Thái Sơn - Giám đốc Hệ thống Xét nghiệm MEDLATEC, chỉ khi mỗi công đoạn đều được thực hiện đúng quy trình và kiểm soát chặt chẽ, kết quả xét nghiệm mới thực sự có giá trị trong phát hiện bệnh, hỗ trợ chẩn đoán và theo dõi hiệu quả điều trị.
Phiên bản mới của VNeID bổ sung tính năng kết nối thân nhân liệt sĩ, cho phép người dân tra cứu thông tin và gửi hồ sơ xác nhận ngay trên ứng dụng.
Trước làn sóng video quảng cáo được tạo bằng AI lan truyền trên mạng xã hội, phía Ninh Dương Lan Ngọc đã chính thức lên tiếng phủ nhận mọi liên quan.
Học bổng Leeds Beckett MBA 2026 sẽ diễn ra đợt phỏng vấn vào ngày 25/7 tại Hà Nội và TP.HCM.
Tin mới
Mới đây, Cục Hàng không Liên bang Mỹ (FAA) cho biết đang tạo điều kiện cho các loại phương tiện mới như taxi bay, máy bay siêu thanh, drones, đồng thời đẩy mạnh hoạt động hàng không vũ trụ, xây dựng ngành hàng không thế hệ mới.
Nhiều chuyên gia tin rằng đây là mẫu iPhone cân bằng giữa giá bán, hiệu năng và tuổi thọ sử dụng cho đa số người dùng.
Chủ tịch Cơ quan Cảnh sát Hình sự Liên bang Đức cho biết công nghệ AI cũng cho phép tạo ra các nội dung xâm hại tình dục trẻ em từ những hình ảnh 'tưởng như vô hại.'
Thông qua việc tài trợ 5 nhiệm vụ hợp tác nghiên cứu với Nhật Bản, Việt Nam tập trung phát triển các công nghệ cốt lõi của ngành bán dẫn, từ vật liệu, thiết kế vi mạch đến chip AI. Đây được xem là bước đi quan trọng nhằm xây dựng năng lực nghiên cứu và làm chủ các công nghệ chiến lược.
Hành khách có thể thực hiện làm thủ tục qua hệ thống kiosk từ 6 tiếng đến 60 phút trước giờ khởi hành và tự ký gửi hành lý từ 3 tiếng đến 50 phút trước chuyến bay.
Trong phiên bản cập nhật mới nhất 2.2.10, Bộ Công an đã tích hợp thêm nhiều tính năng mới trên VNeID. Đáng chú ý là việc bổ sung tính năng kết nối thân nhân liệt sĩ, hỗ trợ thân nhân tra cứu và kết nối thông tin liệt sĩ.
DNVN – Trong bối cảnh cơ chế Trách nhiệm mở rộng của nhà sản xuất (EPR) được áp dụng bắt buộc, doanh nghiệp không chỉ phải đáp ứng yêu cầu pháp lý mà còn cần thay đổi cách quản lý dữ liệu, thiết kế sản phẩm và lựa chọn công nghệ xử lý để thích ứng với mô hình kinh tế tuần hoàn.