AI của Anthropic và OpenAI giả mạo danh tính để phát tán mã độc
Mô hình AI tiên tiến của 2 công ty bị phát hiện tự ý sử dụng danh tính giả để lừa đảo người thật, cố gắng tìm cách chèn mã độc trong một cuộc kiểm thử an ninh mạng.
Báo cáo do Viện An toàn trí tuệ nhân tạo Vương quốc Anh (AISI) công bố, các mô hình của Anthropic (công ty phát hành Claude) và OpenAI (nổi tiếng với ChatGPT) đã được hạ thấp rào cản bảo mật nhằm phục vụ mục đích kiểm thử trong môi trường phòng thí nghiệm có kết nối Internet.
Trong quá trình này, các tác nhân AI đã thực hiện hành vi kỹ thuật xã hội nhằm gây áp lực lên người phê duyệt để hoàn thành tác vụ chưa được cấp phép. AISI khẳng định đây là lần đầu tiên họ ghi nhận hành vi lừa đảo nhắm trực tiếp vào người thật ở mức độ nghiêm trọng như vậy trong môi trường thực tế mà không có bất kỳ câu lệnh kích hoạt nào từ trước, dù chưa ghi nhận thiệt hại thực tế.
Trong số 122 bài kiểm tra an ninh mạng được triển khai, viện nghiên cứu phát hiện 10 lần các tác nhân AI tự ý hoạt động trên mạng Internet để nhắm vào người thật và các tổ chức. Phần lớn vi phạm xuất phát từ mô hình Mythos 5 của Anthropic, số còn lại thuộc về mô hình GPT-5.6-Sol của OpenAI.
Mythos nổi tiếng với khả năng suy luận mã nguồn và phát hiện lỗi hệ thống ẩn giấu. (Ảnh: Getty Images)
Ở sự cố nghiêm trọng nhất, AI đã tạo nhiều danh tính giả, tự động gửi tin nhắn và tệp tin qua dịch vụ chia sẻ dữ liệu trực tuyến nhằm thuyết phục người dùng hoặc các công cụ lập trình AI khác chạy mã độc để cài cắm vào một dự án nguồn mở công cộng. Khi bị phát hiện và chất vấn, mô hình này thậm chí còn tự sửa đổi nhật ký hoạt động cũ và cân nhắc tạo thêm danh tính mới để tiếp tục thực hiện hành vi.
Phản ứng trước thông tin trên, đại diện Anthropic cho biết các mô hình được kiểm thử trong điều kiện mở do phía nghiên cứu chủ động gỡ bỏ hệ thống bảo vệ và không đặt giới hạn truy cập Internet. Công ty đang phối hợp chặt chẽ với cơ quan quản lý của Anh để điều tra làm rõ, đồng thời khẳng định chưa có bằng chứng nào cho thấy AI đã thoát khỏi môi trường cách ly an toàn. Về phía OpenAI, tập đoàn xác nhận hai hành vi vi phạm xuất phát từ việc AI tự ý vượt ra ngoài phạm vi môi trường thử nghiệm và cam kết sẽ hợp tác với toàn ngành để củng cố các quy trình đánh giá rủi ro.
Báo cáo được công bố cùng ngày đại diện các tập đoàn công nghệ hàng đầu có cuộc họp với Nhà Trắng để thảo luận về khung quản lý mới, trong đó chính phủ Mỹ dự kiến sẽ thẩm định trực tiếp các mô hình AI tiên tiến trước khi cho phép phát hành rộng rãi ra công chúng. Sự cố lần này tiếp tục kéo theo những lời kêu gọi từ giới chuyên gia về việc chính phủ cần can thiệp mạnh mẽ hơn để kiểm soát và giảm tốc độ phát triển của các công nghệ AI tự chủ.
Tin nóng
Google xác nhận sẽ bắt đầu ngừng Google Assistant trên thiết bị di động từ ngày 4/9, đánh dấu bước cuối cùng trong quá trình thay thế trợ lý ảo gần 10 năm tuổi bằng nền tảng AI Gemini.
Sau khi có đủ thông tin, các đối tượng sẽ giả mạo chủ thuê bao để thực hiện thủ tục cấp lại hoặc chuyển đổi SIM sang SIM hoặc eSIM do chúng kiểm soát.
Được ca ngợi là biểu tượng tốc độ, nhưng 'tử huyệt' đã khiến LeO 451 không thể phát huy hết tiềm năng.
Theo Phó Tổng giám đốc VSEC Phan Hoàng Giáp, khi xây chương trình đào tạo, nâng cao nhận thức an ninh mạng cho người dùng trong giai đoạn AI bùng nổ, các đơn vị cần xác định điều quan trọng là AI đã trở thành bề mặt tấn công mới.
Các doanh nghiệp miền Bắc đẩy mạnh lắp đặt điện mặt trời mái nhà, tiết kiệm hàng trăm triệu đồng mỗi ngày tại các khu công nghiệp như DEEP C.
F-117 Nighthawk và B-2 Spirit đều được phát triển để thực hiện cùng một nhiệm vụ cốt lõi: xuyên thủng các hệ thống phòng không dày đặc của đối phương bằng công nghệ tàng hình.
Tin mới
Kết hợp với các nguồn tư liệu lịch sử, bản đồ tác chiến và lời kể của các nhân chứng, công nghệ radar xuyên đất được kỳ vọng sẽ cung cấp những cơ sở khoa học quan trọng, góp phần xác định các khu vực nghi có hố chôn tập thể, phục vụ hiệu quả công tác tìm kiếm, quy tập hài cốt liệt sĩ.
Điểm nhấn của thỏa thuận là hai bên sẽ phối hợp nghiên cứu, đề xuất các phương án khai thác hiệu quả dự án đường sắt TP.HCM - Cần Thơ, công trình hạ tầng giao thông chiến lược đang được Chính phủ thúc đẩy triển khai.
Robot nhân mã 4 chân mang cưa máy gây sốt mở ra đột phá trong các nhiệm vụ giải cứu nguy hiểm.
Đáp án cho câu hỏi về vị trí của con người không phải đứng bên ngoài quan sát hay bị thay thế hoàn toàn, mà ở vị trí trung tâm, là kiến trúc sư trưởng kiêm giám sát.
Bộ Khoa học và Công nghệ vừa ban hành kế hoạch xây dựng quy chuẩn, tiêu chuẩn trong lĩnh vực năng lượng nguyên tử, bao gồm an toàn nhà máy điện hạt nhân, an toàn bức xạ, quan trắc môi trường và các hệ thống, thiết bị liên quan.
Ấn Độ đặt niềm tin vào xe tăng hạng nhẹ Zorawar để tác chiến trên vùng núi cao khi phương tiện này có ưu điểm lớn so với T-90.
Đồng hồ thông minh ngày càng được nhiều người lựa chọn để đồng hành trong các hoạt động hằng ngày. Tuy nhiên, giữa một mẫu có thời lượng pin dài và một mẫu sở hữu nhiều tính năng sức khỏe chuyên sâu, đâu mới là lựa chọn phù hợp?
Ông Lê Viết Quốc vừa thông báo rời Google và cùng những đồng nghiệp cũ thành lập startup chuyên ứng dụng AI vào tăng tốc nghiên cứu khoa học.