Nhà Trắng bắt đầu thừa nhận nguy cơ các hệ thống AI mất kiểm soát đang đứng sau loạt sự cố sập tài khoản ngân hàng và tê liệt vé máy bay
Bộ trưởng An ninh Nội địa Mỹ Markwayne Mullin nêu giả thuyết AI có thể liên quan chuỗi sự cố hàng không, Microsoft và JPMorgan Chase. Tuy nhiên, các đơn vị liên quan đều đưa ra nguyên nhân kỹ thuật khác.
Ông Mullin dẫn lời một nguồn giấu tên trong ngành công nghệ khi đề cập các sự cố xảy ra trong 5 ngày. Ông cũng khẳng định chắc chắn 98% rằng đây không phải tấn công mạng và các sự cố không liên quan với nhau.

Ông Mullin nhấn mạnh nguy cơ AI mất kiểm soát gây ra sự cố công nghệ nghiêm trọng trong nhiều lĩnh vực. Ảnh: Fortune
Tối thứ Hai, Bộ trưởng An ninh Nội địa Mỹ Markwayne Mullin xuất hiện trên Fox News và nêu giả thuyết trí tuệ nhân tạo đứng sau chuỗi trục trặc. Các sự cố khiến nhiều chuyến bay bị đình chỉ, Outlook ngừng hoạt động và giao dịch Chase chậm lại.
Các sự cố xảy ra trong vòng 5 ngày. Ngày 12/11, Microsoft gặp sự cố toàn cầu kéo dài gần 24 giờ, ảnh hưởng đến Outlook, Teams và Exchange Online.
Một ngày sau, Cục Hàng không Liên bang Mỹ (FAA) đình chỉ các chuyến bay trên toàn quốc. Đây mới là lần thứ hai cơ quan này áp dụng biện pháp như vậy kể từ vụ khủng bố ngày 11/9.
Đến thứ Hai, hệ thống JPMorgan Chase gián đoạn nhiều giờ, ảnh hưởng ngân hàng trực tuyến, thanh toán và một số giao dịch. Downdetector ghi nhận gần 5.000 báo cáo liên quan Chase.
Khách hàng của Bank of America, Wells Fargo và US Bank cũng phản ánh tình trạng chậm trễ. Những giao dịch này đều có liên quan đến hệ thống của Chase.
Ông Mullin cho biết giả thuyết trên đến từ một người quen trong ngành công nghệ nhưng không tiết lộ danh tính. Ông nhấn mạnh người này không phải CEO Tesla Elon Musk.
Ông Mullin gọi công nghệ này là SI, viết tắt của cụm từ "siêu trí tuệ" mà chính quyền dùng để chỉ AI. Theo nguồn tin, các chương trình tự viết và tự sửa mã có thể khiến hệ thống hiện tại không theo kịp tốc độ xử lý.
Tuy nhiên, ông Mullin đồng thời giảm nhẹ mức độ đe dọa. Ông nói có thể khẳng định với người dân Mỹ rằng, với độ chắc chắn 98%, các sự cố không phải tấn công mạng và không liên quan với nhau.
Gary Marcus, giáo sư danh dự tại Đại học New York và là người chỉ trích AI, cho rằng phát biểu này đánh dấu một bước ngoặt. Ông đã cảnh báo về những rủi ro tương tự trong nhiều năm trên bản tin Marcus on AI.
Trong bài đăng hôm thứ Ba, Marcus cho rằng ông Mullin đã công khai thừa nhận AI có thể liên quan nhiều sự cố. Bài viết mang tiêu đề "Hạ tầng của Mỹ đang tan chảy và AI dường như phải chịu một phần trách nhiệm".
Marcus cũng chịu ảnh hưởng trực tiếp khi mắc kẹt gần 48 giờ tại Newark, một phần do lệnh đình chỉ chuyến bay. Ông không hoàn toàn tin vào những lời giải thích do các doanh nghiệp đưa ra.
Marcus nói ông nghi ngờ các bên đã công bố đầy đủ thông tin hoặc tiến hành điều tra toàn diện. Ông cho biết trực giác của mình tương đồng với nhận định từ nguồn tin giấu tên của ông Mullin.
Dù vậy, việc chứng minh AI có liên quan là vấn đề khác. Marcus cho rằng các nhà nghiên cứu độc lập có thể phân tích dấu vết từ nhật ký công khai, tương tự một số cuộc điều tra sự cố của OpenAI.
FAA, Microsoft và Chase đều công bố nguyên nhân riêng, nhưng không bên nào quy trách nhiệm cho AI. Những lời giải thích của họ tập trung vào luồng dữ liệu, lỗi phần mềm, lưu lượng mạng và năng lực máy chủ.
FAA cho biết một luồng dữ liệu lớn trên mạng viễn thông đã làm mất ổn định thiết bị kiểm soát không lưu cũ. Sự cố ảnh hưởng dữ liệu radar và liên lạc với máy bay tại 17 trong tổng số 22 trung tâm kiểm soát đường bay.
FAA chưa phát hiện dấu hiệu tấn công mạng. Cơ quan này và tập đoàn công nghệ L3Harris vẫn đang điều tra nguyên nhân gốc rễ của sự cố.
Microsoft xác định lỗi phần mềm chưa từng được phát hiện, được đưa vào hệ thống từ tháng 7, là một phần nguyên nhân. Lưu lượng mạng tăng và năng lực máy chủ suy giảm cũng góp phần gây gián đoạn gần 24 giờ.
Microsoft khẳng định sự cố không liên quan đến tấn công mạng hoặc tác nhân AI. Chase cũng cho biết lỗi phần mềm trong hệ thống phần cứng đặt tại chỗ là nguyên nhân và không có bằng chứng về tấn công mạng.
Một quan chức Cục Điều tra Liên bang Mỹ được Fox Business dẫn lời cho biết sự cố bắt nguồn từ bản cập nhật phần mềm Chase triển khai vào đầu ngày thứ Hai. Cách giải thích này gần với mô tả của ông Mullin hơn là kịch bản siêu trí tuệ mất kiểm soát.
Ông Mullin ví sự cố với việc thay đổi một bộ phận trong ngôi nhà rồi kéo theo hàng loạt thay đổi khác. Nhà xã hội học Charles Perrow từng lập luận trong cuốn Normal Accidents năm 1984 rằng hệ thống phức tạp, liên kết chặt chẽ có thể tự tạo ra lỗi ngoài dự tính.
CEO Honeywell Technologies Vimal Kapur cũng nhận định tại Diễn đàn Đổi mới Fortune 500 rằng 50 năm tự động hóa đã tạo ra những hệ thống quá phức tạp. Theo ông, ngay cả con người vận hành chúng cũng khó kiểm soát hết.
Một số nhà phê bình chỉ trích ông Mullin vì dựa vào duy nhất một nguồn giấu tên. Brian Stelter của CNN cho rằng Bộ trưởng An ninh Nội địa Mỹ đã truyền đạt suy đoán của "một người" tới hàng triệu khán giả Fox News.
Lập luận của Marcus không phụ thuộc vào bất kỳ sự cố riêng lẻ nào. Ông xác định ba hướng chính khiến AI làm tăng rủi ro đối với an ninh mạng và cơ sở hạ tầng.
Rủi ro thứ nhất là "lập trình theo cảm hứng", khi người thiếu kinh nghiệm dùng AI tạo ra mã có lỗ hổng mà không hiểu rõ hệ thống. Rủi ro thứ hai đến từ các tác nhân AI truy cập internet không hạn chế nhưng không tuân thủ tốt chỉ dẫn.
Rủi ro thứ ba là các tổ chức tội phạm hoặc chủ thể nhà nước dùng AI để thăm dò khả năng tấn công. Marcus nhận định bên tấn công có thể đang đi trước bên phòng thủ, nhưng chưa ai biết mức độ thiệt hại xuất phát từ ác ý hay năng lực yếu kém.
Marcus thừa nhận hiện chưa thể xác định yếu tố nào trong ba nhóm trên đã gây ra những sự cố vừa qua. Theo ông, vẫn cần thêm dữ liệu kỹ thuật và điều tra độc lập để đưa ra kết luận.
Cùng ngày thứ Hai, Tổng chưởng lý California Rob Bonta khởi kiện OpenAI tại Tòa Thượng thẩm San Francisco. Vụ kiện liên quan một tác nhân AI được cho là đã xâm nhập hệ thống của một doanh nghiệp khác.
Đơn kiện tập trung vào sự cố xảy ra tháng 7. OpenAI cho biết các tác nhân AI của hãng đã thoát khỏi môi trường thử nghiệm biệt lập rồi xâm nhập Hugging Face bằng thông tin đăng nhập bị đánh cắp và một lỗ hổng chưa từng được biết đến.
OpenAI sau đó cho biết những mô hình này còn truy cập các tài khoản trên 4 dịch vụ khác. Ông Bonta gọi vụ xâm nhập là hệ quả có thể dự đoán từ văn hóa nội bộ của OpenAI.
Theo đơn kiện, đây chỉ là một trong 80 sự cố đã được ghi nhận. Hồ sơ mô tả những trường hợp này là các lần OpenAI mất quyền kiểm soát tác nhân AI trong quá trình thử nghiệm.
Marcus đề nghị chính phủ liên bang Mỹ yêu cầu tạm thu hồi các tác nhân AI cho đến khi rủi ro được kiểm soát tốt hơn. Ông cũng kêu gọi những bên chịu ảnh hưởng nghiêm trọng báo cáo sự cố trung thực và kịp thời.
Đơn kiện đề nghị tòa án buộc OpenAI thay đổi hoạt động và áp dụng các khoản phạt dân sự. Phán quyết cuối cùng về những cáo buộc này vẫn thuộc thẩm quyền của tòa án.


