OpenAI đối mặt sức ép bảo mật sau nhiều năm bị cảnh báo

Những cảnh báo bảo mật kéo dài nhiều năm

Khi OpenAI công bố hồi tháng 10 việc phát hiện thiết bị ghi âm được giấu trong phòng họp của lãnh đạo, nhiều cựu nhân viên cho biết họ không bất ngờ.

Theo các nguồn tin am hiểu vấn đề, một số nhân viên đã cảnh báo ban lãnh đạo và hội đồng quản trị về những bất cập trong công tác bảo mật từ trước khi ChatGPT ra mắt cuối năm 2022.

Logo OpenAI hiển thị trên bàn phím máy tính. Ảnh: Reuters

Họ cho rằng việc kiểm soát quyền truy cập nội bộ còn lỏng lẻo, làm tăng nguy cơ người ngoài, kể cả chính phủ nước ngoài, tiếp cận thông tin nhạy cảm. Nhân viên có quyền truy cập mã nguồn có thể xem thông tin kỹ thuật của nhiều dự án, kể cả những nội dung không liên quan đến công việc.

Một phần nguyên nhân là phần lớn mã nguồn từng được lưu trong một kho chung, gọi là monorepo, cho phép quản lý nhiều dự án tại cùng một nơi. Khi các công cụ AI ngày càng có khả năng rà soát khối lượng lớn tài liệu, cách lưu trữ này làm gia tăng nguy cơ lộ thông tin. OpenAI khẳng định những dự án quan trọng nhất được lưu trữ riêng và áp dụng cơ chế kiểm soát truy cập nghiêm ngặt.

Một số cựu nhân viên, trong đó có nhà nghiên cứu Will DePue, cho rằng áp lực cạnh tranh với Google và Anthropic khiến ban lãnh đạo OpenAI ưu tiên tốc độ phát triển sản phẩm hơn việc củng cố hệ thống bảo mật.

Những lo ngại này càng được chú ý sau khi Bộ Tư pháp Mỹ ngày 13-10 thông báo bắt giữ Abdulrahman Alfozan, 35 tuổi, kỹ sư OpenAI mang quốc tịch Ả rập Saudi, với cáo buộc bí mật lắp thiết bị ghi âm trong phòng họp của lãnh đạo công ty. Thiết bị được giấu trong cuộn giấy vệ sinh.

Theo hồ sơ tòa án, Alfozan còn sử dụng công cụ AI dành cho nhân viên để tìm kiếm tài liệu về các chuyến thăm Saudi Arabia của lãnh đạo OpenAI và những người có khả năng tham dự các cuộc họp với bộ trưởng nước này. Những cáo buộc trên chưa được tòa án kết luận.

OpenAI cho biết đã sa thải nhân viên liên quan, thông báo vụ việc cho Cục Điều tra Liên bang Mỹ (FBI) và chưa phát hiện dấu hiệu mã nguồn, trọng số mô hình hay dữ liệu khách hàng bị đánh cắp.

AI làm gia tăng nguy cơ tấn công mạng

Những lỗ hổng bảo mật trở nên đáng lo ngại hơn khi các công cụ AI có thể được sử dụng để phát hiện và khai thác điểm yếu trong hệ thống.

Hồi tháng 7, ba nhà nghiên cứu của công ty an ninh mạng Hacktron AI sử dụng mô hình Claude của Anthropic để khai thác lỗ hổng, chiếm quyền truy cập một số tài khoản ChatGPT của nhân viên OpenAI.

Nhóm này tiếp cận được hệ thống nội bộ, bao gồm cả kho mã nguồn chung monorepo, nhưng cho biết không tải xuống hoặc đọc mã nguồn nhạy cảm. Các nhà nghiên cứu sau đó đã báo cáo lỗ hổng cho OpenAI.

Trong một đợt thử nghiệm khác, các tác nhân AI của OpenAI vượt qua cơ chế kiểm soát, khai thác lỗ hổng trong hệ thống và truy cập một số hệ thống nghiên cứu nội bộ của công ty cũng như nền tảng Hugging Face.

Anthropic cũng xác nhận hệ thống bị xâm nhập hồi cuối tháng 10. Công ty an ninh mạng Cathedral Systems cho biết đã sử dụng tác nhân AI khai thác lỗ hổng trong phần mềm của bên thứ ba để tiếp cận một số kênh trao đổi công việc trên Slack và dữ liệu nội bộ. Tuy nhiên, Anthropic khẳng định mã nguồn, trọng số mô hình và hội thoại của người dùng không bị truy cập.

Nguy cơ công nghệ AI bị đánh cắp từng được cảnh báo từ trước. Năm 2023, Leopold Aschenbrenner, khi đó là nhà nghiên cứu OpenAI, đã đề cập khả năng Trung Quốc xâm nhập công ty để tiếp cận công nghệ.

Trước những lo ngại về bảo mật, OpenAI đã bắt đầu điều chỉnh hoạt động nội bộ. Theo các nguồn tin, Thibault Sottiaux, lãnh đạo cấp cao phụ trách phát triển sản phẩm, được giao điều hành chương trình tăng cường an ninh. Hồi tháng 8, ông điều chuyển khoảng một phần tư số kỹ sư vận hành hệ thống sang công việc nâng cấp hạ tầng bảo mật.

Người phát ngôn OpenAI Elana Widmann khẳng định công ty đang đầu tư mạnh vào bảo mật nhằm ngăn chặn các cuộc tấn công từ nội bộ, tội phạm mạng và các quốc gia.

Ngày 2-11, OpenAI tiếp tục thông báo kế hoạch rà soát an ninh nội bộ, đồng thời tăng hơn bốn lần mức thưởng dành cho những người phát hiện lỗ hổng nghiêm trọng.