AI đang được sử dụng để viết mã độc và phát tán thông tin sai lệch ở Canada

Trong một cuộc phỏng vấn vào tuần này, Giám đốc Trung tâm An ninh mạng Canada Sami Khoury nói rằng cơ quan của ông đã chứng kiến việc AI được sử dụng "để viết email lừa đảo, tạo mã độc và lan truyền tin giả, tin sai lệch".

Ảnh: Reuters

Ông Khoury không cung cấp thông tin chi tiết hoặc bằng chứng, nhưng khẳng định của ông đã bổ sung thêm mối lo ngại về việc những kẻ lừa đảo sử dụng công nghệ mới.

Trong những tháng gần đây, một số nhóm giám sát mạng đã công bố các báo cáo cảnh báo về những rủi ro giả định của AI, đặc biệt là các chương trình xử lý ngôn ngữ tiến bộ nhanh, được gọi là mô hình ngôn ngữ lớn (LLM), dựa trên khối lượng văn bản khổng lồ để tạo ra các đoạn hội thoại, tài liệu nghe có vẻ thuyết phục.

Vào tháng 3, tổ chức cảnh sát châu Âu, Europol, đã công bố một báo cáo nói rằng các mô hình như ChatGPT của OpenAI đã cho phép "mạo danh một tổ chức hoặc cá nhân một cách rất thuyết phục ngay cả khi chỉ nói được tiếng Anh cơ bản".

Cùng tháng đó, Trung tâm An ninh mạng Quốc gia của Vương quốc Anh cho biết trong một bài đăng trên blog rằng bọn tội phạm "có thể sử dụng LLM để hỗ trợ các cuộc tấn công mạng".

Các nhà nghiên cứu an ninh mạng đã chứng minh nhiều trường hợp sử dụng AI để gây hại và một số người hiện cho biết họ bắt đầu thấy nội dung đáng ngờ do AI tạo ra trong tự nhiên. Tuần trước, một cựu hacker cho biết anh đã phát hiện ra một LLM được đào tạo về tài liệu độc hại và được sử dụng để thuyết phục ai đó thực hiện chuyển tiền.

Ông Khoury nói rằng mặc dù việc sử dụng AI để soạn thảo mã độc vẫn còn ở giai đoạn đầu, nhưng mối lo ngại hiện tại là các mô hình AI đang phát triển quá nhanh nên rất khó để đánh giá mức độ độc hại của chúng trước khi chúng được tung ra công chúng. "Ai biết được điều gì sắp xảy ra", ông nói trong lo lắng.

Quốc Thiên (theo Reuters)