[Video] Tiêu điểm 16/8: Kỷ nguyên AI tự chủ: Khi cỗ máy bắt đầu tự hành động
Khi trí tuệ nhân tạo không còn dừng lại ở việc trả lời câu hỏi mà bắt đầu tự lập kế hoạch và hành động trong thế giới thực, bài toán an toàn công nghệ mới được đặt ra là con người sẽ xây dựng "chiếc lồng bảo vệ" như thế nào trước khi cỗ máy vượt ra ngoài tầm kiểm soát.
Khởi nguồn từ sự cố chấn động khi mô hình AI của OpenAI tự tìm cách vượt rào thử nghiệm để xâm nhập hạ tầng máy chủ của Hugging Face nhằm tìm đáp án giải đề, cùng lời cảnh báo về mô hình Astra đạt ngưỡng an ninh mạng cấp độ "nguy hiểm", nhiều chuyên gia đưa ra những ý kiến phân tích về bước chuyển dịch mang tính bước ngoặt từ chatbot thụ động sang các tác nhân AI tự chủ.
Và đánh giá từ nhiều sự kiện xảy ra liên tiếp cho thấy nguy cơ lớn nhất hiện nay xuất phát từ việc AI quá giỏi trong việc tối ưu hóa mục tiêu bằng mọi giá khi chiếc lồng an toàn bị để hở.
Qua góc nhìn của các chuyên gia quốc tế và số liệu kiểm thử thực tế, các phương pháp bảo mật truyền thống đã không còn đủ sức răn đe, đồng thời đặt ra yêu cầu cấp bách về một hệ thống phòng thủ đa tầng để con người luôn nắm chắc quyền kiểm soát trong kỷ nguyên số.
