Sáng kiến giúp bảo vệ an toàn kỹ thuật số trong kỷ nguyên AI
ROOST được công bố bên lề Hội nghị thượng đỉnh về AI tại Paris, hướng đến xây dựng một nền tảng an toàn kỹ thuật số có thể mở rộng và tương thích với sự phát triển của AI.
Một liên minh giữa các tập đoàn công nghệ lớn, giới học thuật và tổ chức xã hội đã tuyên bố ra mắt một quỹ sáng kiến mới nhằm phát triển các công cụ bảo vệ an toàn cho trí tuệ nhân tạo (AI).
Được công bố bên lề Hội nghị thượng đỉnh về AI tại Paris (Pháp), sáng kiến này mang tên "ROOST" (viết tắt của Robust Open Online Safety Tools), hướng đến việc xây dựng một nền tảng an toàn kỹ thuật số có thể mở rộng và tương thích với sự phát triển của AI.
ROOST nhận được sự hậu thuẫn từ những cái tên đình đám trong ngành, bao gồm công ty OpenAI, cựu Giám đốc điều hành (CEO) Google Eric Schmidt và nền tảng trò chơi trực tuyến Roblox. Theo thông báo chính thức, ROOST sẽ tập trung vào việc giải quyết lỗ hổng quan trọng trong lĩnh vực an toàn số, đặc biệt là bảo vệ trẻ em trên không gian mạng. Cụ thể, quỹ sẽ cung cấp miễn phí các công cụ bảo vệ nguồn mở cho cả tổ chức công và tư nhân trên toàn cầu.
Một trong những đóng góp quan trọng nhất của ROOST là bộ công cụ miễn phí mã nguồn mở và dễ sử dụng để giúp phát hiện, rà soát và báo cáo các nội dung lạm dụng tình dục trẻ em (CSAM) trên không gian mạng. Các công cụ này sẽ giúp tăng cường khả năng giám sát và xử lý nội dung vi phạm, hạn chế rủi ro mà trẻ em có thể gặp phải trong môi trường số.
Ngoài ra, ROOST cũng sẽ tận dụng sức mạnh của các mô hình ngôn ngữ lớn (LLM) để phát triển các giải pháp an toàn kỹ thuật số. Việc tích hợp AI vào hệ thống giám sát và bảo vệ dữ liệu giúp nâng cao hiệu quả trong việc phát hiện và ngăn chặn các hành vi xâm hại trên môi trường mạng.
Quỹ ROOST đặt trụ sở tại Đại học Columbia, New York (Mỹ) và đã huy động được 27 triệu USD tài trợ cho giai đoạn hoạt động đầu tiên kéo dài 4 năm. Nguồn tài trợ đến từ các quỹ từ thiện và những tập đoàn công nghệ hàng đầu.
Sự kiện ra mắt ROOST diễn ra trong bối cảnh các nhà lãnh đạo chính trị và công nghệ toàn cầu đang tập trung tại Paris để bàn thảo về các giải pháp quản lý sự phát triển của AI. Một trong những hướng đi quan trọng được nhấn mạnh là phát triển phần mềm mã nguồn mở – cho phép các nhà phát triển công khai chia sẻ thuật toán, từ đó tăng cường sự minh bạch và niềm tin vào AI.
Với sự ra đời của ROOST, giới công nghệ kỳ vọng sẽ tạo ra bước tiến mới trong việc đảm bảo AI phát triển theo hướng có trách nhiệm, đồng thời bảo vệ người dùng, đặc biệt là trẻ em, trước những rủi ro trên không gian mạng.
