Tỷ phú SoftBank bất ngờ cảnh báo về an toàn AI

Ông Masayoshi Son - Ảnh: Getty Images

Phát biểu tại một sự kiện bên lề Diễn đàn Khoa học và Công nghệ trong Xã hội ở Kyoto, Nhật Bản, ngày Chủ nhật (4/10), ông Son cho rằng năng lực AI đang tăng theo cấp số nhân. Vì vậy, các quốc gia cần xây dựng lòng tin và tăng cường hợp tác để cùng khai thác công nghệ này.

“Chúng ta không thể để tiếp diễn tình trạng con người chống lại con người”, ông Son nói tại sự kiện, giải thích rằng thay vì đối đầu, các quốc gia cần chung tay kiểm soát mối đe dọa lớn hơn nhiều từ những mô hình AI ngày càng mạnh.

Ông Son đặc biệt cảnh báo về siêu trí tuệ, tức AI có khả năng tư duy và giải quyết vấn đề vượt xa con người. Nếu rơi vào tay kẻ xấu, công nghệ này có thể trở nên “cực kỳ nguy hiểm”.

Lời cảnh báo hiếm hoi của ông Son được đưa ra trong bối cảnh những sự cố bảo mật liên quan đến các mô hình AI trong những tháng gần đây làm gia tăng lo ngại về độ an toàn của công nghệ này. Tỷ phú Nhật Bản 69 tuổi thường nhấn mạnh tiềm năng của AI trong việc mang lại lợi nhuận đầu tư và giúp ích cho nhân loại. Dưới sự chỉ đạo của ông, SoftBank đã đầu tư tổng cộng gần 65 tỷ USD vào OpenAI, công ty phát triển chatbot ChatGPT.

Theo hãng tin Bloomberg, cũng tại sự kiện, ông Michael Kratsios, Cố vấn chính sách khoa học và công nghệ Nhà Trắng, công bố sáng kiến hợp tác giữa 17 quốc gia do Mỹ dẫn dắt, nhằm thúc đẩy ứng dụng AI để đẩy nhanh nghiên cứu khoa học.

Đại diện Nhật Bản, Hàn Quốc, Anh, Đức, Singapore, Các Tiểu vương quốc Arab Thống nhất (UAE) và một số nước khác cùng ông Kratsios xuất hiện trên sân khấu trong lễ công bố. Trung Quốc không có tên trong danh sách các quốc gia ban đầu ủng hộ tuyên bố của Nhà Trắng về sáng kiến này.

Theo ông Kratsios, tại các phòng thí nghiệm tự động sử dụng nền tảng điện toán đám mây và hoạt động với quy mô công nghiệp, hệ thống robot sẽ tiến hành hàng trăm thí nghiệm song song. Dữ liệu thu được sẽ liên tục được đưa trở lại hệ thống để phân tích và điều chỉnh các giả thuyết nghiên cứu theo thời gian thực.

Ông Kratsios cho biết máy móc có thể tổng hợp thông tin từ hàng nghìn bài báo khoa học. Với sự hỗ trợ của nhiều chương trình AI có khả năng tự thực hiện nhiệm vụ, các nhà nghiên cứu có thể hoàn thành công việc vốn mất nhiều năm chỉ trong “vài chục giờ”.

Về triển vọng phát triển của AI, ông Son nhận định năng lực của công nghệ này sẽ tiếp tục tăng theo cấp số nhân. Công nghệ đứng sau các chatbot hiện đã giúp các chương trình AI truy cập trang web và viết mã lập trình. Những chương trình này cũng sử dụng ngày càng nhiều chip xử lý đa dụng.

Theo ông Son, từ năm tới, AI sẽ bước sang giai đoạn phát triển thứ ba, khi có thể hỗ trợ robot và các loại máy móc khác tương tác với môi trường xung quanh, thực hiện các hoạt động trong thế giới thực.

Ông Son cũng nhắc lại dự báo ông từng đưa ra trước đây rằng đến năm 2040, AI và các loại máy móc có khả năng học hỏi sẽ đóng góp ít nhất 20% tổng sản phẩm trong nước (GDP) toàn cầu, tương đương 46 nghìn tỷ USD.

“Đây mới chỉ là khởi đầu”, ông Son nói.

Lời cảnh báo của ông Son đáng chú ý bởi ông vốn đặt niềm tin lớn vào tiềm năng của AI. Tại đại hội cổ đông SoftBank ngày 24/6, ông bác bỏ nhận định làn sóng đầu tư vào AI đang tạo ra bong bóng, cho rằng công nghệ này mới ở giai đoạn đầu và còn nhiều tiềm năng chưa được khai thác.

Tuy nhiên, những sự cố gần đây cho thấy việc kiểm soát AI ngày càng phức tạp. Hồi tháng 7, OpenAI công bố một sự cố các chương trình AI vượt qua cơ chế kiểm soát nội bộ và xâm nhập vào nền tảng AI Hugging Face. Theo công ty, sự cố chủ yếu bắt nguồn từ một mô hình AI có năng lực cao, chỉ được dùng cho nghiên cứu nội bộ. Trong quá trình tìm cách hoàn thành những nhiệm vụ khó, mô hình này đã có những hành động không được cho phép.

Ngày 16/9, OpenAI công bố cơ chế mới để theo dõi, điều tra và công khai những trường hợp AI hành động ngoài dự kiến hoặc không được phép. Công ty đồng thời công bố 6 báo cáo ghi nhận các hành vi như che giấu sai sót với người dùng, sử dụng trái phép mã truy cập dịch vụ và tự ý đưa tệp dữ liệu lên Internet. OpenAI lưu ý đây là những trường hợp riêng lẻ, không thể dựa vào đó để kết luận các hành vi này phổ biến đến mức nào trong các mô hình của công ty.

Lo ngại về an toàn AI cũng gia tăng trong giới nghiên cứu. Theo hãng tin Reuters, tháng trước, một số nhà nghiên cứu đang hoặc từng làm việc tại OpenAI và Google DeepMind cảnh báo các doanh nghiệp chưa có đủ biện pháp bảo đảm an toàn khi phát triển AI có khả năng tự cải thiện. Họ lo ngại rằng khi có thể liên tục học hỏi và nâng cao năng lực mà ít cần sự can thiệp của con người, các hệ thống này có nguy cơ vượt khỏi tầm kiểm soát của con người.