300 bệnh viện Trung Quốc nhờ AI DeepSeek hỗ trợ, các chuyên gia cảnh báo 'quá nhanh, quá nguy hiểm'

Ngoài ra, họ cũng bày tỏ lo ngại về việc vội vã sử dụng các mô hình AI mã nguồn mở chi phí thấp của công ty khởi nghiệp Trung Quốc này.

Tính đến đầu tháng 3, ít nhất 300 bệnh viện tại Trung Quốc đã bắt đầu sử dụng các mô hình AI của DeepSeek trong chẩn đoán lâm sàng và hỗ trợ ra quyết định y khoa.

Theo một bài báo được đăng trên tạp chí y khoa JAMA, nhóm nghiên cứu cảnh báo rằng xu hướng tạo ra các kết quả “nghe có vẻ hợp lý nhưng không đúng sự thật” của mô hình AI DeepSeek có thể dẫn đến “rủi ro lâm sàng nghiêm trọng”, dù nó có khả năng suy luận mạnh. Nhóm nghiên cứu bao gồm cả Wong Tien Yin, người sáng lập và lãnh đạo đầu tiên của Tsinghua Medicine - hệ thống các trường nghiên cứu y khoa trực thuộc Đại học Thanh Hoa ở Bắc Kinh (thủ đô Trung Quốc).

Bài báo này là một tiếng nói hiếm hoi thể hiện sự thận trọng trong bối cảnh Trung Quốc đang tích cực ứng dụng mô hình AI của DeepSeek.

DeepSeek chưa đưa ra phản hồi nào ngay khi trang SCMP đề nghị bình luận.

Các nhà nghiên cứu y khoa Trung Quốc cảnh báo về việc quá phụ thuộc vào mô hình AI có thể không đáng tin cậy, gây thêm gánh nặng cho bác sĩ lâm sàng trong các tình huống cấp bách - Ảnh: Shutterstock

Công ty khởi nghiệp có trụ sở ở thành phố Hàng Châu thu hút sự chú ý toàn cầu cuối tháng 12.2024 và tháng 1 khi liên tiếp ra mắt hai mô hình AI mã nguồn mở tiên tiến V3 và R1, được phát triển với chi phí và sức mạnh điện toán thấp hơn rất nhiều những gì các hãng công nghệ lớn thường cần để xây dựng các sản phẩm tương tự.

Cách tiếp cận mã nguồn mở cho phép công khai mã nguồn của chương trình, từ đó các nhà phát triển phần mềm bên thứ ba có thể sửa đổi, chia sẻ thiết kế, khắc phục lỗi hoặc mở rộng khả năng. Trong vài thập kỷ qua, công nghệ mã nguồn mở đã góp phần to lớn cho ngành công nghệ của Trung Quốc.

Trong một bài viết, DeepSeek tiết lộ đào tạo mô hình nguồn mở V3 chỉ bằng 2.048 GPU (bộ xử lý đồ họa) Nvidia H800 khoảng hai tháng. Đây không phải là loại chip AI hàng đầu của Nvidia. Ban đầu H800 được Nvidia phát triển như một sản phẩm giảm hiệu năng để vượt qua các hạn chế từ chính quyền Biden với mục đích bán cho thị trường Trung Quốc, song sau đó bị cấm theo lệnh trừng phạt của Mỹ.

DeepSeek tuyên bố quá trình huấn luyện V3 chỉ tiêu tốn 2,8 triệu giờ GPU với chi phí 5,6 triệu USD, bằng một phần nhỏ thời gian và tiền bạc mà các công ty Mỹ bỏ ra cho các mô hình AI của họ.

Việc DeepSeek tuyên bố huấn luyện mô hình với chi phí thấp đã củng cố niềm tin của ngành AI Trung Quốc, trong bối cảnh có nhiều nghi ngờ về việc liệu các hạn chế công nghệ cao từ Mỹ có cản trở sự tiến bộ ở quốc gia châu Á này hay không.

Hai mô hình V3 và R1 đã khơi dậy làn sóng ứng dụng AI trong nhiều lĩnh vực khác nhau, từ y tế, nông nghiệp đến tài chính, nhờ mã nguồn mở, cho phép sử dụng và chỉnh sửa miễn phí.

Có thể quá phụ thuộc kết quả do DeepSeek đưa ra

Theo Giáo sư Wong Tien Yin (chuyên gia nhãn khoa và cựu giám đốc y khoa tại Trung tâm Mắt Quốc gia Singapore) cùng các đồng tác giả, những chuyên gia y tế có thể trở nên quá phụ thuộc hoặc thiếu phê phán kết quả đầu ra của DeepSeek. Điều này có thể dẫn đến sai sót trong chẩn đoán hoặc thiên lệch về điều trị, khi các bác sĩ thận trọng hơn có thể phải gánh thêm áp lực xác minh kết quả do AI đưa ra trong môi trường lâm sàng yêu cầu thời gian gấp rút.

Dù nhiều bệnh viện chọn triển khai các mô hình AI DeepSeek tại chỗ thay vì sử dụng giải pháp đám mây để giảm rủi ro về bảo mật và quyền riêng tư, cách tiếp cận này cũng gặp những thách thức. Lý do vì điều đó sẽ “chuyển trách nhiệm an ninh sang cho từng cơ sở y tế riêng lẻ”, trong khi nhiều nơi không có hạ tầng an ninh mạng đầy đủ, theo các nhà nghiên cứu.

Tại Trung Quốc, việc rất nhiều người dân có smartphone nhưng cơ sở hạ tầng y tế tuyến đầu lại không đồng đều về chất lượng đã tạo điều kiện lý tưởng cho rủi ro xảy ra, nhóm nghiên cứu cảnh báo. Cụ thể hơn, người dân dễ dàng tiếp cận các khuyến nghị y tế dựa trên AI, nhưng lại thiếu sự giám sát từ bác sĩ chuyên môn, dẫn đến nguy cơ sai lệch hoặc nguy hiểm trong điều trị.

Các nhà nghiên cứu viết: "Những người dân ở vùng sâu vùng xa với nhu cầu y tế phức tạp giờ đây có quyền tiếp cận chưa từng có tới các khuyến nghị sức khỏe do AI cung cấp, nhưng thường thiếu sự giám sát lâm sàng cần thiết để triển khai an toàn".

Gần 100 tác tử y tế AI trên ứng dụng Alipay

Bài báo nêu trên phản ánh sự giám sát ngày càng tăng của cộng đồng chăm sóc sức khỏe với việc sử dụng các mô hình AI trong môi trường lâm sàng và y tế, giữa lúc các tổ chức trên khắp Trung Quốc đang tăng tốc ứng dụng công nghệ này.

Vào tháng 4, các chuyên gia từ Đại học Trung Văn Hồng Kông đã công bố một nghiên cứu về an ninh mạng của các tác tử AI. Nghiên cứu cho thấy phần lớn tác tử AI dựa trên mô hình ngôn ngữ lớn phổ biến đều dễ bị tấn công mạng, trong đó DeepSeek-R1 dễ bị tổn thương nhất.

Trung Quốc đang đẩy nhanh việc sử dụng các mô hình ngôn ngữ lớn trong lĩnh vực y tế giữa làn sóng bùng nổ công nghệ AI tạo sinh. Tháng 4, hãng công nghệ tài chính Ant Group thuộc tập đoàn Alibaba đã ra mắt gần 100 tác tử y tế AI trên ứng dụng thanh toán Alipay của mình. Các tác tử AI này được xây dựng dựa trên kiến thức chuyên môn của chuyên gia y tế từ những bệnh viện hàng đầu Trung Quốc.

Tairex, công ty khởi nghiệp được hỗ trợ giai đoạn đầu tại Đại học Thanh Hoa, đã bắt đầu thử nghiệm nội bộ nền tảng bệnh viện ảo vào tháng 11.2024. Nền tảng này có 42 bác sĩ AI, bao phủ 21 chuyên khoa, gồm cả cấp cứu, hô hấp, nhi và tim mạch.

Tairex cho biết dự kiến sẽ cung cấp nền tảng này cho công chúng trong năm 2025.

Sơn Vân