Hậu quả khó lường khi AI vượt quyền bác sĩ

Với kinh nghiệm của một y tá khoa ung thư, Melissa Beebe dựa vào kỹ năng quan sát của mình để đưa ra những quyết định sinh tử.

Chỉ bằng mắt thường, Beebe có thể nhận thấy dấu hiệu dẫn tới đột quỵ xuất huyết ở một bệnh nhân buồn ngủ với đồng tử giãn ra, hoặc một bệnh nhân lớn tuổi với hơi thở có mùi hôi, dấu hiệu của chứng tắc nghẽn ổ bụng.

Vì vậy, khi một thông báo chẩn đoán bệnh nhân của Beebe trong khoa ung thư của Trung tâm Y tế UC Davis bị nhiễm trùng huyết, nữ y tá chắc chắn nhận ra điều bất thường.

Máy móc cũng có thể sai lầm

"Tôi đã chăm sóc các bệnh nhân ung thư trong 15 năm qua, vì vậy tôi biết một bệnh nhân bị nhiễm trùng sẽ trông như thế nào. Tôi có thể khẳng định bệnh nhân này không bị nhiễm trùng như thông báo", Beebe nói.

Theo WSJ, cảnh báo từ phía bệnh viện hóa ra có liên quan đến số lượng bạch cầu tăng cao, cộng với nhiễm trùng huyết. Tuy nhiên, vấn đề nằm việc chẩn đoán này không tính đến việc bệnh nhân mắc bệnh bạch cầu, vốn có thể gây ra triệu chứng tương tự.

Được biết, thuật toán chẩn đoán bệnh dựa trên trí tuệ nhân tạo (AI). Ở trường hợp này, hệ thống đã kích hoạt cảnh báo khi phát hiện kết quả xét nghiệm khớp với dữ liệu mẫu từ các bệnh nhân nhiễm trùng huyết trước đó.

Thuật toán chẩn đoán bệnh dựa trên trí tuệ nhân tạo (AI), so sánh kết quả xét nghiệm với khi dữ liệu mẫu từ các bệnh đã được chẩn đoán sẵn. Ảnh: iStock.

Điều nguy hiểm chính là thuật toán không giải thích quyết định của nó. Trong khi đó, các quy tắc của bệnh viện lại yêu cầu y tá phải tuân theo quy trình khi bệnh nhân được chẩn đoán nhiễm trùng huyết.

Beebe đủ khả năng có thể chứng minh AI đã sai nếu được bác sĩ chấp thuận, nhưng điều đó cũng đồng nghĩa cô sẽ phải đối mặt với hình thức kỷ luật nếu phán đoán sai.

Vì vậy, nữ y tế đã làm theo yêu cầu và lấy máu, mặc dù điều đó có thể khiến bệnh nhân nhiễm trùng và phải thanh toán thêm hóa đơn.

“Khi một thuật toán nói rằng bệnh nhân của bạn trông có vẻ bị nhiễm trùng, tôi không thể biết nguyên nhân là gì. Tôi chỉ biết là mình phải làm thôi”, nữ y tá đại diện cho hiệp hội Y tá California tại bệnh viện cho biết.

Đúng như Beebe nghi ngờ, thuật toán đã sai. “Tôi không coi thường công nghệ. Tuy nhiên, tôi cảm thấy đau khổ về mặt đạo đức khi biết điều đúng đắn mình phải làm nhưng lại chẳng thể làm được", Beebe trả lời với WSJ.

Trí tuệ nhân tạo và các công cụ công nghệ cao khác, mặc dù mới xuất hiện ở nhiều bệnh viện, đang đặt ra những câu hỏi khó về việc con người hay máy móc sẽ đưa ra quyết định trong một cuộc khủng hoảng.

Beebe đủ khả năng có thể chứng minh AI đã sai nếu được bác sĩ chấp thuận, nhưng điều đó cũng đồng nghĩa cô sẽ phải đối mặt với hình thức kỷ luật nếu phán đoán sai. Ảnh: WSJ.

Các công nghệ có thể phân tích lượng dữ liệu khổng lồ, với tốc độ vượt quá khả năng của con người, đang tạo ra những tiến bộ phi thường trong y học.

Từ việc cải thiện chẩn đoán bệnh tim, cho đến dự đoán cấu trúc protein nhằm tăng tốc độ khám phá thuốc giải, máy móc đang cho thấy hiệu quả vượt trội.

Thậm chí, các học giả và chuyên gia công nghệ cho biết khi được sử dụng cùng với con người để giúp đánh giá, chẩn đoán và điều trị bệnh nhân, AI đã cho thấy những kết quả tích cực.

Tuy nhiên, theo các y tá và nhân viên y tế thường xuyên làm việc với những công nghệ này, máy móc cũng có thể mắc sai sót và đôi khi được triển khai mà không được đào tạo đầy đủ hoặc không linh hoạt, khiến việc chăm sóc bệnh nhân gặp rủi ro.

Đáng ngại hơn, một số bác sĩ lâm sàng nói với WSJ rằng cảm thấy áp lực từ ban quản lý bệnh viện để trì hoãn thuật toán.

“AI nên được sử dụng để hỗ trợ cho các quyết định lâm sàng chứ không phải để thay thế những chuyên gia như bác sĩ. Các nhà quản lý bệnh viện cần hiểu rằng có rất nhiều thứ mà một thuật toán không thể nhìn thấy trong môi trường lâm sàng”, Kenrick Cato, giáo sư điều dưỡng tại Đại học Pennsylvania nhận định.

Trong một cuộc khảo sát với 1.042 y tá được công bố bởi National Nurses United, tổ chức lớn nhất của các y tá tại Mỹ, có tới 24% cho biết từng nhận được chẩn đoán từ AI mà họ tin rằng "không mang lại lợi ích tốt nhất cho bệnh nhân, dựa trên phán đoán lâm sàng và phạm vi hành nghề”.

Trong y tế, máy móc cũng có thể mắc sai sót và đôi khi được triển khai mà không được đào tạo đầy đủ hoặc không linh hoạt, khiến việc chăm sóc bệnh nhân gặp rủi ro. Ảnh: Adobe Stock.

Trong số đó, 17% cho biết họ được phép bác bỏ quyết định, trong khi 31% không được phép và 34% cho biết họ cần có sự cho phép của bác sĩ hoặc người giám sát.

Nên xem công nghệ như người đồng hành

Kể từ đại dịch Covid-19, các bệnh viện tại Mỹ thường xuyên trong tình trạng thiếu hụt nhân lực, dẫn đến việc các y tá và bác sĩ luôn phàn nàn về tình trạng căng thẳng, kiệt sức khi làm việc.

Trong một cuộc khảo sát với hơn 12.500 y tá vào tháng 11/2022 do Hiệp hội Y tá Mỹ thực hiện, 43% y tá cho biết họ đã kiệt sức.

Nhiều ứng dụng sau đó được thiết kế để giảm bớt gánh nặng cho y tá bằng cách thay họ làm các nhiệm vụ tẻ nhạt và tốn thời gian như làm biểu đồ, theo dõi bệnh nhân và xác minh thuốc.

Công nghệ nên được xem như một trợ lý cho các nhân viên y tế, thay vì là người đưa ra quyết định sinh tử cho bệnh nhân. Ảnh: WSJ.

Giống hầu hết trung tâm chấn thương trên khắp nước Mỹ, Bệnh viện Sparrow ở Lansing, Michigan cũng sử dụng thuật toán để cảnh báo các y tá về những thay đổi trong tình trạng của bệnh nhân.

Tuy nhiên, điều này lại khiến những người làm nghề có xu hướng phụ thuộc vào công nghệ. Theo Jeff Breslin, một y tá đã có kinh nghiệm làm việc từ năm 1995, các nhân viên y tế ngày nay thường tin tưởng vào thuật toán, hơn là kỹ năng quan sát của chính họ.

Breslin cho rằng nếu các y tá mới quá tin tưởng vào các quyết định dựa trên AI, họ sẽ thiếu đi các kỹ năng cần thiết để đưa ra đánh giá tương tự khi theo dõi bệnh nhân và phán đoán cần phải làm gì.

Thông thường, các y tá thường mô tả cảm nhận tình trạng xấu đi của bệnh nhân bằng các thuật ngữ cảm xúc. “Các y tá gọi đó là linh cảm. Đó là điều khiến họ quyết định tăng cường giám sát bệnh nhân”, giáo sư Cato, một nhà khoa học dữ liệu và cũng từng là một cựu y tá, cho biết.

Lấy ý tưởng từ điều này, Cato và Sarah Rossetti, phó giáo sư điều dưỡng và tin học y sinh tại Đại học Columbia, đã hướng dẫn một nhóm nghiên cứu phát triển các mô hình dự đoán nhằm định lượng trực giác của y tá.

Bộ đôi này tin rằng việc sử dụng mô hình có thể xem như một hệ thống cảnh báo sớm để cảnh báo nhân viên bệnh viện về những bệnh nhân đang gặp rắc rối.

Cụ thể, hồ sơ sức khỏe điện tử tạo dữ liệu theo dõi tần suất và loại giám sát mà y tá thực hiện đối với bệnh nhân.

Cato cho biết, các nhà nghiên cứu đã phát hiện ra mối tương quan chặt chẽ giữa sự gia tăng hoạt động của y tá, chẳng hạn như việc ghi chú về những thay đổi nhỏ hay tình trạng xấu đi của bệnh nhân, thường là rất lâu trước khi các vấn đề xuất hiện trong các dấu hiệu sinh tử.

Từ đó, thuật toán này sẽ đánh giá bệnh nhân theo các màu sắc bao gồm màu đỏ (nguy cơ cao), màu vàng (có nguy cơ) hoặc xanh lục (không có nguy cơ) dựa trên mô hình hoạt động của y tá.

Patricia Dykes, giám đốc chương trình nghiên cứu của Brigham & Women's cho Trung tâm An toàn, Nghiên cứu và Thực hành Bệnh nhân, cho biết ban đầu các y tá bỏ phiếu chống lại AI do lo sợ bị đào thải.

Thuật toán xếp hạng nguy cơ bệnh nhân trở nặng dựa trên hoạt động của các điều dưỡng. Ảnh: Đại học Columbia.

Tuy nhiên, lãnh đạo bệnh viện sau đó trấn an họ rằng công nghệ này nhằm hỗ trợ đánh giá lâm sàng của y tá chứ không phải thay thế công việc của họ.

Dykes cũng kêu gọi sử dụng các công cụ này để hỗ trợ y tá trong việc đánh giá tình trạng bệnh nhân và đưa ra khuyến nghị cho bác sĩ.

Theo Dykes, khi thuật toán đánh giá bệnh nhân là “màu vàng”, nó sẽ cảnh báo y tá sử dụng các kỹ năng tư duy phản biện để tìm ra điều gì đang xảy ra.

Kết quả ban đầu cho thấy mô hình này cảnh báo tình trạng sớm hơn từ 5-26 giờ so với các phương pháp truyền thống, ví dụ như quy trình theo dõi các dấu hiệu nguy cấp.

Anh Tuấn