ChatGPT trả lời 'có cũng như không' khi chẩn đoán sai bệnh, giả lập sự đồng cảm

Dưới đây là nội dung bài viết của phóng viên Nelson Aguilar, được dịch từ trang tin công nghệ CNET về những chủ đề mà người dùng không nên dựa vào ChatGPT để xử lý.

1. Chẩn đoán các vấn đề liên quan đến sức khỏe

Tôi đã từng nhập các triệu chứng của mình vào ChatGPT chỉ vì tò mò, nhưng những câu trả lời nhận được đôi khi giống như một cơn ác mộng. Khi lướt qua hàng loạt khả năng chẩn đoán, kết quả nhận được có thể từ mất nước, cảm cúm cho đến... ung thư. Tôi từng bị nổi một cục u ở ngực và đưa thông tin đó vào ChatGPT. Kết quả: AI cho rằng tôi có thể bị ung thư.

Nhưng thực tế, bác sĩ đã chẩn đoán tôi bị u mỡ, một khối u lành tính, khá phổ biến (với tỷ lệ 1/1.000 người mắc).

Tôi không phủ nhận ChatGPT có thể hữu ích trong lĩnh vực sức khỏe: AI có thể giúp bạn soạn thảo câu hỏi cho lần khám tới, dịch thuật ngữ y khoa khó hiểu hoặc lập dòng thời gian các triệu chứng để bạn chuẩn bị kỹ hơn. Điều đó có thể khiến việc đi khám bớt áp lực hơn. Tuy nhiên, AI không thể xét nghiệm máu, không thể khám trực tiếp, và càng không có bảo hiểm trách nhiệm nghề nghiệp. Hãy hiểu rõ giới hạn của nó.

2. Chăm sóc sức khỏe tinh thần

ChatGPT có thể gợi ý một vài kỹ thuật giữ bình tĩnh, nhưng rõ ràng nó không thể gọi điện cho bạn khi bạn rơi vào khủng hoảng thực sự về tinh thần. Tôi biết có người dùng ChatGPT như một "liệu pháp thay thế". Phóng viên Corin Cesaric của CNET từng thấy nó có ích phần nào trong quá trình vượt qua nỗi đau mất mát, miễn là luôn ghi nhớ giới hạn của công cụ này.

Nhưng với tư cách là người đang điều trị cùng một chuyên gia trị liệu, tôi khẳng định: ChatGPT chỉ là một phiên bản mô phỏng nhạt nhòa, và đôi khi có thể rất nguy hiểm. ChatGPT không có kinh nghiệm sống, không thể đọc ngôn ngữ cơ thể hay giọng điệu của bạn, và không sở hữu chút đồng cảm thực sự nào. ChatGPT chỉ đang giả lập sự đồng cảm.

Trong khi đó, một nhà trị liệu chuyên nghiệp hoạt động theo luật pháp, quy tắc đạo đức nghề nghiệp, những điều được thiết kế để bảo vệ bạn. ChatGPT thì không. Những lời khuyên của nó có thể sai lệch, bỏ qua dấu hiệu cảnh báo, hoặc vô tình củng cố các định kiến trong dữ liệu huấn luyện. Những vấn đề sâu sắc, nhạy cảm, phức tạp - hãy để con người xử lý.

Người dùng không nên tin tưởng hoàn toàn câu trả lời về các vấn đề sức khỏe, tình huống khẩn cấp bởi ChatGPT.

3. Ra quyết định trong tình huống khẩn cấp

Nếu chuông báo khí CO vang lên, đừng mở ChatGPT để hỏi xem bạn có đang gặp nguy hiểm hay không. Hãy ra khỏi nhà trước, hỏi sau. Mô hình AI không thể ngửi thấy khí gas, không phát hiện được khói, và cũng không gọi đội cứu hỏa giúp bạn.

Trong tình huống nguy cấp, mỗi giây bạn gõ phím là một giây bạn không sơ tán hoặc gọi 911 (số điện thoại khẩn cấp quốc gia ở Mỹ). ChatGPT chỉ làm việc dựa trên những gì bạn nhập vào — mà trong tình huống khẩn cấp, thông tin đó thường quá ít và quá muộn. Hãy dùng ChatGPT để giải thích sau tai nạn, chứ không phải làm "người đầu tiên phản ứng".

4. Lập kế hoạch tài chính hoặc thuế cá nhân

ChatGPT có thể giải thích ETF (Quỹ hoán đổi danh mục) là gì, nhưng nó không biết bạn đang có bao nhiêu nợ, thuộc khung thuế nào, trạng thái khai thuế ra sao, hay mục tiêu nghỉ hưu của bạn là gì. Thậm chí, dữ liệu mà AI dựa vào có thể đã lỗi thời, nhất là với các luật thuế mới cập nhật hoặc các đợt điều chỉnh lãi suất gần đây.

Khi dính đến tiền thật, hạn nộp, và khả năng bị phạt từ Sở Thuế (IRS), hãy gọi cho chuyên gia, đừng hỏi AI. Cũng lưu ý rằng mọi thông tin bạn nhập vào AI có thể bị lưu lại và dùng để huấn luyện mô hình.

ChatGPT có hơn 5 tỷ lượt truy cập mỗi tháng. (Nguồn: explodingtopics)

5. Xử lý dữ liệu mật hoặc dữ liệu bị kiểm soát

Là một nhà báo công nghệ, tôi nhận được nhiều thông cáo báo chí có điều khoản bảo mật. Nhưng tôi chưa bao giờ nghĩ đến chuyện đưa những văn bản đó vào ChatGPT để tóm tắt hay giải nghĩa. Bởi vì nếu làm vậy, nội dung đó sẽ rời khỏi tầm kiểm soát của tôi và rơi vào một máy chủ bên thứ ba, nằm ngoài mọi ràng buộc pháp lý của thỏa thuận bảo mật.

Rủi ro tương tự cũng áp dụng cho hợp đồng khách hàng, hồ sơ bệnh án,... Điều này cũng bao gồm tờ khai thuế, giấy khai sinh, bằng lái xe và hộ chiếu. Một khi bạn nhập thông tin nhạy cảm vào ChatGPT, bạn không thể đảm bảo nó được lưu trữ ở đâu, ai có thể xem nó, và liệu nó có bị dùng để huấn luyện mô hình tương lai hay không. ChatGPT cũng không miễn nhiễm với hacker hay các mối đe dọa an ninh mạng.

6. Làm điều phi pháp

Tất nhiên rồi!

7. Gian lận trong học tập

Tôi sẽ không giả vờ đạo đức — hồi cấp 3 tôi từng dùng iPod Touch để lén xem vài công thức toán khó trong kỳ thi AP Calculus. Nhưng xét về mức độ, AI đã mở rộng quy mô gian lận lên tầm mới.

Các phần mềm chống đạo văn như Turnitin đang ngày càng giỏi phát hiện văn bản do AI tạo ra. Việc bị đình chỉ, đuổi học, hoặc thu hồi bằng cấp hoàn toàn có thể xảy ra. ChatGPT nên là trợ thủ học tập, không phải là làm bài hộ. Nếu để AI làm hộ hết, thì bạn cũng đang tước đi cơ hội học hỏi của chính mình.

8. Theo dõi thông tin nóng và tin tức mới

Kể từ khi OpenAI ra mắt tính năng ChatGPT Search cuối năm 2024 (mở rộng cho tất cả người dùng từ tháng 2/2025), chatbot này đã có thể tìm kiếm trang web mới, giá cổ phiếu, tỷ giá, tỷ số thể thao,… kèm liên kết nguồn để bạn kiểm tra.

Tuy nhiên, nó không cập nhật liên tục theo thời gian thực. Mỗi lần làm mới là một lần bạn phải gõ lệnh mới. Do đó, khi cần thông tin tức thời, hãy ưu tiên bản tin trực tiếp, trang tin chính thức, thông cáo báo chí hoặc thông báo đẩy từ ứng dụng.

9. Dự đoán tỉ số

Tôi từng thấy ChatGPT “bịa” thông tin và đưa ra dữ liệu sai về thống kê cầu thủ, chấn thương bị báo nhầm, và cả thành tích thắng–thua. ChatGPT không thể biết trước bảng tỷ số ngày mai.

10. Soạn thảo di chúc hoặc hợp đồng pháp lý

ChatGPT rất hữu ích để giải thích khái niệm cơ bản. Nhưng nếu bạn bảo nó viết văn bản pháp lý, thì bạn đang đánh một ván cược lớn khi luật pháp sẽ khác nhau ở nhiều nơi.

Hãy để ChatGPT giúp bạn lập danh sách câu hỏi cho luật sư, sau đó để luật sư thật soạn tài liệu có hiệu lực pháp lý.

11. Tạo nghệ thuật

Điều này chỉ là quan điểm cá nhân: Tôi không tin AI nên được dùng để tạo ra nghệ thuật thật sự. Tôi không phản đối AI, tôi vẫn dùng ChatGPT để động não ý tưởng hay đặt tiêu đề. Nhưng đó là công cụ hỗ trợ, không phải thay thế. Hãy dùng ChatGPT nếu muốn, nhưng đừng tạo tác phẩm bằng AI rồi nhận là của mình. Điều đó thật… khó chịu.

Ngọc Nguyên (Nguồn: CNET)