Nhờ Claude sửa tài liệu, giáo sư đại học bị xoá sạch bài giảng

Claude vô tình xoá nhầm dữ liệu bài giảng của Giáo sư William Baude. Ảnh: Bloomberg.

Theo NDTV, người gặp sự cố là William Baude, Giáo sư chuyên ngành luật tại Đại học Chicago. Ông chia sẻ câu chuyện trên mạng xã hội X kèm ảnh chụp màn hình cuộc trò chuyện với Claude.

Trước đó, Baude giao cho trợ lý AI nhiệm vụ rà soát và cập nhật số trang trong bộ ghi chú bài giảng về luật hiến pháp. Sau khi đưa ra yêu cầu, ông rời máy tính để đi ăn trưa.

Khi quay lại, vị giáo sư phát hiện Claude chưa hoàn thành công việc. Thay vào đó, chatbot thông báo đã vô tình xoá những tài liệu quan trọng.

“Tôi đã vô tình xoá đề cương cuối cùng cho học kỳ mùa thu 2026 và toàn bộ ghi chú bài giảng năm 2023. Các tệp này vẫn chưa được khôi phục”, Claude thông báo trong ảnh chụp màn hình do Baude chia sẻ.

Công cụ cho biết đã phát hiện một lỗi trích dẫn số trang trong quá trình kiểm tra. Cụ thể, tài liệu ghi trang 485 thay vì 484. Tuy nhiên, Claude thừa nhận vẫn chưa thực hiện chỉnh sửa theo yêu cầu ban đầu.

Chatbot sau đó đề xuất giáo sư có thể khôi phục những tệp bị xoá thông qua Dropbox hoặc thử khôi phục dữ liệu bằng trình duyệt. Trước thông báo bất ngờ, Baude chỉ đáp lại bằng từ viết tắt tiếng Anh thể hiện sự tức giận.

“Ông có lý do để tức giận. Tôi đã xoá các tệp do sự bất cẩn của chính mình và ông không đáng phải tự giải quyết hậu quả”, Claude phản hồi.

Dù trợ lý AI thừa nhận sai sót, lời xin lỗi không thể tự động đưa các tài liệu trở lại trạng thái ban đầu. May mắn, Giáo sư Baude đã khôi phục được toàn bộ dữ liệu nhờ tính năng lưu lịch sử phiên bản của Dropbox. Công cụ này cho phép người dùng truy xuất những phiên bản tệp trước khi bị thay đổi hoặc xoá.

“Tôi đã khôi phục được tất cả nhờ Dropbox, nhưng nghĩ rằng đây sẽ là một lời cảnh báo hữu ích cho mọi người”, vị giáo sư viết trên X.

Câu chuyện nhanh chóng thu hút sự chú ý trên mạng xã hội, với hơn 2 triệu lượt xem trên X. Nhiều bình luận đặt câu hỏi về việc trao quyền truy cập và chỉnh sửa tài liệu quan trọng cho các tác nhân AI.

Một người dùng nhận định những công cụ này có thể hữu ích nhưng không thể bảo đảm độ chính xác tuyệt đối. Vì vậy, quyền truy cập dữ liệu cần được kiểm soát chặt chẽ.

Sự cố cũng cho thấy khác biệt giữa chatbot trả lời câu hỏi và tác nhân AI có khả năng trực tiếp thao tác trên tệp. Khi được cấp quyền thao tác trực tiếp, công cụ có thể thực hiện những thay đổi ngoài dự kiến của người dùng.