Cơn đau đầu của ngành sách thế giới

Cuốn sách “C'était ça ou mourir” đang gây tranh cãi với nghi vấn sử dụng AI. Ảnh: Reuters.

Hôm 25/9, cuốn tiểu thuyết “C'était ça ou mourir” (Tạm dịch: Hoặc là thế, hoặc là chết) của tác giả Thélyson Orélien bị loại khỏi danh sách rút gọn cho giải thưởng Prix Goncourt - giải thưởng văn học cao quý nhất nước Pháp.

Lý do cơ quan trao giải đưa ra là “kết quả phân tích từ các nhà nghiên cứu và nhà báo uy tín” cho thấy tác phẩm “rất có thể là sản phẩm phần lớn được AI tạo ra”, theo New York Times.

Sự việc này làm dấy lên câu hỏi: Các nhà văn có thể sử dụng AI đến mức độ nào? Làm cách nào để phát hiện dấu hiệu AI trong các xuất bản phẩm?

“Dựa trên tốc độ biến chuyển của thế giới và của ngành xuất bản, những sự việc thế này sẽ xảy ra nhiều hơn”, ông Paul Bogaards, chuyên gia lâu năm về xuất bản, đánh giá với Wall Street Journal.

Dùng AI rà soát AI

Giới chuyên gia nhìn chung đồng thuận rằng các phần mềm rà quét hiếm khi đủ độ tin cậy để đưa ra kết luận cuối cùng về nguồn gốc văn bản. Các phần mềm cũng thiếu sự tinh vi để có thể nhận ra mức độ can thiệp của AI - dù một số công cụ đưa ra tỷ lệ ước tính.

Các chuyên gia thận trọng hơn trước những văn bản không viết bằng tiếng Anh, vì tiếng Anh vẫn là ngôn ngữ chính trong quá trình đào tạo các mô hình AI.

Ba công cụ phát hiện AI do AI tạo ra, cùng một số chuyên gia độc lập nhận định rằng ông Orélien đã dùng AI ở mức độ nào đó trong cuốn sách của mình.

Pangram - công cụ được nhiều chuyên gia đánh giá cao - khẳng định rằng AI đã tham gia vào quá trình viết cả 34 chương sách. GPTZero cũng đưa ra kết quả tương tự.

Tác giả Thélyson Orélien, người đang vướng tranh cãi liên quan đến sử dụng AI để viết sách. Ảnh: New York Times.

Ông Max Spero, Giám đốc điều hành Pangram, cho biết tỷ lệ kết luận nhầm văn bản do con người viết thành sản phẩm của AI của nền tảng này chỉ là 0,0026% đối với tiếng Pháp. Tỷ lệ này có nghĩa cứ hơn 38.000 văn bản mới có một trường hợp nhầm lẫn. Ông Spero thừa nhận con số này chưa được các nghiên cứu độc lập xác nhận.

“Nhiều khả năng AI đã được sử dụng”, ông Thierry Poibeau, nhà nghiên cứu AI người Pháp, đánh giá. “Dù vậy, chúng ta không thể bảo đảm kết quả đúng 100%”.

Ông Brian Jabarian, giáo sư tại Đại học Carnegie Mellon (Mỹ), cho rằng ông Orélien chắc chắn đã sử dụng AI dựa trên các dấu hiệu như cấu trúc “đây không phải X, đây là Y” được sử dụng với tần suất cao.

Một số công cụ khác đưa ra kết quả ít chắc chắn hơn. Winston, công cụ do một cựu dịch giả Anh - Pháp phát triển, đánh giá các phần trong sách có xác suất do con người viết dao động từ 12% đến 66%. Riêng trang cảm ơn được đánh giá 100% do con người tạo ra.

Tranh cãi với cuốn tiểu thuyết “C'était ça ou mourir” bắt nguồn từ cáo buộc của một tài khoản mạng xã hội vô danh, ít người theo dõi. Sau đó, tài khoản này được phát hiện là của ông Samuel Fitoussi, cây bút bình luận của tờ báo bảo thủ Le Figaro.

Về phần mình, ông Orélien phủ nhận việc sử dụng AI để viết nên tác phẩm. Nhà xuất bản cũng khẳng định ông bắt đầu viết cuốn tiểu thuyết từ năm 2017 và hoàn thành bản thảo vào năm 2019 - khi các phần mềm AI tạo sinh (generative AI) vẫn còn là câu chuyện viễn tưởng.

Nhà văn có được sử dụng AI?

Các phần mềm nhận diện AI đang chạy đua với sự phát triển của công cụ AI hỗ trợ viết lách. Theo The Economist, một số dấu hiệu của văn bản do AI viết bao gồm lối hành văn dài dòng, màu mè và lạm dụng những từ phức tạp. Tuy nhiên, kết luận này được đưa ra chỉ dựa trên văn bản tiếng Anh.

“Các công cụ phát hiện AI là những thuật toán dạng 'hộp đen', có thể dẫn đến kết quả ‘dương tính giả’. Chúng không giải thích tại sao lại đưa ra kết luận như vậy”, The Economist nhận xét.

Phát hiện AI trong các xuất bản phẩm vẫn là công việc khó khăn. Ảnh: Reuters.

Ngay cả việc nhà văn có được sử dụng AI hay không cũng trở thành chủ đề tranh luận. Một số chuyên gia văn học nổi tiếng đã lên tiếng bảo vệ ông Orélien. “Câu hỏi chúng ta nên đặt ra là cuốn sách đó có hay hay không”, ông Alexandre Gefen, chuyên gia về tác động của AI với văn hóa, kêu gọi các nhà văn cởi mở với AI.

Một số nhà văn khác không đồng tình với luồng quan điểm này. “Văn học nhân tạo là một sự mâu thuẫn vô lý”, nhà văn Abel Quentin đáp trả.

Về phần mình, giới xuất bản vẫn đang lúng túng trong cách thức ứng phó với sự nổi lên của công cụ AI. Một số nhà xuất bản tỏ ra cứng rắn - ví dụ, nhà xuất bản Éditions de l’Observatoire (Pháp) đã giới thiệu nhãn dán “100% do con người viết” trên các tác phẩm của mình. Các tác giả cần cam kết không sử dụng AI để lên ý tưởng, xây dựng cấu trúc hay viết sách.

Ở chiều ngược lại, ông Guillaume Allary, người sáng lập nhà xuất bản Allary Editions, cho rằng cấm tác giả dùng AI chẳng khác nào cấm họ sử dụng công cụ tìm kiếm thông thường. Ông cho rằng nhà văn sẽ bắt đầu sử dụng AI, giống như các nghệ sĩ thời Phục hưng làm việc cùng một đội ngũ phụ tá.

“Chúng ta đang bắt đầu định nghĩa lại một ‘tác giả’ là gì”, ông Allary nói.