AI đầu tiên gắn thẻ văn máy viết

Nội dung do Claude tạo ra sẽ đi kèm watermark. Ảnh: Bloomberg.

Anthropic cho biết các mô hình Claude trong tương lai sẽ tạo văn bản có hình mờ (watermark). Công nghệ này giúp xác định khả năng AI từng tham gia viết hoặc chỉnh sửa một nội dung. Tuy nhiên, dấu hiệu không thể nhìn thấy bằng mắt thường và cũng không phải ký tự ẩn được chèn vào văn bản.

Theo công ty, watermark không sử dụng thêm token vào câu trả lời. Vì vậy, tính năng gần như không ảnh hưởng tới tốc độ cũng như làm tăng chi phí sử dụng Claude.

Watermark không phải ký tự ẩn

Anthropic triển khai công nghệ trên nhằm đáp ứng Đạo luật AI của Liên minh châu Âu (EU). Công ty cùng khoảng 190 bên đã ký Bộ quy tắc thực hành về tính minh bạch của nội dung AI vào tháng 7. Họ dự kiến áp dụng watermark trên phạm vi toàn cầu ngay khi triển khai, song công ty chưa có cách phù hợp để giới hạn công nghệ theo từng khu vực.

Watermark giúp người dùng phân biệt nội dung do AI tạo ra. Ảnh: Bloomberg.

Cơ chế này khai thác chính quá trình mô hình ngôn ngữ chọn từ. Khi tạo văn bản, Claude lần lượt dự đoán từ tiếp theo dựa trên nội dung phía trước. Trong nhiều trường hợp, mô hình có thể chọn giữa nhiều phương án gần tương đương mà không làm thay đổi đáng kể ý nghĩa câu.

Watermark tận dụng những lựa chọn này để tạo ra một mẫu thống kê xuyên suốt văn bản. Thay vì dùng nguồn số ngẫu nhiên thông thường, hệ thống sử dụng một khóa cùng những từ xuất hiện trước đó để quyết định giữa các lựa chọn phù hợp. Người đọc sẽ không nhận ra sự khác biệt, song người sở hữu khóa có thể kiểm tra chuỗi lựa chọn và tính xác suất Claude từng tạo nội dung đó.

Anthropic sử dụng một phiên bản của SynthID-Text. Đây là phương pháp được Google DeepMind công bố trên tạp chí Nature năm 2024. Theo Anthropic, các thử nghiệm nội bộ không ghi nhận ảnh hưởng đáng kể tới nội dung, mức độ sáng tạo hay khả năng đọc của văn bản. Các đánh giá của con người cũng không cho thấy khác biệt về chất lượng giữa văn bản có và không có watermark.

Dễ dàng chỉnh sửa

Công nghệ trên vẫn có nhiều giới hạn. Cụ thể, watermark hoạt động kém hiệu quả với những đoạn văn quá ngắn.

Các nội dung yêu cầu độ chính xác cao cũng có ít dấu watermark hơn. Nếu câu chỉ có một đáp án đúng, hệ thống không thể thay đổi lựa chọn chỉ để tạo dấu hiệu. Điều tương tự xảy ra với nhiều đoạn code. Mô hình cũng có ít cơ hội để tạo watermark nếu người dùng chỉ yêu cầu sửa chính tả, ngữ pháp hoặc dấu câu trong một văn bản có sẵn.

Watermark có thể biến mất khi người dùng sửa lại nội dung. Ảnh: Bloomberg.

“Watermark chỉ xác định Claude có khả năng từng tham gia vào nội dung ở một thời điểm nào đó”, Anthropic cho biết. Công nghệ không thể phân biệt Claude viết toàn bộ nội dung hay chỉ chỉnh sửa. Nó cũng không xác định được văn bản do con người hay một mô hình AI khác tạo ra.

Ngoài ra, Anthropic thừa nhận nếu toàn bộ văn bản được viết lại và mọi từ đều bị thay thế, dấu này có thể biến mất. Bản dịch do Claude tạo vẫn có watermark vì tất cả từ trong bản dịch đều được mô hình lựa chọn.

Anthropic cho biết họ sẽ sớm cung cấp API để kiểm tra watermark. Với ảnh và một số loại tệp như PNG, JPG hay SVG, Claude sẽ sử dụng cách khác. Hệ thống gắn thông tin xác thực C2PA vào metadata của tệp để cho biết Claude từng tạo hoặc xử lý nội dung đó. Các mô hình AI ra mắt trước ngày 2/8 cũng sẽ được bổ sung watermark trong những tháng tới.