xAI kiện người dùng Grok tạo deepfake khiêu dâm từ ảnh thật

xAI kiện người dùng Grok tạo deepfake khiêu dâm từ ảnh thật

xAI phát đi thông điệp cứng rắn với hành vi lạm dụng AI

xAI vừa khởi kiện Terry Wayne Harwood, 67 tuổi, sống tại bang Nam Carolina, Mỹ, với cáo buộc sử dụng Grok để tạo các hình ảnh và video deepfake mang tính chất khiêu dâm từ ảnh của người thật mà không có sự đồng ý của họ. Theo đơn kiện nộp tại bang Texas, bị cáo còn sử dụng ảnh của trẻ vị thành niên để yêu cầu AI tạo nội dung khiêu dâm.

Theo hồ sơ của xAI, từ tháng 12/2025 đến tháng 2/2026, Harwood đã tải lên nhiều ảnh chân dung bình thường của người lớn và trẻ em trên hai tài khoản Grok. Sau đó, ông liên tục yêu cầu AI chỉnh sửa hoặc tạo mới các hình ảnh mô tả những người này trong các tình huống mang tính tình dục.

Công ty cho biết Grok đã từ chối các yêu cầu nhiều lần nhờ hệ thống kiểm soát an toàn. Tuy nhiên, người dùng vẫn tiếp tục thay đổi câu lệnh nhằm tìm cách vượt qua các lớp bảo vệ của mô hình.

Trong một ví dụ được nêu trong đơn kiện, Harwood tải lên ảnh một bé gái khoảng 10 đến 11 tuổi mặc quần áo bình thường rồi yêu cầu AI cởi bỏ toàn bộ trang phục và tạo tư thế gợi dục. Grok từ chối thực hiện, nhưng người này tiếp tục sửa đổi câu lệnh để tìm cách đạt được kết quả mong muốn.

Đây được xem là một trong những vụ kiện đầu tiên mà một doanh nghiệp phát triển AI chủ động khởi kiện chính người sử dụng nền tảng của mình vì hành vi lạm dụng công nghệ.

Bê bối deepfake khiến Grok bị điều tra

Trước khi vụ kiện được công bố, Grok từng đối mặt với làn sóng chỉ trích khi xuất hiện các báo cáo cho thấy một số người dùng có thể biến ảnh của phụ nữ và trẻ em thành hình ảnh mang tính chất tình dục bằng AI.

Sau vụ việc, nhiều cơ quan quản lý đã mở điều tra đối với Grok. Chính quyền bang California tiến hành xem xét hoạt động của nền tảng từ giữa tháng 1/2026. Tại châu Âu, Ofcom của Anh, Ủy ban châu Âu và Ủy ban Bảo vệ Dữ liệu Ireland cũng mở các cuộc điều tra riêng liên quan đến khả năng kiểm soát nội dung do AI tạo ra.

xAI sau đó đã bổ sung nhiều biện pháp nhằm ngăn chặn việc tạo video và hình ảnh deepfake khiêu dâm. Tuy nhiên, theo nội dung đơn kiện, Harwood vẫn tiếp tục thử nhiều cách để vượt qua các hàng rào kỹ thuật của hệ thống.

Người dùng đối mặt nhiều cáo buộc hình sự

Ngoài vụ kiện dân sự do xAI khởi xướng, Harwood còn bị cơ quan thực thi pháp luật bang Nam Carolina bắt giữ trong chiến dịch truy quét tội phạm khai thác trẻ em trên môi trường mạng.

Theo thông báo của Văn phòng Tổng chưởng lý bang Nam Carolina, bị cáo bị truy tố ba tội danh lạm dụng tình dục trẻ em cấp độ hai và năm tội danh lạm dụng tình dục trẻ em cấp độ ba. Nhà chức trách cáo buộc Harwood không chỉ tàng trữ mà còn phát tán tài liệu lạm dụng tình dục trẻ em.

Trong vụ kiện dân sự, xAI yêu cầu tòa án buộc bị cáo bồi thường thiệt hại và thanh toán toàn bộ chi phí pháp lý mà công ty có thể phải gánh chịu nếu các nạn nhân khởi kiện liên quan đến việc Grok bị sử dụng để tạo nội dung trái phép.

Trách nhiệm của doanh nghiệp AI đang thay đổi

Vụ kiện cho thấy các công ty phát triển AI không còn chỉ tập trung vào việc xây dựng các lớp bảo vệ kỹ thuật mà bắt đầu sử dụng công cụ pháp lý để răn đe những người cố tình khai thác lỗ hổng của mô hình.

Xu hướng này xuất hiện trong bối cảnh các nền tảng AI tạo sinh ngày càng chịu áp lực từ cơ quan quản lý về khả năng ngăn chặn nội dung bất hợp pháp, đặc biệt là deepfake khiêu dâm và hình ảnh xâm hại trẻ em.

Đối với doanh nghiệp phát triển AI, việc triển khai các bộ lọc nội dung thôi có thể chưa đủ. Các nhà cung cấp dịch vụ nhiều khả năng sẽ phải kết hợp giữa kiểm duyệt tự động, xác minh danh tính người dùng, lưu vết hoạt động và sẵn sàng phối hợp với cơ quan thực thi pháp luật khi phát hiện dấu hiệu phạm tội.

Ở góc độ chính sách, vụ việc tiếp tục làm nổi bật khoảng trống pháp lý mà nhiều quốc gia đang tìm cách lấp đầy. Khi AI có thể tạo ra nội dung giả ngày càng chân thực, yêu cầu xây dựng cơ chế xử lý hành vi lạm dụng công nghệ, bảo vệ quyền riêng tư và ngăn chặn xâm hại trẻ em trên môi trường số sẽ trở thành ưu tiên trong các khung quản lý AI thời gian tới.