Apple và Google bị yêu cầu xóa ứng dụng AI 'lột đồ' khỏi kho ứng dụng

Làn sóng phát triển của AI tạo sinh đang kéo theo nhiều ứng dụng có khả năng chỉnh sửa ảnh với tốc độ và độ chân thực ngày càng cao. Trong số đó, các ứng dụng "nudify" - sử dụng AI để tạo ra hình ảnh khỏa thân giả từ ảnh người mặc quần áo - đang trở thành tâm điểm chỉ trích vì nguy cơ xâm phạm quyền riêng tư và bị sử dụng vào các mục đích quấy rối, trả thù hoặc tống tiền.

Theo TechCrunch, Công tố viên thành phố San Francisco David Chiu đã gửi thư yêu cầu Apple và Google chấm dứt việc phân phối các ứng dụng này trên kho ứng dụng của mình.

Thành phố San Francisco yêu cầu Apple và Google xóa các ứng dụng "làm khỏa thân" bằng trí tuệ nhân tạo khỏi cửa hàng ứng dụng. Ảnh minh họa: Getty Images

Lo ngại AI bị lạm dụng để tạo ảnh nhạy cảm giả

Trong thư gửi hai "ông lớn" công nghệ, Công tố viên thành phố San Francisco David Chiu cho rằng nhiều ứng dụng đang quảng bá dưới dạng công cụ chỉnh sửa ảnh hoặc hoán đổi khuôn mặt, nhưng thực chất cho phép người dùng tạo ra hình ảnh khỏa thân giả của người khác mà không có sự đồng ý.

Theo văn phòng Công tố viên, chỉ với một bức ảnh thông thường được đăng trên mạng xã hội, AI có thể tạo ra hình ảnh mang tính khiêu dâm trong vài giây. Công nghệ này đang bị lợi dụng để quấy rối phụ nữ, bắt nạt học sinh, phát tán nội dung giả mạo hoặc tống tiền nạn nhân.

Đáng lo ngại hơn, một số trường hợp còn liên quan đến trẻ vị thành niên, khiến các cơ quan thực thi pháp luật ngày càng siết chặt việc quản lý những ứng dụng dạng này.

Apple và Google bị cho là vẫn hưởng lợi từ các ứng dụng

Theo TechCrunch, thư yêu cầu nêu đích danh 13 ứng dụng bị cho là vi phạm, đồng thời cho rằng Apple và Google đã nhiều lần được cảnh báo về sự tồn tại của chúng nhưng vẫn tiếp tục cho phép xuất hiện trên App Store và Google Play.

Ngoài việc cung cấp nền tảng phân phối, hai công ty cũng bị cho là thu lợi từ các giao dịch mua trong ứng dụng và các gói thuê bao trả phí mà người dùng sử dụng để tạo ảnh bằng AI.

Ông David Chiu nhận định việc tiếp tục lưu hành các ứng dụng này đồng nghĩa với việc các nền tảng đang góp phần tạo điều kiện cho hành vi phát tán hình ảnh nhạy cảm giả mạo.

Trong thư, Công tố viên San Francisco yêu cầu Apple và Google nhanh chóng gỡ bỏ các ứng dụng "nudify" và có biện pháp ngăn chặn những ứng dụng tương tự xuất hiện trở lại.

Nếu không thực hiện, hai công ty có thể phải đối mặt với các biện pháp pháp lý theo luật của bang California liên quan đến hành vi tạo và phát tán hình ảnh thân mật giả mạo không có sự đồng thuận.

Động thái này phản ánh xu hướng ngày càng mạnh mẽ của các cơ quan quản lý trong việc yêu cầu các nền tảng công nghệ chịu trách nhiệm nhiều hơn đối với những ứng dụng AI có nguy cơ gây hại cho xã hội.

Một số ứng dụng nudify có mặt trên App Store nằm trong báo cáo điều tra của điều tra của Tech Transparency Project (TTP).

Siết chặt giám sát AI tạo sinh trước làn sóng nội dung giả mạo

Công nghệ trí tuệ nhân tạo (AI) tạo sinh đang bước vào giai đoạn bị giám sát nghiêm ngặt hơn khi nhiều quốc gia nỗ lực tăng cường quản lý các công cụ số, đặc biệt là những ứng dụng có khả năng tạo ra nội dung giả mạo (deepfake) với độ chân thực cao.

Theo các chuyên gia, thách thức không nằm ở bản thân công nghệ AI, mà ở sự thiếu hụt các cơ chế kiểm duyệt đối với các ứng dụng thương mại hóa. Nếu không có rào cản kiểm soát hiệu quả, deepfake có nguy cơ biến thành công cụ phục vụ các hành vi quấy rối, lừa đảo và xâm phạm nghiêm trọng quyền riêng tư.

Thực tế này đang đặt áp lực lớn lên Apple và Google. Hai "ông lớn" công nghệ này không chỉ phải gỡ bỏ các ứng dụng vi phạm cụ thể mà còn có trách nhiệm xây dựng những cơ chế rà soát chủ động và hiệu quả hơn, nhằm ngăn chặn các ứng dụng AI có chức năng tương tự xuất hiện trên các kho ứng dụng trong tương lai.

*Chú thích: Trong ngữ cảnh bài viết, "nudify" là thuật ngữ chỉ các ứng dụng AI có khả năng tạo hình ảnh khỏa thân giả từ ảnh của người mặc quần áo, không phản ánh hình ảnh thật của người trong ảnh.

Nguồn: TechCrunch, WIRED.