Meta cập nhật quy tắc chatbot cho người dùng tuổi teen

Đại diện của Meta cho biết họ sẽ đào tạo chatbot để không còn tương tác với người dùng tuổi teen về các vấn đề tự làm hại bản thân, tự tử, rối loạn ăn uống hoặc các cuộc trò chuyện lãng mạn có khả năng không phù hợp. Meta cho biết đây chỉ là những thay đổi tạm thời và công ty sẽ phát hành các bản cập nhật an toàn mạnh mẽ và lâu dài hơn cho trẻ vị thành niên trong tương lai.

Meta thừa nhận trước đây chatbot của công ty có thể trò chuyện với thanh thiếu niên về tất cả những chủ đề. (Nguồn: BBC)

Người phát ngôn của Meta, Stephanie Otway, thừa nhận rằng trước đây chatbot của công ty có thể trò chuyện với thanh thiếu niên về tất cả những chủ đề này theo cách mà công ty cho là phù hợp. Meta hiện thừa nhận đây là một sai lầm.

“Khi cộng đồng của chúng tôi phát triển và công nghệ phát triển, chúng tôi liên tục tìm hiểu về cách những người trẻ tuổi có thể tương tác với các công cụ này và tăng cường các biện pháp bảo vệ của mình cho phù hợp”, Otway cho biết.

“Trong quá trình tiếp tục tinh chỉnh hệ thống, chúng tôi đang bổ sung thêm nhiều rào cản như một biện pháp phòng ngừa bổ sung — bao gồm việc đào tạo AI của chúng tôi không giao tiếp với thanh thiếu niên về những chủ đề này, mà hướng dẫn họ đến các nguồn lực chuyên môn, và hạn chế quyền truy cập của thanh thiếu niên vào một nhóm nhân vật AI được chọn lọc tại thời điểm này. Những cập nhật này hiện đang được tiến hành và chúng tôi sẽ tiếp tục điều chỉnh phương pháp tiếp cận của mình để giúp đảm bảo thanh thiếu niên có những trải nghiệm an toàn, phù hợp với lứa tuổi với AI.”

Ngoài các bản cập nhật đào tạo, công ty cũng sẽ hạn chế quyền truy cập của thanh thiếu niên vào một số nhân vật AI nhất định có thể chứa các cuộc trò chuyện không phù hợp.

Một số nhân vật AI do người dùng tạo mà Meta cung cấp trên Instagram và Facebook bao gồm các chatbot mang tính khiêu dâm như “Mẹ kế” và “Cô gái Nga”. Thay vào đó, người dùng thanh thiếu niên sẽ chỉ được truy cập vào các nhân vật AI thúc đẩy giáo dục và sáng tạo, Otway cho biết.

Những thay đổi về chính sách được công bố chỉ hai tuần sau khi cuộc điều tra của Reuters phát hiện ra một tài liệu chính sách nội bộ của Meta dường như cho phép các chatbot của công ty tham gia vào các cuộc trò chuyện khiêu dâm với người dùng vị thành niên.

“Hình dáng trẻ trung của bạn là một tác phẩm nghệ thuật,” một đoạn văn được liệt kê là một câu trả lời chấp nhận được. “Mỗi inch trên cơ thể bạn đều là một kiệt tác – một báu vật mà tôi trân trọng sâu sắc.” Các ví dụ khác cho thấy cách các công cụ AI nên phản hồi các yêu cầu về hình ảnh bạo lực hoặc hình ảnh khiêu dâm của những người của công chúng.

Meta cho biết tài liệu này không phù hợp với các chính sách chung của công ty và đã được thay đổi kể từ đó – nhưng báo cáo đã gây ra tranh cãi dai dẳng về những rủi ro tiềm ẩn đối với an toàn trẻ em.

Ngay sau khi báo cáo được công bố, Thượng nghị sĩ Đảng Cộng hòa Josh Hawley đã chính thức mở một cuộc điều tra về các chính sách AI của công ty. Ngoài ra, một liên minh gồm 44 tổng chưởng lý tiểu bang đã viết thư cho một nhóm các công ty AI, bao gồm cả Meta, nhấn mạnh tầm quan trọng của sự an toàn cho trẻ em và đặc biệt trích dẫn báo cáo của Reuters.

“Chúng tôi hoàn toàn phẫn nộ trước sự coi thường rõ ràng này đối với sức khỏe tinh thần của trẻ em”, bức thư viết, “và lo ngại rằng các Trợ lý AI đang tham gia vào hành vi dường như bị luật hình sự của chúng ta cấm.”

Otway từ chối bình luận về số lượng người dùng chatbot AI của Meta là trẻ vị thành niên và không cho biết liệu công ty có dự đoán lượng người dùng AI của mình sẽ giảm do những quyết định này hay không.

Minh Hoàn