OpenAI ra mắt ChatGPT for Teens, bổ sung hệ thống kiểm soát an toàn trước thềm IPO

Tự động kích hoạt cho nhóm người dùng dưới 18 tuổi, thiết lập quyền kiểm soát thời gian và cảnh báo nội dung

Theo công bố của doanh nghiệp, hệ thống ChatGPT sẽ tự động chuyển đổi sang phiên bản dành cho thiếu niên khi nhận diện người dùng dưới 18 tuổi hoặc thông qua dữ liệu tự khai báo độ tuổi từ 13 đến 17. Phiên bản này được lập trình với các cơ chế chuyên biệt phục vụ giáo dục, bao gồm chế độ học tập, hướng dẫn tư duy từng bước thay vì cung cấp đáp án trực tiếp, cùng chức năng kiểm tra và trực quan hóa kiến thức. Đại diện OpenAI cho biết thiết kế này được xây dựng để hỗ trợ đối tượng học sinh ngoài giờ lên lớp, bảo đảm người dùng duy trì sự chủ động trong quá trình tiếp nhận thông tin.

Đi kèm với các tính năng cho người dùng trực tiếp, nền tảng cung cấp một hệ thống quản lý tài khoản cho phụ huynh. Người giám hộ có quyền liên kết tài khoản để thiết lập giới hạn thời gian sử dụng và chặn quyền truy cập khi cần thiết. Hệ thống cũng được lập trình để tự động gửi thông báo đến cha mẹ khi phát hiện các cuộc hội thoại chứa nội dung rủi ro như rối loạn ăn uống, hành vi tự hại hoặc các chủ đề mang tính chất tình cảm. Cấu trúc này được xây dựng để bảo đảm trí tuệ nhân tạo hoạt động như một công cụ hỗ trợ giáo dục thay vì thay thế các mối quan hệ thực tế.

Giải quyết các vụ kiện về an toàn người dùng trong thời điểm chuẩn bị niêm yết cổ phiếu

Việc cập nhật hệ thống bảo vệ người dùng nhỏ tuổi được triển khai vào thời điểm các nền tảng trí tuệ nhân tạo trên thị trường ghi nhận nhiều báo cáo về mức độ an toàn. Hãng tin Reuters dẫn dữ liệu chuyên gia cho thấy sự phát triển của các công cụ giao tiếp tự nhiên đang làm gia tăng tỷ lệ người dùng phụ thuộc vào công nghệ để giải quyết các vấn đề tâm lý cá nhân. Việc sử dụng các hệ thống tự động hóa trong tư vấn sức khỏe tâm thần đã nhận phải cảnh báo rủi ro từ giới chuyên môn, đi kèm với các khiếu nại từ phía gia đình người dùng về sự thiếu hụt các rào chắn kỹ thuật an toàn trên nền tảng.

Hiện tại, OpenAI đang phải xử lý các vụ kiện pháp lý liên quan đến cáo buộc hệ thống ChatGPT gây ra tác động tiêu cực đối với người dùng nhỏ tuổi. Các rủi ro pháp lý và yêu cầu cải thiện sản phẩm xuất hiện cùng thời điểm tổ chức này đang hoàn thiện hồ sơ chuẩn bị cho đợt chào bán cổ phiếu lần đầu ra công chúng. Việc bổ sung các lớp bảo mật và hệ thống kiểm soát nội dung được xem là yêu cầu kỹ thuật để doanh nghiệp giải quyết các rào cản pháp lý và đáp ứng các tiêu chuẩn an toàn của cơ quan quản lý trước khi chính thức huy động vốn trên thị trường chứng khoán.