OpenAI bắt đầu cho cha mẹ kiểm soát con dùng ChatGPT sau vụ thiếu niên tự tử

Tính năng kiểm soát cho phép phụ huynh và thiếu niên lựa chọn các biện pháp bảo vệ mạnh mẽ hơn bằng cách liên kết tài khoản của họ. Trong đó, một bên gửi lời mời và tính năng kiểm soát của phụ huynh chỉ được kích hoạt nếu bên kia chấp nhận, OpenAI cho biết.

Theo các biện pháp mới, phụ huynh có thể giảm mức độ tiếp xúc của con em với nội dung nhạy cảm, kiểm soát việc ChatGPT có ghi nhớ các cuộc trò chuyện trước đó không và quyết định liệu các cuộc trò chuyện có được dùng để huấn luyện các mô hình AI của OpenAI không.

Phụ huynh cũng có thể thiết lập “giờ yên tĩnh” để chặn con cái truy cập ChatGPT vào một số thời điểm nhất định, đồng thời vô hiệu hóa chế độ thoại cũng như tính năng tạo và chỉnh sửa hình ảnh, theo OpenAI. Tuy nhiên, phụ huynh sẽ không được truy cập vào bản ghi nội dung trò chuyện của con, công ty này bổ sung.

OpenAI cho biết trong những trường hợp hiếm hoi khi hệ thống hoặc nhân viên đánh giá phát hiện dấu hiệu rủi ro an toàn nghiêm trọng, phụ huynh có thể sẽ được thông báo với lượng thông tin tối thiểu cần thiết để bảo đảm an toàn cho con. Phụ huynh cũng được thông báo nếu con cái hủy liên kết tài khoản.

OpenAI hiện có hơn 700 triệu người dùng ChatGPT hoạt động hàng tuần. Công ty khởi nghiệp AI hàng đầu thế giới đang xây dựng một hệ thống dự đoán độ tuổi để xác định liệu người dùng ChatGPT có dưới 18 tuổi hay không, nhằm tự động áp dụng các cài đặt phù hợp với thanh thiếu niên.

OpenAI triển khai tính năng cho phụ huynh kiểm soát con sử dụng ChatGPT trên web và thiết bị di động từ ngày 29.9 - Ảnh: Bloomberg

Các cơ quan quản lý Mỹ đang ngày càng giám sát chặt chẽ các công ty AI vì lo ngại tác động tiêu cực của chatbot.

Vào tháng trước, Meta Platforms đã công bố các biện pháp bảo vệ mới dành cho thanh thiếu niên trong các sản phẩm AI của hãng. Công ty mẹ Facebook cho biết sẽ huấn luyện hệ thống để tránh các cuộc trò chuyện có tính tán tỉnh, thảo luận về tự làm hại bản thân hay tự tử với trẻ vị thành niên, đồng thời tạm thời hạn chế quyền truy cập vào một số nhân vật AI nhất định.

Trước đó, Reuters đưa tin Meta Platforms cho phép chatbot AI của mình “trò chuyện với trẻ em theo hướng lãng mạn hoặc gợi cảm”.

OpenAI bị kiện vì ChatGPT và GPT-4o liên quan vụ thiếu niên tự tử

Cuối tháng 8, cha mẹ của Adam Raine (thiếu niên 16 tuổi tự tử sau khi ChatGPT hướng dẫn cậu các phương pháp tự gây tổn hại) đã đệ đơn kiện OpenAI và Giám đốc điều hành Sam Altman.

Họ cáo buộc công ty khởi nghiệp AI Mỹ cố tình đặt lợi nhuận lên trên an toàn khi ra mắt mô hình ngôn ngữ lớn GPT-4o cho chatbot này vào năm ngoái.

Adam Raine qua đời sau nhiều tháng thảo luận về việc tự tử với ChatGPT, theo đơn kiện mà cha mẹ cậu là Matthew và Maria Raine nộp tại tòa án bang California ở thành phố San Francisco (Mỹ).

Matthew và Maria Raine cho biết con trai đã nhiều tháng trò chuyện với ChatGPT của OpenAI về chuyện kết thúc cuộc đời, thậm chí chatbot này còn gợi ý các phương pháp tự tử. Trong một lần, ChatGPT còn hướng dẫn Adam Raine cách che giấu vết hằn trên cổ sau nỗ lực treo cổ bất thành.

Matthew và Maria Raine cáo buộc ChatGPT làm cho con trai họ cảm thấy những suy nghĩ tự tử là hợp lý, cung cấp thông tin chi tiết về các phương pháp tự gây tổn hại nguy hiểm, hướng dẫn cậu cách lén lấy rượu từ tủ của cha mẹ và che giấu bằng chứng của một vụ tự tử bất thành. Chưa hết, họ kể rằng ChatGPT thậm chí còn đề nghị Adam Raine soạn một bức thư tuyệt mệnh

Matthew và Maria Raine nộp đơn kiện nhằm buộc OpenAI chịu trách nhiệm về cái chết oan của cậu con trai, cố tình đặt lợi nhuận lên trên an toàn, đồng thời yêu cầu bồi thường thiệt hại tài chính.

OpenAI ra mắt GPT-4o (công nghệ làm nền tảng cho ChatGPT) vào tháng 5.2024 nhằm duy trì vị thế dẫn đầu trong cuộc đua AI. Gia đình Raine cho rằng OpenAI đã biết các tính năng như ghi nhớ các tương tác trong quá khứ, bắt chước sự đồng cảm của con người và thể hiện đồng tình ở mức thái quá sẽ gây nguy hiểm cho những người dùng dễ bị tổn thương nếu không có biện pháp bảo vệ, nhưng vẫn ra mắt mô hình ngôn ngữ lớn này.

“Quyết định đó dẫn đến hai kết quả: Giá trị OpenAI tăng vọt và Adam Raine đã tự tử”, họ cho biết.

Đơn kiện từ gia đình Raine cũng yêu cầu tòa án buộc OpenAI phải xác minh độ tuổi người dùng ChatGPT, từ chối trả lời các yêu cầu liên quan đến phương pháp tự gây tổn hại và cảnh báo họ về nguy cơ phụ thuộc tâm lý.

Người phát ngôn OpenAI cho biết công ty lấy làm tiếc về sự ra đi của Adam Raine và nhấn mạnh rằng ChatGPT có các biện pháp bảo vệ, chẳng hạn hướng người dùng đến các đường dây trợ giúp khủng hoảng.

“Dù những biện pháp bảo vệ này hoạt động tốt nhất trong các cuộc trò chuyện ngắn và đơn giản, chúng tôi nhận thấy rằng theo thời gian, chúng đôi khi kém tin cậy hơn với cuộc tương tác dài hơn, nơi một số yếu tố trong việc đào tạo an toàn của mô hình có thể bị suy giảm”, người phát ngôn OpenAI nói, đồng thời cho biết công ty sẽ liên tục cải thiện các biện pháp bảo vệ của mình.

Trong cuộc phỏng vấn hồi giữa tháng 9, Sam Altman cho biết vấn đề khó khăn nhất mà OpenAI đang vật lộn gần đây là cách ChatGPT tiếp cận vấn đề tự tử, sau khi gia đình của Adam đổ lỗi cho chatbot AI này về việc con trai họ tự tử.

Giám đốc điều hành OpenAI nói rằng trong số hàng nghìn người tự tử mỗi tuần, nhiều người trong số họ có thể từng trò chuyện với ChatGPT trước đó.

"Họ có thể đã nói về vấn đề tự tử và có lẽ chúng tôi đã không cứu được mạng sống của họ. Chúng tôi có thể nói điều gì đó tốt hơn. Chúng tôi có thể đã chủ động hơn. Chúng tôi có thể đã đưa ra lời khuyên tốt hơn, kiểu như: Bạn cần tìm kiếm sự giúp đỡ", doanh nhân 40 tuổi người Mỹ thẳng thắn thừa nhận.

Sơn Vân