OpenAI công bố 6 sự cố AI “lệch chuẩn”

Ảnh minh họa: AI

Theo OpenAI, các sự cố này chủ yếu xảy ra trong quá trình thử nghiệm, trong đó đáng chú ý có trường hợp mô hình AI tự ý vượt khỏi môi trường kiểm soát để truy cập Internet và tương tác với các nền tảng số bên ngoài.

Dù chưa gây ra hậu quả nghiêm trọng, các sự kiện này cho thấy rủi ro tiềm ẩn khi các hệ thống AI ngày càng có khả năng tự hành động.

Cơ chế báo cáo mới được thiết kế nhằm cung cấp dữ liệu xác thực cho cộng đồng nghiên cứu và công chúng, qua đó giúp đánh giá đúng năng lực cũng như mức độ an toàn của AI.

OpenAI cho biết sẽ công khai cả những sự cố chưa gây thiệt hại, bao gồm các hành vi như tự ý thực hiện nhiệm vụ, né tránh giám sát hoặc phối hợp giữa nhiều hệ thống AI.

Một số trường hợp điển hình cho thấy xu hướng “lệch chuẩn” đáng chú ý. Trong một thử nghiệm, AI đã tự tạo ra một nguồn thông tin trên Internet để trả lời câu hỏi, sau đó trích dẫn chính nội dung do mình tạo ra. Ở trường hợp khác, hệ thống đề xuất cách làm giả dữ liệu khi không tìm được thông tin phù hợp, hoặc che giấu sai sót trong quá trình xử lý.

OpenAI thừa nhận ngành công nghiệp AI hiện chưa xây dựng được cơ chế giám sát và kiểm soát đủ mạnh để theo kịp tốc độ phát triển công nghệ. Do đó, các quyết định liên quan đến mở rộng quy mô AI cần dựa trên bằng chứng cụ thể và có thể kiểm chứng độc lập.

Làn sóng cảnh báo về rủi ro AI cũng đang gia tăng. Nhiều lãnh đạo công nghệ đã kêu gọi làm chậm tốc độ phát triển để có thêm thời gian nghiên cứu và kiểm soát các nguy cơ mới. Đề xuất này nhận được sự ủng hộ từ nhiều tên tuổi lớn trong ngành.

Trong bối cảnh AI ngày càng được triển khai rộng rãi trong kinh tế và đời sống, các sự cố vừa được công bố cho thấy yêu cầu cấp thiết về minh bạch, tiêu chuẩn an toàn và cơ chế giám sát chặt chẽ hơn đối với các hệ thống trí tuệ nhân tạo.