Giới luật sư, tòa án Mỹ cảnh báo rắc rối do AI bịa đặt thông tin
Không chỉ thẩm phán, thời gian qua giới luật sư Mỹ cũng gặp không ít rắc rối do AI gây ra.
AI có thể bịa đặt thông tin - Ảnh: REUTERS/Dado Ruvic
Mới đây, phản hồi thư yêu cầu giải trình từ Chủ tịch Ủy ban Tư pháp Thượng viện Mỹ Chuck Grassley, 2 thẩm phán liên bang thừa nhận đội ngũ nhân viên của họ sử dụng trí tuệ nhân tạo (AI) hỗ trợ soạn thảo các lệnh tòa án đầy sai sót.
Thẩm phán Henry Wingate, bang Mississippi, cùng thẩm phán Julien Xavier Neals tại bang New Jersey cho biết phán quyết trong vài vụ án gần đây không trải qua quy trình xem xét thông thường của phòng xét xử trước khi ban hành.
Ở một vụ kiện liên quan đến chứng khoán, dự thảo phán quyết được công bố do nhầm lẫn (lỗi do con người) nhưng bị rút lại sau khi nhận báo cáo. Một thực tập sinh dùng ChatGPT cho mục đích nghiên cứu mà không được phép hoặc tiết lộ. Còn với trường hợp ông Wingate, một thư ký tòa án dùng Perplexity như trợ lý soạn thảo để tổng hợp thông tin công khai về hồ sơ vụ án liên quan đến nhân quyền, nhưng dự thảo phán quyết đầy lỗi cũng được công bố. Sau đó vị thẩm phán này ban hành một lệnh thay thế. Cả hai đều cam kết siết chặt xem xét phán quyến.
Trong thư giải trình, Chủ tịch Grassley yêu cầu 2 thẩm phán giải thích liệu AI có tham gia quá trình ra quyết định hay không. Luật sư trong các vụ án phát hiện phán quyết chứa đựng thông tin không chính xác về mặt thực tế lẫn nhiều lỗi nghiêm trọng khác. Sau khi nhận được phản hồi, ông khen ngợi 2 thẩm phán dung cảm thừa nhận sai sót đồng thời kêu gọi ngành tư pháp áp dụng quy định chặt chẽ hơn với trí tuệ nhân tạo.
“Mỗi thẩm phán liên bang lẫn ngành tư pháp có nghĩa vụ đảm bảo việc sử dụng AI tạo sinh không vi phạm quyền của người kiện tụng hoặc ngăn cản việc đối xử công bằng theo luật định”, theo Chủ tịch Grassley.
Không chỉ thẩm phán, thời gian qua giới luật sư Mỹ cũng gặp không ít rắc rối do AI gây ra. Đầu năm qua tại bang Wyoming, một luật sư phải xin lỗi vì đã đưa trích dẫn án lệ không có thật được cung cấp bởi nền tảng trí tuệ nhân tạo. Công ty luật Morgan & Morgan gửi thư điện tử khuyến cáo hơn 1.000 luật sư của mình cảnh giác vì AI có thể bịa đặt thông tin.
