Giới khoa học Trung Quốc phát triển 'công tố viên' AI có thể đưa ra cáo trạng

Giới công tố viên Trung Quốc đã vận dụng công nghệ AI từ năm 2016 (Ảnh: Shutterstock)

“Công tố viên” AI này có thể đưa ra một cáo buộc với độ chính xác 97% dựa trên mô tả về vụ việc, theo các nhà nghiên cứu. Cỗ máy này được chế tạo và thử nghiệm bởi Viện kiểm sát Nhân dân Phố Đông, Thượng Hải , văn phòng công tố khu vực lớn nhất và bận rộn nhất ở Trung Quốc.

Việc cho ra mắt cỗ máy mới này có thể giảm cường độ công việc thường nhật của các công tố viên, cho phép họ tập trung hơn vào những nhiệm vụ khó hơn; theo Giáo sư Shi Yong – Giám đốc phòng thí nghiệm big data của Học viện Khoa học Trung Quốc, người đứng đầu dự án này.

“Hệ thống này có thể thay thế các công tố viên, tự đưa ra quyết định trong một số trường hợp nhất định” – ông Shi và các đồng nghiệp viết trong một báo cáo.

Việc ứng dụng công nghệ AI vào hệ thống hành pháp không phải là mới. Một số công tố viên ở Đức đã vận dụng công nghệ AI, như nhận diện hình ảnh và pháp y kỹ thuật số, để xử lý các vụ án một cách chính xác hơn và nhanh hơn.

Các công tố viên Trung Quốc đã bắt đầu ứng dụng AI từ năm 2016. Nhiều người trong số họ có sử dụng một công cụ AI có tên “System 206”. Công cụ này có thể đánh giá độ thuyết phục của bằng chứng, điều kiện để đưa ra lệnh bắt giữ và mức độ nguy hiểm mà một nghi phạm có thể gây ra với cộng đồng.

Nhưng tất cả các công cụ AI hiện hữu đều chỉ đóng một vai trò hạn chế bởi “chúng không được tham gia vào quy trình đưa ra quyết định liên quan tới tố tụng hay đưa ra phán quyết”, ông Shi và các đồng nghiệp cho hay. Việc đưa ra những quyết định quan trọng như vậy đòi hỏi một cỗ máy phải có khả năng xác nhận và gỡ bỏ bất cứ nội dung nào không có liên quan tới một hành động phạm pháp trong một vụ án, mà không ảnh hưởng đến những thông tin hữu ích. Nó cũng cần phải chuyển ngôn ngữ con người thành những định dạng toán học tiêu chuẩn mà máy tính có thể hiểu được.

Nhiều công ty internet Trung Quốc đã phát triển những công cụ mạnh mẽ để xử lý ngôn ngữ, nhưng chúng thường cần có những máy tính cỡ lớn mạnh mẽ mà các công tố viên không được tiếp cận.

“Công tố viên” AI được phát triển bởi nhóm của ông Shi có thể chạy trên một máy tính để bàn bình thường. Đối với mỗi nghi phạm, nó sẽ đưa ra một cáo trạng dựa trên 1.000 “điểm tiêu biểu” thu được từ các đoạn văn bản mô tả về vụ án. Công cụ System 206 sau đó sẽ đánh giá bằng chứng.

Cỗ máy này được “đào tạo” nhờ tiếp nhận hơn 17.000 vụ án trong khoảng từ năm 2015 đến 2020. Đến nay, nó có thể xác nhận và đưa ra cáo trạng đối với 8 loại hành vi phạm pháp thường thấy nhất ở Thượng Hải, bao gồm: gian lận thẻ tín dụng, vận hành đường dây đánh bạc, lái xe ẩu, cố ý gây thương tích, cản trở người thi hành công vụ, ăn cắp, gian lận và gây rối trật tự nơi công cộng.

Ông Shi cho rằng công tố viên AI này sẽ sớm trở nên mạnh mẽ hơn sau những đợt cập nhật. Nó sẽ có khả năng xác nhận những hành vi phạm pháp hiếm thấy hơn và đưa ra nhiều cáo trạng đối với một nghi phạm. Hiện chưa rõ liệu công nghệ này có thể được ứng dụng trong những lĩnh vực khác hay không.

Một công tố viên ở Quảng Châu cho hay, ông có một số quan ngại về việc ứng dụng AI để đưa ra cáo trạng.

“Độ chính xác 97% có thể là cao nếu xét từ khía cạnh công nghệ, nhưng luôn có khả năng xảy ra nhầm lẫn” – vị công tố viên giấu tên nói với tờ SCMP – “Ai sẽ nhận trách nhiệm nếu có sai sót? Công tố viên, cỗ máy này hay người thiết kế thuật toán?”

Một vấn đề nữa là công tố viên AI chỉ có thể đưa ra cáo trạng dựa trên kinh nghiệm trước đó mà nó thu thập được, trong khi không thể dự đoán trước được phản ứng của dư luận trước một vụ án trong môi trường xã hội thay đổi chóng mặt như hiện nay.

“AI có thể giúp phát hiện một lỗi sai, nhưng không thể thay thế con người trong việc đưa ra quyết định” – ông nói.

Tuy nhiên, Trung Quốc hiện đang tăng cường ứng dụng AI gần như trong mọi lĩnh vực quản lý để tăng mức độ hiệu quả, giảm tham nhũng và tăng cường kiểm soát. Một số thành phố của Trung Quốc đã sử dụng máy móc để quản lý quan hệ xã hội của viên chức nhà nước, và các hoạt động của họ để phát hiện tham nhũng; theo SCMP.

Một số tòa án ở Trung Quốc đã sử dụng AI để giúp các thẩm phán xử lý vụ án và đưa ra quyết định xem có nên chấp nhận kháng cáo hay không. Phần lớn các nhà tù ở Trung Quốc đều ứng dụng AI để theo dõi tình trạng tâm lý và thể chất của tù nhân, với mục đích giảm tình trạng bạo lực.

Huyền Chi