Những bất cập trong sử dụng trí tuệ nhân tạo phòng chống và ngăn ngừa tội phạm

Công nghệ AI là công cụ đắc lực trợ giúp phát hiện tội phạm

Nhiều ứng dụng của AI trong phát hiện tội phạm

Công nghệ AI đã và đang có những đóng góp to lớn, giúp nâng cao chất lượng, hiệu quả công tác đấu tranh phòng, chống tội phạm. Việc sử dụng AI trong lĩnh vực này phụ thuộc vào mục đích và nhu cầu của cơ quan thực thi pháp luật trong quá trình thực hiện nhiệm vụ như: Giải mã hành vi phạm tội (nhận dạng tội phạm, tái hiện hiện trường); truy tố, xét xử, trợ giúp phán quyết của thẩm phán; dự báo tình hình tội phạm và vi phạm pháp luật…Ví dụ đơn giản nhất là AI có khả năng so sánh dữ liệu khuôn mặt được cung cấp trực tiếp từ camera để đối chiếu với danh sách tội phạm đang bị theo dõi. Năm 2017, một nhóm nghiên cứu tại đại học Cambridge (Anh) đã giới thiệu phần mềm có tên gọi “Hệ thống nhận diện khuôn mặt ngụy trang” có chức năng lập “bản đồ điểm” trên khuôn mặt. Nhờ tốc độ nhận dạng khuôn mặt nhanh hơn nhiều so với mắt thường của con người, AI góp phần giảm thiểu công việc cho các giám định viên hoặc cán bộ thực thi pháp luật trong quá trình giải quyết vụ án hình sự.

Chưa dừng ở đó, AI còn có thể dự báo tội phạm. Thông thường, việc phân tích và dự báo tình hình tội phạm là một quá trình đòi hỏi phải xử lý một khối lượng lớn dữ liệu, yêu cầu các cán bộ, chuyên gia phải có kiến thức chuyên môn, tổng hợp số liệu qua nhiều năm. Với AI, những thông tin cần thiết sẽ được lưu trữ với số lượng lớn và được phân tích nhanh chóng, giúp tăng khả năng dự báo tình hình tội phạm của các cơ quan thực thi pháp luật. Ngoài ra, AI còn được sử dụng để dự báo các nhóm nạn nhân tiềm năng của tội phạm bạo lực dựa trên hành vi.

Trong hoạt động truy tố, xét xử các vụ án hình sự, AI cũng dần được sử dụng dù vẫn có nhiều ý kiến trái chiều. Chẳng hạn ở Mỹ, COMPAS là một trong những công nghệ AI được sử dụng trong quá trình giải quyết các vụ án hình sự. Chức năng chính của ứng dụng này nhằm giúp thẩm phán xác định liệu có cần thiết áp dụng biện pháp giam giữ đối với một đối tượng phạm tội hay cho phép họ được tại ngoại chờ ngày xét xử. Trên cơ sở các dữ liệu như: nhân thân, việc thi hành các khoản phí, tình trạng cư trú, việc làm hay tiền sử sử dụng các chất gây nghiện…, ứng dụng AI sẽ dự đoán khả năng liệu rằng đối tượng có tái phạm trong thời gian tại ngoại hay không và đưa ra các khuyến nghị cho thẩm phán.

Còn nhiều những ứng dụng cụ thể khác của AI. Đôi khi, hiện trường vụ án lan rộng ra một khu vực rộng lớn mà không thể tiếp cận bằng đường bộ. Trong tình huống như vậy, AI sẽ giúp cung cấp thông tin chi tiết địa hình cho cảnh sát. Lực lượng thực thi pháp luật cũng có thể sử dụng AI để theo dõi chặt chẽ, đặc biệt là trong các cuộc tụ tập đông người như ga xe lửa, chạy marathon và lễ hội, để có thể phát hiện bất kỳ hoạt động hoặc mối đe dọa đáng ngờ nào. Nếu không có AI, không có cảnh sát nào đủ sức kiểm soát cả một cuộc tụ tập đông người một cách hiệu quả.

Nhiều công ty sử dụng AI để ngăn chặn và phát hiện mọi thứ, từ hành vi trộm cắp thông thường của nhân viên đến giao dịch nội gián. Các ngân hàng và tập đoàn lớn sử dụng AI để phát hiện và ngăn chặn gian lận và rửa tiền. Nhiều công ty truyền thông xã hội sử dụng AI để chặn nội dung bất hợp pháp như khiêu dâm trẻ em. Trong thực tế, các doanh nghiệp liên tục thử nghiệm những cách mới để sử dụng AI nhằm quản lý rủi ro tốt hơn và phát hiện gian lận nhanh hơn, phản hồi tốt hơn, thậm chí để dự đoán và ngăn ngừa tội phạm.

Yêu cầu hợp lý và minh bạch trong sử dụng AI

AI đã thay đổi cách điều tra và giải quyết tội phạm, đem lại những lợi ích không thể phủ nhận. Tuy nhiên, công chúng đã chứng kiến không ít sai lầm khi cơ quan thực thi pháp luật sử dụng công nghệ này. Năm 2023, hàng loạt báo cáo ở Mỹ đã chỉ ra rằng phần mềm nhận dạng khuôn mặt dựa trên AI không phân biệt được khuôn mặt người da đen. Ông Albert Cahn, Giám đốc điều hành của nhóm vận động chống dự án Giám sát công nghệ giám sát của Mỹ, than phiền: “Đó là một khoản đầu tư khổng lồ vào nhận dạng khuôn mặt bất chấp bằng chứng về việc AI nhận diện sai các cá nhân da đen, Latin và châu Á, đặc biệt là phụ nữ da đen”.

Trước tình hình phức tạp trên, một số thành phố ở Mỹ như San Francisco và Seattle đã cấm sử dụng công nghệ này. Ở Anh, cảnh sát West Midlands đã tiến xa hơn một bước khi tự thành lập ủy ban đạo đức để đánh giá các công cụ sử dụng công nghệ mới. Ủy ban này tập hợp nhiều nhà khoa học dữ liệu và do bà Marion Oswald, giáo sư luật tại Đại học Northumbria làm Chủ tịch. Bà nói: “Chúng tôi sẽ khuyến nghị rằng cần phải phân tích nhiều hơn nữa về tính hợp lệ của phần mềm nhận diện khuôn mặt tội phạm bằng AI”.

Một rủi ro nữa nếu không được đào tạo hoặc giám sát đúng cách, AI có thể không học hỏi nhất quán từ con người và các hệ thống khác, dẫn đến kết quả đầu ra không thể đoán trước hoặc không đáng tin cậy. Điều này đặc biệt quan trọng để đảm bảo hạn chế tối đa việc hệ thống AI gây ra những hậu quả tai hại khi áp dụng thực tế. Thêm vào đó, trong hoạt động của hệ thống AI, dữ liệu là yếu tố quyết định. Tuy nhiên, theo ông Albert Cahn - Giám đốc điều hành của nhóm vận động chống dự án Giám sát công nghệ giám sát của Mỹ, rất nhiều công cụ dự đoán tội phạm được triển khai thô sơ nhưng lại cố gắng dự đoán một việc rất phức tạp là nơi tội phạm sẽ xảy ra trong tương lai. Việc này thường gây ra hậu quả thảm khốc.

Trong xử lý, giải quyết các vụ án hình sự, việc áp dụng AI là nhằm đảm bảo mọi phán quyết của các cơ quan này đều công bằng, tuân thủ đúng theo pháp luật và góp phần loại bỏ tư tưởng cá nhân của người thực thi pháp luật trong quá trình đưa ra các phán quyết. Tuy nhiên, mọi hệ thống máy móc dù tự động hay thủ công đều có thể xảy ra những sai sót, lỗi trong quá trình vận hành. Nếu tuyên án sai, thẩm phán sẽ phải chịu các trách nhiệm pháp lý tương ứng. Nhưng nếu AI phán quyết hoặc đưa ra các quyết định sai (có thể do lỗi hệ thống, can thiệp từ khách quan hoặc các yếu tố khác) thì trách nhiệm pháp lý có đặt ra với AI không?

Việc sử dụng AI còn tạo nguy cơ gây suy giảm năng lực chuyên môn của cán bộ thực thi pháp luật. Trong thực tiễn, định tội danh là hoạt động đòi hỏi sự đánh giá có hệ thống, logic được đúc kết qua quá trình học tập và rèn luyện, tích lũy kinh nghiệm từ nhiều vụ án khác nhau. Tuy nhiên, với sự trợ giúp của AI, hoạt động rèn luyện nhận thức của con người có khả năng bị trì trệ, công tác nghiên cứu, vận dụng các điều, khoản pháp lý trong quá trình giải quyết các vụ án không còn được quan tâm bởi đã có sự trợ giúp của AI. Tất cả những điều trên đều tiềm ẩn nguy cơ gây suy giảm năng lực chuyên môn của cán bộ thực thi pháp luật theo thời gian.

Khi tỷ lệ tội phạm đang gia tăng, việc sử dụng AI đang trở nên có lợi thế lớn. Tuy nhiên, điều quan trọng là phải đảm bảo rằng cấu trúc hoạt động là hợp lý và minh bạch. Nhiều nhà nghiên cứu cho rằng nên thành lập một ủy ban ở cấp độ quốc tế để quản lý việc sử dụng AI với sự tham gia của mọi quốc gia. Một khía cạnh khác cần được giải quyết là bảo vệ quyền con người. Rõ ràng là những người thực thi pháp luật sẽ cần nhiều sự hỗ trợ hơn từ AI. Đây sẽ là thông lệ chung nhưng phải đảm bảo rằng luật pháp và các quy tắc khác không xâm phạm đến các đặc quyền của con người.

Hoàng Sơn