Công nghệ giám sát AI tại Olympic Paris và những tranh cãi

Olympic 2024, hay Thế vận hội 2024, đang thu hút sự chú ý của toàn thế giới khi hàng nghìn vận động viên, nhân viên hỗ trợ và hàng trăm nghìn du khách từ khắp nơi trên thế giới hội tụ tại Pháp.

Không chỉ hàng trăm triệu đôi mắt của thế giới sẽ theo dõi sự kiện này. Các hệ thống trí tuệ nhân tạo (AI) cũng vậy.

Chính phủ Pháp và các công ty tư nhân sẽ sử dụng các công cụ AI tiên tiến và công nghệ giám sát khác để tiến hành giám sát toàn diện và liên tục trước, trong và sau Thế vận hội.

Các biện pháp đi kèm với rủi ro

Chính phủ Pháp, hợp tác với khu vực công nghệ tư nhân, đã khai thác nhu cầu chính đáng về tăng cường an ninh làm cơ sở để triển khai các công cụ giám sát và thu thập dữ liệu tiên tiến về mặt công nghệ.

Chính quyền Pháp đã hợp tác với các công ty AI Videtics, Orange Business, ChapsVision và Wintics để triển khai hệ thống giám sát video AI toàn diện tại Thế vận hội Paris 2024. Ảnh: Reuters

Các kế hoạch giám sát nhằm ứng phó với những rủi ro này, bao gồm việc sử dụng công nghệ giám sát video AI thử nghiệm gây tranh cãi, quá rộng đến nỗi Pháp phải thay đổi luật để hợp pháp hóa kế hoạch giám sát.

Kế hoạch này vượt xa các hệ thống giám sát video AI mới. Theo báo chí Pháp, Văn phòng Thủ tướng Pháp đã đàm phán một sắc lệnh tạm thời được phân loại để cho phép chính quyền tăng cường đáng kể các công cụ giám sát và thu thập thông tin bí mật truyền thống trong suốt thời gian diễn ra Thế vận hội. Các công cụ này bao gồm nghe lén; thu thập dữ liệu định vị địa lý, truyền thông và máy tính; và thu thập nhiều dữ liệu hình ảnh và âm thanh hơn.

Bà Anne Toomey McKenna, giáo sư luật Đại học Richmond (Mỹ) và nhà nghiên cứu về quyền riêng tư, trí tuệ nhân tạo và giám sát đã có những nhận định về vấn đề này.

“Rủi ro an ninh gia tăng có thể và thực sự đòi hỏi phải tăng cường giám sát. Năm nay, Pháp đã phải đối mặt với những lo ngại về năng lực an ninh Olympic và các mối đe dọa đáng tin cậy xung quanh các sự kiện thể thao công cộng. Tuy nhiên, các biện pháp phòng ngừa phải tương xứng với rủi ro”, giáo sư McKenna nói.

Trên toàn cầu, những người chỉ trích cho rằng Pháp đang sử dụng Thế vận hội như một công cụ giành quyền lực giám sát và rằng chính quyền sẽ sử dụng lý do giám sát "ngoại lệ này" để bình thường hóa hoạt động giám sát của nhà nước trên toàn xã hội.

"Đồng thời, có những lo ngại chính đáng về việc giám sát an ninh đầy đủ và hiệu quả. Ví dụ, tại Mỹ, quốc gia này đang đặt câu hỏi về việc giám sát an ninh của Sở Mật vụ đã không ngăn chặn được vụ ám sát cựu Tổng thống Donald Trump vào ngày 13 tháng 7 như thế nào”, giáo sư luật người Mỹ nói thêm.

"Bật đèn xanh" cho giám sát hàng loạt bằng AI

Được hỗ trợ bởi luật giám sát mới được mở rộng, chính quyền Pháp đã hợp tác với các công ty AI Videtics, Orange Business, ChapsVision và Wintics để triển khai hệ thống giám sát video AI toàn diện.

Hệ thống giám sát tương tự đã được thử nghiệm với Liên hoan phim Cannes. Ảnh: Le Monde

Họ đã sử dụng giám sát AI trong các buổi hòa nhạc lớn, sự kiện thể thao và tại các nhà ga tàu điện ngầm và xe lửa trong thời gian sử dụng nhiều, bao gồm cả buổi hòa nhạc của Taylor Swift và Liên hoan phim Cannes. Các quan chức Pháp cho biết các thí nghiệm giám sát AI này diễn ra tốt đẹp và gửi đi tín hiệu "đèn xanh" cho các mục đích sử dụng trong tương lai.

Phần mềm AI đang sử dụng thường được thiết kế để đánh dấu một số sự kiện nhất định như thay đổi về quy mô và chuyển động của đám đông, đồ vật bị bỏ lại, sự hiện diện hoặc sử dụng vũ khí, xác chết trên mặt đất, khói hoặc ngọn lửa và một số vi phạm giao thông.

Mục tiêu là để các hệ thống giám sát phát hiện ngay lập tức, theo thời gian thực, các sự kiện như đám đông ùa về phía cổng hoặc một người để lại ba lô ở góc phố đông đúc và cảnh báo nhân viên an ninh. Với các sự kiện như thế, có vẻ là sử dụng công nghệ là hợp lý.

Nhưng những câu hỏi thực sự về quyền riêng tư và pháp lý bắt nguồn từ cách thức các hệ thống này hoạt động và được sử dụng. Bao nhiêu và loại dữ liệu nào phải được thu thập và phân tích để đánh dấu các sự kiện này? Dữ liệu đào tạo, tỷ lệ lỗi và bằng chứng về sự thiên vị hoặc không chính xác của hệ thống là gì? Người ta làm gì với dữ liệu sau khi thu thập và ai có quyền truy cập vào dữ liệu đó?

“Có rất ít sự minh bạch để trả lời những câu hỏi này. Mặc dù có các biện pháp bảo vệ nhằm ngăn chặn việc sử dụng dữ liệu sinh trắc học có thể nhận dạng mọi người, nhưng dữ liệu đào tạo có thể nắm bắt thông tin này và các hệ thống có thể được điều chỉnh để sử dụng nó”, giáo sư McKenna nói.

Bà nói thêm: “Bằng cách cho phép các công ty tư nhân này tiếp cận hàng nghìn camera video đã có trên khắp nước Pháp, khai thác và phối hợp khả năng giám sát của các công ty đường sắt và nhà điều hành vận tải, và cho phép sử dụng máy bay không người lái có gắn camera, Pháp đang hợp pháp cho phép và hỗ trợ các công ty này thử nghiệm và đào tạo phần mềm AI cho công dân và du khách của mình”.

Việc giám sát hợp pháp như thế nào?

Cả nhu cầu và việc thực hành giám sát tại Thế vận hội đều không phải là điều gì mới mẻ. Tuy nhiên, Pháp là một quốc gia thành viên của Liên minh châu Âu. Quy định bảo vệ dữ liệu chung của EU là một trong những luật bảo vệ dữ liệu mạnh nhất trên thế giới và Đạo luật AI của EU đang dẫn đầu các nỗ lực nhằm điều chỉnh việc sử dụng có hại các công nghệ AI. Là một thành viên của EU, Pháp phải tuân thủ luật pháp EU.

Một sĩ quan cảnh sát Pháp đang vận hành hệ thống giám sát. Ảnh: Le Monde

Pháp đã ban hành Luật số 2023-380 vào năm 2023, một gói luật cung cấp khuôn khổ pháp lý cho Olympic 2024. Gói luật này bao gồm Điều 7, một điều khoản cho phép cơ quan thực thi pháp luật của Pháp và các nhà thầu công nghệ của họ thử nghiệm giám sát video thông minh trước, trong và sau Thế vận hội, và Điều 10, cho phép cụ thể sử dụng phần mềm AI để xem lại các nguồn cấp dữ liệu video và camera. Những luật này khiến Pháp trở thành quốc gia EU đầu tiên hợp pháp hóa một hệ thống giám sát hỗ trợ AI có phạm vi rộng như vậy.

Các học giả và các nhóm xã hội dân sự đã chỉ ra rằng những điều khoản này trái với Quy định bảo vệ dữ liệu chung và những nỗ lực của EU nhằm quản lý AI. Họ lập luận rằng Điều 7 vi phạm cụ thể các điều khoản của Quy định bảo vệ dữ liệu chung về bảo vệ dữ liệu sinh trắc học.

Các quan chức Pháp và đại diện công ty công nghệ cho biết phần mềm AI có thể đạt được mục tiêu xác định và đánh dấu các loại sự kiện cụ thể mà không cần xác định danh tính người hoặc vi phạm các hạn chế của Quy định bảo vệ dữ liệu chung về xử lý dữ liệu sinh trắc học.

Nhưng các tổ chức dân quyền châu Âu đã chỉ ra rằng nếu mục đích và chức năng của các thuật toán và camera do AI điều khiển là phát hiện các sự kiện đáng ngờ cụ thể ở nơi công cộng, thì các hệ thống này nhất thiết sẽ "ghi lại và phân tích các đặc điểm sinh lý và hành vi" của mọi người ở những nơi này. Bao gồm tư thế cơ thể, dáng đi, chuyển động, cử chỉ và ngoại hình.

Những người chỉ trích cho rằng đây là việc thu thập và xử lý dữ liệu sinh trắc học, do đó gói luật mà Pháp vừa ban hành vi phạm Quy định bảo vệ dữ liệu chung.

Vả lại, sau khi dữ liệu được thu thập, khả năng phân tích dữ liệu và xâm phạm quyền riêng tư tiếp theo là rất lớn. Do đó, sẽ thế nào nếu các hệ thống giám sát hỗ trợ AI này được quản lý kém? Câu hỏi này đặt ra thách thức lớn với cả nhà chức trách Pháp và những tập đoàn công nghệ.

Nguyễn Khánh