Những điểm mấu chốt trong thỏa thuận lịch sử về quản lý AI của EU

Các nhà lập pháp sẽ tiếp tục thảo luận về các quy định chi tiết trong những tuần tới để có thể hoàn tất quy trình cuối cùng vào đầu năm sau, dự kiến áp dụng kể từ năm 2026.

Cho đến lúc đó, các công ty được khuyến khích đăng ký Hiệp ước AI tự nguyện để thực hiện các nghĩa vụ chính của các quy tắc.

Dưới đây là các nội dung chính trong thỏa thuận đã được EU thống nhất.

Hệ thống có rủi ro cao

Cái gọi là hệ thống AI có rủi ro cao - những hệ thống được coi là có khả năng gây tổn hại đáng kể đến sức khỏe, an toàn, các quyền cơ bản, môi trường, dân chủ, bầu cử và pháp quyền - sẽ phải tuân thủ một loạt yêu cầu, chẳng hạn như trải qua các cuộc kiểm tra đánh giá tác động đối với các quyền cơ bản và nghĩa vụ tiếp cận thị trường EU.

Huenit, camera AI gắn trên cánh tay robot tại hội chợ công nghệ tiêu dùng tổ chức tại Berlin ngày 1/9/2023. Ảnh: Reuters

Trong khi đó, các hệ thống có rủi ro thấp, sẽ tuân theo các nghĩa vụ minh bạch nhẹ hơn, chẳng hạn như dán nhãn nội dung do AI tạo ra để người dùng cân nhắc sử dụng các nội dung đó.

AI trong hành pháp

Cơ quan thực thi pháp luật chỉ được phép sử dụng hệ thống nhận dạng sinh trắc học từ xa theo thời gian thực trong không gian công cộng, nhằm xác định nạn nhân của vụ bắt cóc, buôn người, bóc lột tình dục và ngăn chặn mối đe dọa khủng bố cụ thể và hiện hữu.

Nhà chức trách cũng sẽ được phép sử dụng công nghệ AI để truy tìm nghi phạm khủng bố, buôn người, bóc lột tình dục, giết người, bắt cóc, hãm hiếp, cướp có vũ trang, tham gia vào một tổ chức tội phạm và tội phạm môi trường.

Hệ thống AI nền tảng (GPAI) và tổng quát

GPAI và các mô hình nền tảng sẽ phải tuân theo các yêu cầu về tính minh bạch như xây dựng tài liệu kỹ thuật, tuân thủ luật bản quyền của EU và công khai các bản tóm tắt chi tiết về nội dung dùng để đào tạo thuật toán.

Các mô hình nền tảng nằm trong trong mục có khả năng tạo ra rủi ro hệ thống và GPAI có tác động cao, sẽ phải tiến hành đánh giá mô hình chung, xem xét và giảm thiểu rủi ro, tiến hành thử nghiệm đảo nghịch, thông báo với Ủy ban châu Âu các sự cố nghiêm trọng, đảm bảo an ninh mạng và báo cáo về mức độ tiêu thụ năng lượng.

Robot "Rmeca" tại Hội nghị Good Global Summit ở Geneva, Thụy Sĩ. Ảnh: Reuters

Cho đến khi các tiêu chuẩn hài hòa của EU được công bố, GPAI có rủi ro hệ thống có thể dựa vào các quy tắc thực hành để tuân thủ quy định.

Các hệ thống AI bị cấm

Các hành vi và nội dung bị cấm bao gồm: Các hệ thống phân loại sinh trắc học sử dụng các đặc điểm nhạy cảm như chính trị, tôn giáo, niềm tin triết học, khuynh hướng tình dục và chủng tộc;

Quét không mục tiêu các hình ảnh khuôn mặt từ Internet hoặc đoạn phim CCTV để tạo cơ sở dữ liệu nhận dạng khuôn mặt;

Nhận dạng cảm xúc tại nơi làm việc và các cơ sở giáo dục;

Tính điểm xã hội dựa trên hành vi xã hội hoặc đặc điểm cá nhân;

Các hệ thống AI thao túng hành vi của con người để phá vỡ ý chí tự do của họ;

AI được sử dụng để khai thác những điểm yếu của con người do tuổi tác, khuyết tật, hoàn cảnh kinh tế hoặc xã hội của họ.

Chế tài xử phạt

Tùy thuộc vào hành vi vi phạm và quy mô của công ty liên quan, mức phạt sẽ bắt đầu từ 7,5 triệu euro (8 triệu USD) hoặc 1,5% doanh thu hằng năm trên toàn cầu, tăng lên tới 35 triệu euro hoặc 7% doanh thu toàn cầu.

(Theo Reuters)

Thế Vinh