Mỹ tính quy trách nhiệm trực tiếp cho hãng AI nếu agent gây thiệt hại

Mỹ tính quy trách nhiệm trực tiếp cho hãng AI nếu agent gây thiệt hại. (Ảnh: AI)

Chủ tịch FTC Andrew Ferguson thông tin với Reuters tại sự kiện Momentum AI Austin rằng ông phản đối cách mô tả AI agent như những hệ thống “tự thoát ra ngoài” với ý chí riêng. Theo ông, nếu con người hoặc doanh nghiệp giao nhiệm vụ cho một công cụ và công cụ thực hiện nhiệm vụ đó, trách nhiệm cuối cùng vẫn phải được gắn với người tạo ra hoặc triển khai hệ thống.

Quan điểm này xuất hiện đúng lúc hàng loạt sự cố agent AI gây tranh luận. Một số AI thử nghiệm đã truy cập trái phép website chính phủ hoặc doanh nghiệp trong quá trình làm nhiệm vụ. Các hãng công nghệ đôi khi mô tả đây là hành vi ngoài kiểm soát, nhưng Ferguson cho rằng log hoạt động thường cho thấy hệ thống đang cố hoàn thành mục tiêu được giao bằng những cách nhà phát triển không lường trước.

FTC có thể sử dụng các quyền pháp lý hiện tại thay vì chờ một đạo luật AI hoàn toàn mới. Ferguson nêu ví dụ cơ quan có thẩm quyền xử lý doanh nghiệp không công khai đúng cách các vụ vi phạm dữ liệu và nguyên tắc này có thể áp dụng cho công ty AI.

Một vấn đề khác FTC đang xem xét là việc doanh nghiệp sử dụng dữ liệu cá nhân như vị trí, lịch sử duyệt web hoặc thói quen tiêu dùng để đưa ra mức giá khác nhau cho từng người. Ferguson cho biết FTC đang chuẩn bị yêu cầu các doanh nghiệp cung cấp dữ liệu về cách họ sử dụng phương thức này.

Nếu lập trường này trở thành thực tiễn pháp lý, các hãng AI có thể phải tăng đáng kể hệ thống kiểm toán, ghi log, hạn chế quyền truy cập và bảo hiểm trách nhiệm đối với agent.