Mỹ: Thống đốc bang California chỉ thị nghiên cứu cơ chế 'tắt nguồn' AI

Thống đốc Gavin Newsom cho biết ông đã ký sắc lệnh hành pháp để tăng cường giám sát các công ty phát triển AI tại bang California. Ảnh: Getty Images

Thống đốc Gavin Newsom cho biết, ông đã ký sắc lệnh hành pháp để tăng cường giám sát các công ty phát triển AI tại bang California. Theo sắc lệnh, một nhóm chuyên gia sẽ nghiên cứu khả năng bắt buộc các công ty AI phải có cơ chế tắt nguồn khẩn cấp.

Các chuyên gia cũng sẽ cân nhắc liệu có yêu cầu các công ty AI phải cho phép một tổ chức xác minh độc lập tham gia nghiên cứu, nhằm tiến hành kiểm tra và đánh giá thường kỳ, hay không. Các chuyên gia sẽ soạn thảo khuyến nghị trong 2 tháng.

Thống đốc Newsom cho biết: “Chúng tôi sẽ đẩy nhanh nỗ lực về giám sát thực chất và có trách nhiệm đối với AI trước khi quá muộn… Vấn đề này rất quan trọng, không thể trì hoãn và cần hành động”.

Nhiều công ty AI tiên tiến đặt trụ sở tại bang California, trong đó có OpenAI, Anthropic và Google. Gần đây, các lãnh đạo cấp cao và nhà phát triển AI tại các công ty này đã bày tỏ quan ngại về nguy cơ AI lẩn trốn kiểm soát của con người, sau khi nhiều mô hình mới nhất có liên quan đến một loạt các vụ tấn công mạng không chủ đích. Trong khi đó, Tổng thống Mỹ Donald Trump lại phát biểu coi nhẹ mối đe dọa của AI.

Theo NHK