AI có thể khiến 1 tỷ người thiệt mạng

Trong cuộc phỏng vấn với chương trình “Meet the Press” của kênh NBC, dự kiến phát sóng ngày 27/9, ông Gates cho rằng AI hiện đủ mạnh để “dẫn tới những sự kiện gây ra cái chết của 1 tỷ người”. Theo ông, chưa từng có loại vũ khí nào mạnh như sự kết hợp giữa những người có ý đồ xấu và các công cụ AI tiên tiến.

Tỉ phú Gates nhấn mạnh các công ty công nghệ không thể tự giám sát đầy đủ hoạt động phát triển AI. Khi được hỏi liệu Quốc hội Mỹ có cần ban hành luật liên bang về AI hay không, ông trả lời “chắc chắn”, đồng thời cho rằng chính phủ cần tham gia xây dựng các yêu cầu về bảo đảm an toàn và giám sát sự phát triển của công nghệ. Theo ông, các quy định mới có thể làm tăng một phần chi phí và yêu cầu tuân thủ đối với doanh nghiệp, nhưng không nhất thiết làm chậm đáng kể quá trình phát triển AI.

Cũng liên quan tới những cảnh báo về AI, phát biểu trong chuyến thăm Pháp ngày 25/9, Giáo hoàng Leo XIV lên tiếng kêu gọi cộng đồng quốc tế xây dựng các quy định chung đối với AI. Giáo hoàng cảnh báo nếu công nghệ này phát triển mà không có cơ chế giám sát phù hợp, AI có thể bị sử dụng để lan truyền thông tin sai lệch, kích động xung đột và đẩy thế giới vào vòng xoáy chiến tranh kéo dài.

Theo Giáo hoàng, việc phát triển AI không nên chỉ tập trung vào mục tiêu gia tăng lợi nhuận, hiệu quả hoặc sức mạnh kinh tế. Các nhà phát triển và hoạch định chính sách cần tính đến phẩm giá con người, tác động đối với người lao động và sự ổn định của xã hội.

Một trong những vấn đề được Giáo hoàng đặc biệt quan tâm là việc sử dụng AI trong các hệ thống vũ khí tự động. Giáo hoàng cảnh báo một số loại vũ khí đang được phát triển với mức độ tự động hóa ngày càng cao, có thể vượt quá khả năng kiểm soát hiệu quả của con người.

Giáo hoàng cho rằng những tiến bộ công nghệ cần được đặt trong khuôn khổ bảo vệ con người và lợi ích chung. Đây cũng chính là một trong những nội dung trọng tâm luôn được Giáo hoàng nhấn mạnh trong các nỗ lực kêu gọi xây dựng những nguyên tắc quốc tế nhằm định hướng sự phát triển và sử dụng AI.