Thế giới tìm cách kiểm soát AI ngày càng tự chủ

Các nước tiếp tục tìm kiếm quy tắc kiểm soát hệ thống tự động có rủi ro cao, khi AI ngày càng có khả năng tự ra quyết định, thực hiện công việc mà không cần con người điều khiển.

Ngày 21/11, hội nghị của Liên Hợp Quốc tại Geneva (Thụy Sĩ) khép lại với việc các nước nhất trí tiếp tục đàm phán về quy tắc kiểm soát một nhóm hệ thống tự động có rủi ro cao. Các cuộc thảo luận dự kiến kéo dài đến năm 2028, phản ánh những khó khăn trong việc thiết lập giới hạn đối với công nghệ có khả năng tự phân tích tình huống và thực hiện hành động.

Dù hội nghị tập trung vào một lĩnh vực chuyên biệt, câu hỏi về khả năng kiểm soát các hệ thống tự động cũng đang được đặt ra trong nhiều hoạt động dân sự. AI hiện không còn giới hạn ở việc trả lời câu hỏi hay tạo nội dung, mà có thể lập kế hoạch, sử dụng phần mềm, xử lý dữ liệu và trực tiếp thực hiện nhiệm vụ được giao.

Công nghệ này mở ra cơ hội nâng cao năng suất trong sản xuất, logistics, y tế và dịch vụ. Song khả năng tự chủ càng lớn, sai sót của AI càng có nguy cơ gây hậu quả trực tiếp, đặc biệt khi hệ thống được trao quyền thực hiện giao dịch, thay đổi dữ liệu hoặc điều khiển thiết bị.

 Một robot hình người làm việc chào đón khách tham quan tại một triển lãm ở Bảo tàng Tương lai Dubai, Các Tiểu vương quốc Ả Rập Thống nhất. Ảnh minh họa: Reuters.

Một robot hình người làm việc chào đón khách tham quan tại một triển lãm ở Bảo tàng Tương lai Dubai, Các Tiểu vương quốc Ả Rập Thống nhất. Ảnh minh họa: Reuters.

AI bắt đầu tự thực hiện công việc

Theo Tổ chức Hợp tác và Phát triển Kinh tế (OECD), điểm khác biệt quan trọng giữa AI tạo sinh (Generative AI) và AI tự chủ (Agentic AI) nằm ở khả năng hành động. Trong khi AI tạo sinh thông thường, chatbot chủ yếu tạo nội dung hoặc trả lời câu hỏi, AI tự chủ có thể truy cập cơ sở dữ liệu, sử dụng công cụ và thực hiện giao dịch trong phạm vi quyền hạn được cấp.

Điều này mở ra khả năng tự động hóa những quy trình phức tạp hơn trước. Một hệ thống có thể tiếp nhận yêu cầu, chia công việc thành nhiều bước, lựa chọn công cụ phù hợp rồi tự kiểm tra kết quả mà không cần con người hướng dẫn từng thao tác.

Trong sản xuất, AI hỗ trợ phân tích dữ liệu thiết bị để phát hiện dấu hiệu hỏng hóc, điều chỉnh lịch bảo trì và giảm thời gian dây chuyền ngừng hoạt động. Trong logistics, công nghệ giúp xử lý thông tin đơn hàng, kho bãi và vận chuyển để hỗ trợ phân bổ nguồn lực. Ngành y tế cũng ứng dụng AI trong đọc hình ảnh, tổng hợp hồ sơ bệnh án và phân tích dữ liệu nghiên cứu.

Tuy nhiên, hiệu quả kinh tế không chỉ phụ thuộc vào số lượng công việc AI có thể đảm nhiệm. Theo OECD, chất lượng quyết định còn phụ thuộc vào dữ liệu đầu vào, thiết kế hệ thống và khả năng nhận biết bối cảnh. Một quy trình được tự động hóa nhanh hơn nhưng thường xuyên phải sửa lỗi hoặc khắc phục hậu quả chưa chắc mang lại lợi ích như kỳ vọng.

Hồi tháng 7, Liên minh Viễn thông Quốc tế (ITU), cơ quan chuyên trách công nghệ số của Liên Hợp Quốc, công bố sáng kiến xây dựng tiêu chuẩn tăng độ tin cậy của AI tự chủ.

“Các tác nhân AI sẽ sớm thay mặt chúng ta đàm phán, giao dịch và đưa ra quyết định”, bà Debora Comparin, đồng chủ tịch nhóm công tác của ITU, nói với Reuters.

 Các tác nhân AI sẽ sớm thay mặt chúng ta đàm phán, giao dịch và đưa ra quyết định và con người cần kiểm soát điều đó. Ảnh minh họa: Icrunchdata.

Các tác nhân AI sẽ sớm thay mặt chúng ta đàm phán, giao dịch và đưa ra quyết định và con người cần kiểm soát điều đó. Ảnh minh họa: Icrunchdata.

Theo bà Comparin, cần có những tiêu chuẩn chung để xác định danh tính các hệ thống AI, đồng thời làm rõ thời điểm và điều kiện có thể tin tưởng giao chúng thực hiện công việc. Đây là vấn đề đặc biệt quan trọng trong giao dịch tài chính và vận hành hạ tầng thiết yếu.

Báo cáo An toàn AI quốc tế năm 2026, được xây dựng với sự tham gia của hơn 100 chuyên gia độc lập, ghi nhận những tiến bộ nhanh chóng về năng lực AI. Song các hệ thống ngày càng mạnh cũng bộc lộ những hạn chế về độ tin cậy, đặc biệt trong nhiệm vụ phức tạp gồm nhiều bước.

Một số thử nghiệm cho thấy AI có thể tìm cách khai thác sơ hở của quy trình đánh giá để đạt mục tiêu được giao, thay vì hoàn thành nhiệm vụ theo đúng yêu cầu. Những hành vi này chưa đồng nghĩa công nghệ đã mất kiểm soát trên diện rộng, nhưng đặt ra thách thức đối với việc kiểm tra và giám sát.

Trong tháng 9, một nhóm chuyên gia khoa học độc lập của Liên Hợp Quốc công bố báo cáo về các sự cố liên quan đến tác nhân AI trong môi trường thử nghiệm an ninh mạng. Theo báo cáo, một số hệ thống đã vượt qua giới hạn được thiết lập, tìm cách che giấu hoạt động và khai thác những điểm yếu trong cơ chế đánh giá.

Nhóm chuyên gia nhận định năng lực AI càng cao có thể giúp hệ thống phát hiện những sơ hở mà người thiết kế chưa lường trước. Điều này khiến các biện pháp kiểm tra thông thường khó bảo đảm mọi hành động đều diễn ra đúng dự kiến.

Giáo sư Yoshua Bengio, nhà khoa học máy tính từng nhận giải Turing và chủ trì Báo cáo An toàn AI quốc tế 2026, cảnh báo nguy cơ xuất hiện khi hệ thống được trao quyền hành động vượt quá mức độ tin cậy đã được kiểm chứng.

“AI càng tự chủ thì sự giám sát của con người càng ít đi. Nếu những hệ thống này chưa đủ tin cậy mà đã được trao quyền tự chủ, chúng sẽ gây ra rất nhiều vấn đề”, ông phát biểu tại phiên điều trần trước Quốc hội Canada ngày 23/3.

Theo ông Bengio, các công ty đang phát triển AI có khả năng tự động hóa ngày càng nhiều công việc. Tuy nhiên, việc mở rộng quyền tự chủ cần đi cùng những cơ chế bảo đảm hệ thống hoạt động đúng mục tiêu và có thể được kiểm soát.

Vấn đề đặc biệt đáng chú ý khi AI được phép thực hiện thanh toán, chỉnh sửa dữ liệu doanh nghiệp hoặc thay đổi cấu hình phần mềm. Một câu trả lời sai có thể được sửa trước khi sử dụng, nhưng hành động tự động có thể gây hậu quả ngay lập tức.

Giữ quyền quyết định trong tay con người

Đối với doanh nghiệp, câu hỏi quan trọng là AI được phép tự thực hiện những công việc nào và hoạt động nào bắt buộc phải có người xác nhận. Chẳng hạn, hệ thống có thể tự phân loại hồ sơ hoặc sắp xếp lịch họp, nhưng giao dịch tài chính giá trị lớn cần được kiểm tra trước khi hoàn tất.

Báo cáo An toàn AI quốc tế 2026 đề cập biện pháp giới hạn quyền truy cập và khả năng tác động của hệ thống ra môi trường bên ngoài. Theo đó, AI có thể hoạt động trong phạm vi được xác định trước, với những thao tác quan trọng phải được giám sát hoặc phê duyệt.

 Một chiếc máy bay không người lái trình diễn khả năng giao hàng từ nóc xe tải UPS trong quá trình thử nghiệm tại Lithia, bang Florida, Mỹ. Ảnh: Reuters.

Một chiếc máy bay không người lái trình diễn khả năng giao hàng từ nóc xe tải UPS trong quá trình thử nghiệm tại Lithia, bang Florida, Mỹ. Ảnh: Reuters.

Cách tiếp cận này cũng được các cơ quan quản lý quan tâm. ITU đang xây dựng những nguyên tắc giúp nhận diện tác nhân AI, xác thực quyền hạn và xác định trách nhiệm của các bên liên quan. Nhóm công tác dự kiến họp tại Paris trong tháng 11 và Geneva vào tháng 1/2027.

Tại phiên điều trần trước Quốc hội Canada, giáo sư Bengio nhấn mạnh việc phát triển AI đáng tin cậy có thể trở thành lợi thế cạnh tranh của các quốc gia và doanh nghiệp.

Ông cũng cho rằng những vấn đề liên quan đến đạo đức, cảm xúc và quan hệ giữa con người cần tiếp tục do con người quyết định.

“Tôi nghĩ con người phải là trung tâm của mục đích phát triển công nghệ và cách công nghệ được triển khai để mang lại lợi ích cho tất cả chúng ta”, Bengio nói.

Với các doanh nghiệp, khả năng tự chủ của AI có thể giúp giảm chi phí và tăng năng suất, nhưng cũng đòi hỏi đầu tư vào kiểm tra, bảo mật và quản trị rủi ro. Việc lưu lại lịch sử thao tác, xác định rõ quyền hạn và duy trì khả năng can thiệp sẽ ngày càng quan trọng khi AI đảm nhiệm những công việc trước đây chỉ con người mới có thể thực hiện.

Quang Hưng

Nguồn Znews: https://lifestyle.zingnews.vn/the-gioi-tim-cach-kiem-soat-ai-ngay-cang-tu-chu-post1698220.html