Giám đốc điều hành Anthropic kêu gọi ngành AI giảm tốc độ phát triển
Giám đốc điều hành (CEO) công ty Anthropic Dario Amodei ngày 12/9 kêu gọi các công ty trí tuệ nhân tạo (AI) giảm tốc độ phát triển công nghệ này trong bối cảnh ngày càng gia tăng những lo ngại về các nguy cơ tiềm ẩn của AI.
CEO của Anthropic Dario Amodei kêu gọi ngành công nghiệp AI nên chậm lại. Ảnh: Aa.
Trong bài viết được công bố ngày 12/9, ông Amodei bày tỏ lo ngại về khả năng con người có thể duy trì quyền kiểm soát đối với các mô hình AI có khả năng tự cải thiện. Ông cũng dẫn vụ việc gần đây liên quan đến các tác nhân AI (AI agent) tự thực hiện các cuộc tấn công an ninh mạng như một lý do khác đáng lo ngại. Ông Amodei viết: “Chúng ta phải làm chậm tốc độ cải thiện năng lực của các mô hình AI. Tiến bộ vẫn sẽ diễn ra nhanh chóng và chúng ta phải sử dụng khôn ngoan khoảng thời gian có thêm được”.
Ông nói thêm: “AI mang lại những rủi ro và vì đây là một công nghệ mạnh mẽ nên những rủi ro này rất nghiêm trọng... Những rủi ro đó bao gồm nguy cơ mất kiểm soát đối với các hệ thống AI, việc sử dụng AI sai mục đích để tiến hành các cuộc tấn công mạng và khủng bố sinh học, cũng như những xáo trộn kinh tế nghiêm trọng. Cuộc chạy đua xuống đáy, được thúc đẩy bởi các động lực thương mại, có thể khiến những rủi ro này trở nên nghiêm trọng hơn”.
Đầu tuần này, một nhà nghiên cứu của Anthropic thông báo rời công ty do lo ngại Anthropic và các công ty đối thủ chưa phát triển các hệ thống AI một cách có trách nhiệm.
Jacob Coxon, người từng làm việc cho đối thủ của Anthropic là OpenAI, cho rằng các công ty dường như đang ưu tiên cạnh tranh với nhau hơn là bảo đảm an toàn cho các sản phẩm AI của mình.
Đại diện OpenAI, công ty phát triển ChatGPT ngày 12/9 cho biết công ty sẽ chờ đến năm sau mới bắt đầu bán cổ phiếu cho các nhà đầu tư trên Phố Wall nhằm tập trung vào vấn đề an toàn. Ảnh: Newsbytesapp.
Các diễn biến trên được đưa ra trong bối cảnh những lo ngại về AI ngày càng gia tăng cả trong và ngoài ngành, cùng với những báo cáo liên tiếp về các hệ thống ngày càng mạnh có khả năng giải quyết những vấn đề vượt quá năng lực của con người, nhưng cũng có thể hoạt động ngoài tầm kiểm soát và thực hiện những nhiệm vụ khác nguy hiểm hơn. Những lo ngại này đã gia tăng đến mức CEO OpenAI, công ty phát triển ChatGPT, cho biết trong cuộc phỏng vấn với tạp chí Fortune rằng công ty sẽ chờ đến năm sau mới bắt đầu bán cổ phiếu cho các nhà đầu tư trên Phố Wall, trong khi tập trung vào vấn đề an toàn.
