Vì sao 'bố già AI' rời Google để lên tiếng về mối nguy hiểm?

Vụ việc là biểu tượng cho ảnh hưởng thầm lặng của ông Hinton trong thế giới trí tuệ nhân tạo. Vị giáo sư 75 tuổi này được tôn sùng là một trong những “bố già” của AI vì những công việc đào tạo sâu, điều đã giúp đạt được những bước tiến lớn trong ngành AI trong thời gian qua.

Ông Geoffrey Hinton, "bố già" của ngành AI. Ảnh: FT

Những nỗi sợ hãi về AI

Những giai thoại cũng phản ánh lòng trung thành của ông Hinton. Về nguyên tắc, ông không bao giờ công khai phản đối bất kỳ điều gì đối với Google. Chính niềm tin này đã khiến ông từ bỏ vai trò Phó chủ tịch và Giám đốc kỹ thuật tại Google vào tuần trước, để ông có thể nói chuyện thoải mái hơn về nỗi sợ hãi ngày càng tăng của mình về những rủi ro của AI đối với nhân loại.

Ông Yoshua Bengio, cộng tác viên và người bạn lâu năm của ông, người đã giành được giải thưởng Turing cùng với Hinton và Yann LeCun vào năm 2018, cho biết việc từ chức của ông Hinton là hoàn toàn có thể dự đoán từ trước. "Ông ấy có thể ở lại Google và lên tiếng, nhưng lòng trung thành của ông ấy khiến bản thân không thể làm như vậy", Bengio nói.

Ông Hinton đã từ chức sau khi AI gây nên cơn sốt toàn cầu, với chatGPT và Bard đồng loạt ra mắt cách đây vài tháng. Ông bày tỏ lo ngại rằng cuộc chạy đua giữa Microsoft và Google sẽ thúc đẩy sự phát triển của AI mà không có các biện pháp bảo vệ và quy định phù hợp.

“Tôi nghĩ ngay từ đầu Google đã rất có trách nhiệm trong việc phát triển AI”, ông nói trong một bài phát biểu tại sự kiện EmTech Digital vào thứ Tư, sau khi đơn từ chức của ông được công khai. “Nhưng khi OpenAI sử dụng tiền của Microsoft và quyết định giới thiệu ChatGPT một cách đại trà cho toàn thế giới, Google không có nhiều lựa chọn. Bạn không thể ngăn Google cạnh tranh với Microsoft”.

Từ những năm 1970, ông Hinton đã đi tiên phong trong việc phát triển “mạng lưới thần kinh”, công nghệ cố gắng bắt chước cách thức hoạt động của bộ não. Nó hiện là nền tảng cho hầu hết các công cụ và sản phẩm AI mà chúng ta sử dụng ngày nay, từ Google Dịch và Bard, đến ChatGPT và ô tô tự lái.

Nhưng tuần này, ông thừa nhận bản thân đang lo ngại về sự phát triển nhanh chóng của ngành này, khi nó có thể dẫn đến thông tin sai lệch tràn ngập và AI chiếm đoạt nhiều công việc của con người hơn dự đoán.

“Tôi lo lắng rằng nó sẽ khiến người giàu càng giàu hơn và người nghèo càng nghèo đi. Khi bạn làm điều đó... xã hội trở nên bạo lực hơn”, ông Hinton nói. “Công nghệ này đang được phát triển trong một xã hội mà nó không được sử dụng vì lợi ích của mọi người”.

Ông Hinton cũng gióng lên hồi chuông cảnh báo về các mối đe dọa lâu dài do hệ thống AI gây ra cho con người, nếu công nghệ này được trao quyền tự chủ quá nhiều.

Thầy của các bậc thầy AI

Sinh ra ở London, ông Hinton xuất thân từ một gia đình khoa học lừng lẫy. Ông là chắt của hai nhà toán học người Anh Mary và George Boole, những người sau này đã phát minh ra logic Boolean, lý thuyết làm nền tảng cho điện toán hiện đại.

Là một nhà tâm lý học nhận thức, công việc của ông Hinton trong lĩnh vực AI nhằm mục đích ước tính trí thông minh của con người, không chỉ để xây dựng công nghệ AI mà còn để làm sáng tỏ hoạt động của bộ não.

Ông Stuart Russell, giáo sư AI tại Đại học California, Berkeley, bước đột phá lớn của ông Hinton xảy ra vào năm 1986, khi ông xuất bản một bài báo về một kỹ thuật gọi là "lan truyền ngược", cho thấy phần mềm máy tính có thể học theo thời gian như thế nào.

“Đó rõ ràng là một bài báo quan trọng”, ông Russell nói. “Nhưng ông ấy không làm theo phương thức các nhà toán học sẽ làm, mà theo bản năng của mình mách bảo".

Năm 1987, khi đang là Phó giáo sư tại Đại học Carnegie Mellon ở Mỹ, ông quyết định từ chức và di cư sang Canada.

Theo ông Bengio, một trong những lý do mà ông Hinton đưa ra là ông lo ngại việc sử dụng công nghệ, đặc biệt là AI, trong chiến tranh và phần lớn tiền tài trợ của ông đến từ quân đội Mỹ.

Ông ấy luôn chia sẻ với tôi về những giá trị về xã hội. Rằng con người quan trọng, rằng phẩm giá của tất cả con người là điều cần thiết. Và mọi người nên được hưởng lợi từ những tiến bộ mà khoa học đang tạo ra”, ông Bengio kể lại.

Vào năm 2012, ông Hinton và hai sinh viên tốt nghiệp của ông tại Đại học Toronto, trong đó có Ilya Sutskever, hiện là người đồng sáng lập của OpenAI, đã tạo ra một bước đột phá lớn trong lĩnh vực thị giác máy tính.

Họ đã xây dựng các mạng thần kinh có thể nhận dạng các vật thể theo thứ tự cường độ hình ảnh chính xác hơn bao giờ hết. Dựa trên công việc này, họ đã thành lập công ty khởi nghiệp đầu tiên của mình, DNNresearch.

Công ty của họ, vốn không sản xuất bất kỳ sản phẩm nào, đã được bán cho Google với giá 44 triệu USD vào năm 2013, sau một cuộc chiến đấu giá với Baidu, Microsoft và DeepMind.

Kể từ đó, ông Hinton đã dành một nửa thời gian của mình tại Google và làm giáo sư tại Đại học Toronto. Theo Russell, Hinton liên tục nghĩ ra những ý tưởng mới và thử những điều mới.

Khi được hỏi liệu ông có hối hận về việc có thể góp phần gây ra vô số tác hại mà ông đã nêu, ông Hinton cho biết đã cân nhắc kỹ về điều đó.

“Giai đoạn này của AI không thể đoán trước được. Cho đến rất gần đây, tôi nghĩ rằng một cuộc khủng hoảng hiện sinh còn lâu mới xảy ra”, ông nói. “Vì vậy, tôi không thực sự hối tiếc về những gì mình làm”.

Hoàng Tôn (theo FT)