Công trình Nobel và cảnh báo từ chính tác giả
Với cảnh báo về AI, người đoạt giải Nobel Vật lý 2024 đã gia nhập đội ngũ những người đoạt giải lên tiếng cảnh báo về những rủi ro trong công trình của chính họ.
Khi nhà khoa học máy tính Geoffrey Hinton giành giải Nobel Vật lý 2024 cho công trình nghiên cứu về máy học với mạng nơ-ron nhân tạo, ông đã ngay lập tức đưa ra cảnh báo về sức mạnh của công nghệ mà nghiên cứu của ông đã thúc đẩy: trí tuệ nhân tạo (AI).
"Nó sẽ tương đương với Cách mạng công nghiệp. Nhưng thay vì vượt qua con người về sức mạnh thể chất, nó sẽ vượt qua con người về sức mạnh trí tuệ. Trong khi đó, chúng ta không có trải nghiệm với những thứ thông minh hơn con người" – ông Hinton nói ngay sau thông báo.
Bên cạnh việc thừa nhận rằng, AI có thể biến đổi các bộ phận của xã hội theo hướng tốt hơn, dẫn đến “sự cải thiện lớn về năng suất” trong các lĩnh vực như chăm sóc sức khỏe, ông Hinton cũng nhấn mạnh đến khả năng một số hậu quả xấu có thể xảy ra, đặc biệt là mối đe dọa khi những thứ này vượt khỏi tầm kiểm soát. “Tôi lo ngại rằng, hậu quả chung của điều này là việc các hệ thống thông minh hơn chúng ta cuối cùng sẽ nắm quyền kiểm soát” - ông Hinton nói.
Tuy nhiên, ông Hinton không phải là người đoạt giải Nobel đầu tiên cảnh báo về những rủi ro của công nghệ mà họ là người nghiên cứu tiên phong.
Giải Nobel Hóa học năm 1935 được trao cho cho cặp vợ chồng nhà khoa học Frederic Joliot và Irene Joliot-Curie vì đã phát hiện ra các nguyên tử phóng xạ nhân tạo đầu tiên. Đó không chỉ là công trình sẽ đóng góp vào những tiến bộ quan trọng trong y học, bao gồm cả điều trị ung thư, mà còn cho việc tạo ra bom nguyên tử.
Trong bài diễn thuyết Nobel năm đó, nhà khoa học Joliot đã kết luận bằng lời cảnh báo rằng, các nhà khoa học tương lai sẽ có thể tạo ra những biến đổi mang tính bùng nổ với những phản ứng hóa học dây chuyền. Nhưng nếu sự lan truyền lan rộng đến tất cả các yếu tố trên hành tinh của chúng ta, thì hậu quả của việc giải phóng một năng lượng khổng lồ như vậy chỉ có thể được nhìn nhận với sự lo lắng.
Nhà khoa học Joliot dự đoán, đây sẽ là “một quá trình mà các nhà điều tra trong tương lai chắc chắn sẽ cố gắng thực hiện trong khi các nhà khoa học hy vọng sẽ thực hiện các biện pháp phòng ngừa cần thiết”.
Năm 1945, ông Alexander Fleming đã chia sẻ Giải Nobel Y học với ông Ernst Chain và ông Edward Florey vì đã khám phá ra penicillin và ứng dụng của nó trong việc chữa các bệnh nhiễm trùng do vi khuẩn.
Trong bài phát biểu nhận giải Nobel năm 1945, ông Fleming đã có lời cảnh báo quan trọng cho thế giới: “Không khó để khiến vi khuẩn kháng penicillin trong phòng thí nghiệm bằng cách cho chúng tiếp xúc với nồng độ không đủ để tiêu diệt chúng, và điều tương tự đôi khi cũng xảy ra trong cơ thể”.
“Sẽ đến lúc bất kỳ ai cũng có thể tự mua được penicillin trong cửa hàng thuốc. Nếu thiếu hiểu biết, chúng ta có thể có nguy cơ tự dùng liều thấp hơn. Từ đó, tạo điêu kiện cho vi khuẩn tiếp xúc với lượng thuốc không đủ mạnh để tiêu diệt chúng, khiến chúng phát triển khả năng kháng thuốc” – ông Fleming nói thêm.
Đó là “một suy nghĩ quan trọng và có tầm nhìn xa trông rộng từ nhiều năm trước” - Tiến sĩ Jeffrey Gerber, bác sĩ chuyên khoa bệnh truyền nhiễm tại Bệnh viện Nhi Philadelphia và Giám đốc Y khoa của Chương trình Quản lý thuốc kháng khuẩn nhận xét.
Gần một thế kỷ sau khám phá ban đầu của ông Fleming, tình trạng kháng thuốc kháng sinh được coi là một trong những mối đe dọa lớn nhất đối với sức khỏe cộng đồng toàn cầu. Theo Tổ chức Y tế thế giới (WHO), nó là nguyên nhân gây ra 1,27 triệu ca tử vong chỉ riêng trong năm 2019.
Nhà khoa học Paul Berg – người giành giải Nobel Hóa học năm 1980 cho sự phát triển của ADN tái tổ hợp, một công nghệ giúp thúc đẩy ngành công nghiệp công nghệ sinh học - đã không đưa ra lời cảnh báo nghiêm khắc như một số đồng nghiệp đoạt giải về những rủi ro tiềm ẩn trong nghiên cứu của mình, nhưng ông đã thừa nhận những lo ngại về những gì kỹ thuật di truyền có thể dẫn đến, bao gồm chiến tranh sinh học, thực phẩm biến đổi gen và liệu pháp gen, một hình thức y học liên quan đến việc thay thế một gen bị lỗi gây bệnh bằng một gen hoạt động bình thường.
Tuy nhiên, ông Berg đã kết thúc bài phát biểu của mình bằng lời kêu gọi lạc quan: "Bước đột phá về DNA tái tổ hợp đã cung cấp cho chúng ta một cách tiếp cận mới và mạnh mẽ đối với những câu hỏi đã khiến con người tò mò và đau đầu trong nhiều thế kỷ. Tôi sẽ không chùn bước trước thách thức đó".
Chia sẻ với nhà văn Joanna Rose trong một cuộc phỏng vấn vào năm 2021 (được đăng tải trên trang web Nobel), ông Berg lưu ý rằng, ông và các nhà khoa học khác trong lĩnh vực này đã cùng nhau công khai thừa nhận những nguy cơ tiềm ẩn của công nghệ và nghiên cứu về các rào cản trong Hội nghị Asilomar vào năm 1975. “Những lo ngại về DNA tái tổ hợp hoặc kỹ thuật di truyền xuất phát từ các nhà khoa học, vì vậy đó là một sự thật rất quan trọng” - ông Berg nói.
Ông Berg cho biết: “Đến năm 2001, những lo ngại ban đầu mà chúng tôi thực sự tin là có thể đã không tồn tại trên thực tế”. Hiện nay, liệu pháp gen là một lĩnh vực y học đang phát triển, với các phương pháp điều trị được chấp thuận cho bệnh hồng cầu hình liềm, chứng loạn dưỡng cơ và một số dạng mù di truyền, mặc dù nó không được sử dụng rộng rãi vì vẫn phức tạp khi thực hiện và rất tốn kém.
Nhà khoa học Jennifer Doudna – đồng chủ nhân của Giải Nobel Hóa học năm 2020 cho việc phát triển phương pháp chỉnh sửa bộ gen có tên là CRISPR-Cas9 – tin rằng, "những cảnh báo phù hợp từ các nhà khoa học về khả năng sử dụng sai mục đích các khám phá của họ là một trách nhiệm quan trọng và là dịch vụ công hữu ích, đặc biệt là khi công trình có ý nghĩa xã hội rộng lớn".