Đồng sáng lập OpenAI: 'Giữ AI trong tầm kiểm soát vì nó siêu phàm nhưng cũng cực kỳ ngớ ngẩn'
Andrej Karpathy cho rằng nhiều người đang quá phấn khích về trí tuệ nhân tạo (AI), đặc biệt là khi triển khai các tác tử hoạt động mà không cần giám sát.
Trong bài phát biểu quan trọng tại một sự kiện do Y Combinator tổ chức, Andrej Karpathy đã nói rằng mọi người cần phải "giữ AI trong tầm kiểm soát". Đồng sáng lập OpenAI cho biết các mô hình ngôn ngữ lớn hiện vẫn mắc những lỗi mà ít người mắc phải.
Y Combinator là một trong những vườn ươm khởi nghiệp nổi tiếng và có ảnh hưởng nhất thế giới, đặc biệt trong lĩnh vực công nghệ.
Nhà khoa học máy tính này ví mô hình ngôn ngữ lớn như "linh hồn của con người" - mô phỏng kỳ lạ về trí trí tuệ người, có xu hướng ảo giác thông tin (đưa ra thông tin sai lệch nhưng nghe có vẻ hợp lý và trôi chảy như thật), thiếu khả năng tự nhận thức và mắc “chứng mất trí nhớ”.
"Chúng khẳng định rằng 9.11 lớn hơn 9.9, hoặc từ strawberry có hai chữ r. Chúng sẽ siêu phàm trong một số lĩnh vực giải quyết vấn đề nhưng lại mắc những lỗi mà về cơ bản ít người mắc phải", Andrej Karpathy nói trong một buổi nói chuyện được công bố trên kênh YouTube của Y Combinator hôm 19.6.
Andrej Karpathy là một trong những chuyên gia kêu gọi cần giám sát AI - Ảnh: Internet
Theo ông, dù mô hình ngôn ngữ lớn có thể tạo ra 10.000 dòng mã trong vài giây, điều đó không có nghĩa là các nhà phát triển nên ngồi yên và để chúng tự do hoạt động.
"Tôi vẫn là người kiểm soát chính. Tôi phải đảm bảo rằng thứ này không gây ra lỗi. AI đôi khi tạo ra quá nhiều kết quả không cần thiết và phức tạp hóa vấn đề ", Andrej Karpathy nói.
Ông thúc giục các nhà phát triển nên chậm lại và viết các lời nhắc (câu lệnh, yêu cầu) cụ thể hơn.
"Tôi luôn thực hiện từng phần nhỏ. Tôi muốn đảm bảo rằng mọi thứ đều ổn", Andrej Karpathy cho hay.
"Sẽ hợp lý hơn nếu bạn bỏ ra thêm chút thời gian để viết lời nhắc cụ thể hơn, điều đó giúp tăng xác suất xác minh (kiểm tra) thành công và bạn có thể tiếp tục tiến lên”, ông nói thêm.
Đồng sáng lập OpenAI đã đặt ra thuật ngữ "vibe coding" vào tháng 2 để mô tả quá trình nhắc AI viết mã. Ông nói ý tưởng là các nhà phát triển có thể "hoàn toàn đắm chìm vào cảm hứng" và "quên rằng mã thậm chí còn tồn tại".
Andrej Karpathy là nhà sáng lập Eureka Labs, nền tảng giáo dục AI với tâm điểm là các khóa học cấp đại học, sử dụng trợ giảng AI để giúp học viên hiểu và tự xây dựng mô hình của riêng mình. Ngoài ra, ông đã rót vốn vào nhiều công ty khởi nghiệp tập trung vào hạ tầng và tác tử AI, như Lambda, Lamini, Perplexity AI và Adept.
“Sử dụng AI để viết mã đôi khi có thể giống đánh bạc”
Andrej Karpathy không phải là người duy nhất kêu gọi sử dụng AI thận trọng.
Bob McGrew, cựu trưởng bộ phận nghiên cứu của OpenAI, cho biết trong một tập podcast Training Data của Sequoia Capital rằng các kỹ sư vẫn rất cần thiết, không chỉ để hướng dẫn AI mà còn can thiệp khi mọi thứ trở nên rối ren.
Khi có điều gì đó không ổn hoặc nếu một dự án "trở nên quá phức tạp để AI hiểu", một kỹ sư có thể giúp chia nhỏ vấn đề thành các phần để AI giải quyết.
Sequoia Capital là một trong những quỹ đầu tư mạo hiểm nổi tiếng và có ảnh hưởng nhất thế giới, được biết đến với việc đầu tư vào giai đoạn đầu và giai đoạn tăng trưởng của các công ty tư nhân, đặc biệt trong lĩnh vực công nghệ.
Các tác tử AI giống "thần đèn", thường sẽ thực hiện điều ước của bạn, nhưng không phải lúc nào cũng theo cách bạn muốn, theo Kent Beck - một trong những tác giả của Tuyên ngôn Agile kinh điển.
Kent Beck nói rằng kết quả rất không nhất quán đến nỗi việc sử dụng AI để viết mã đôi khi có thể giống đánh bạc.
1. Tuyên ngôn Agile là một tài liệu nền tảng được ra đời năm 2001, nhằm định hình triết lý phát triển phần mềm theo hướng linh hoạt, đối lập với các phương pháp phát triển truyền thống, cứng nhắc như thác nước (waterfall). Mô hình thác nước là một phương pháp phát triển phần mềm truyền thống, trong đó quy trình phát triển diễn ra tuần tự theo từng giai đoạn cố định, giống nước chảy từ thác xuống, không thể chảy ngược.
2. Tác tử AI là hệ thống hoặc chương trình máy tính được thiết kế để thực hiện các tác vụ tự động bằng cách sử dụng AI. Các tác tử AI có khả năng tương tác với môi trường, thu thập thông tin, xử lý dữ liệu, ra quyết định và thực hiện các hành động dựa trên mục tiêu được đặt ra.
Đặc điểm của một tác tử AI
Tự động: Có khả năng hoạt động độc lập mà không cần sự can thiệp của con người trong suốt quá trình xử lý.
Nhận thức môi trường: Có thể cảm nhận hoặc thu thập dữ liệu từ môi trường thông qua các cảm biến, API, hoặc dữ liệu được cung cấp.
Ra quyết định: Dựa trên các thuật toán hoặc mô hình học máy, tác tử AI có thể phân tích dữ liệu và chọn hành động phù hợp.
Hành động: Tác tử thực hiện các hành động cụ thể để đạt được mục tiêu, ví dụ như gửi thông báo, điều khiển thiết bị, hoặc cập nhật dữ liệu.
Nhiều hãng đặt cược vào AI cho tương lai của việc viết mã
Bất chấp những hạn chế của AI, ngay cả các hãng công nghệ lớn nhất cũng đang đặt cược vào công nghệ này cho tương lai việc viết mã.
AI viết hơn 30% mã mới của Alphabet (chủ sở hữu Google), tăng từ 25% năm ngoái, Giám đốc điều hành Sundar Pichai cho biết trong báo cáo kết quả kinh doanh quý 1/2025 của công ty.
Andy Jassy, Giám đốc điều hành Amazon, nói vào năm ngoái rằng công ty đã tiết kiệm “tương đương 4.500 năm của nhà phát triển” bằng cách sử dụng AI.
Vào tháng 5, Satya Nadella (Giám đốc điều hành Microsoft) cho biết khoảng 20 đến 30% mã của họ hiện được tạo bằng AI.
Cùng tháng đó, Microsoft đã công bố sa thải 6.000 nhân viên trên toàn cầu, với hơn 40% trong số đó là các nhà phát triển phần mềm ở bang Washington, nơi đặt trụ sở chính của công ty.
Một phát ngôn viên của Microsoft nói: “Chúng tôi tập trung vào việc tạo ra AI giúp các nhà phát triển làm việc hiệu quả hơn, sáng tạo hơn và tiết kiệm thời gian. Điều này có nghĩa là một số vai trò sẽ thay đổi cùng với cuộc cách mạng AI, nhưng trí tuệ con người vẫn là trọng tâm của vòng đời phát triển phần mềm”.
Khi AI cách mạng hóa ngành công nghiệp, nhiều công việc, đặc biệt là các vị trí cấp cấp mang tính lặp lại, có thể bị loại bỏ.
Signalfire, công ty đầu tư mạo hiểm theo dõi xu hướng tuyển dụng trong ngành công nghệ, phát hiện ra rằng số lượng nhân viên mới có ít hơn 1 năm kinh nghiệm đã giảm 24% vào năm 2024. Đây là sự sụt giảm mà Signalfire nói là do các nhiệm vụ từng được giao cho các kỹ sư phần mềm cấp thấp đang được thực hiện một phần bằng AI.
Các công ty khởi nghiệp tạo mã đang đạt được mức định giá cao ngất ngưởng khi các phòng họp hội đồng quản trị tìm cách sử dụng AI để hỗ trợ và đôi khi thay thế những kỹ sư phần mềm lương cao.
Cursor, công ty khởi nghiệp tạo mã có trụ sở tại thành phố San Francisco (Mỹ), đã huy động được 900 triệu USD với mức định giá 10 tỉ USD vào tháng 5 từ danh sách các nhà đầu tư công nghệ hàng đầu, gồm cả Thrive Capital, Andreessen Horowitz và Accel. Cursor cung cấp trình soạn thảo AI có thể gợi ý và hoàn thành các dòng mã cũng như tự động viết toàn bộ các phần mã.
Windsurf, công ty khởi nghiệp có trụ sở tại thành phố Mountain View (Mỹ) đứng sau công cụ viết mã AI phổ biến Codeium, đã thu hút sự chú ý của OpenAI. OpenAI đang đàm phán để mua lại Windsurf với giá 3 tỉ USD, các nguồn tin nói với Reuters.
Công cụ của Windsurf nổi tiếng với khả năng dịch các lệnh tiếng Anh đơn giản thành mã, đôi khi được gọi là vibe coding, giúp những người không có kiến thức về ngôn ngữ máy tính viết phần mềm.
Scott Wu, Giám đốc điều hành công ty khởi nghiệp tạo mã Cognition, cho biết: “AI đã tự động hóa tất cả các công việc lặp đi lặp lại, tẻ nhạt. Vai trò của kỹ sư phần mềm đã thay đổi đáng kể. Giờ đây, họ không phải ghi nhớ cú pháp phức tạp nữa”.
Các nhà sáng lập công ty khởi nghiệp tạo mã và nhà đầu tư tin rằng họ đang ở trong một cuộc đua giành thị phần, với cơ hội thu hẹp dần để có được lượng lớn người dùng và thiết lập công cụ viết mã AI của mình thành tiêu chuẩn ngành.
Song vì hầu hết được xây dựng trên các mô hình nền tảng AI phát triển ở nơi khác, chẳng hạn OpenAI, Anthropic hoặc DeepSeek, chi phí mỗi truy vấn của họ cũng đang tăng lên và chưa có công ty khởi nghiệp AI tạo mã nào có lợi nhuận, theo Reuters.
Họ cũng có nguy cơ bị “đè bẹp” bởi Google, Microsoft và OpenAI - tất cả đều đã công bố sản phẩm tạo mã mới vào tháng 5. Trong khi Anthropic đang phát triển một sản phẩm tương tự, hai nguồn tin chia sẻ với Reuters.
Sự phát triển nhanh chóng của các công ty khởi nghiệp tạo mã diễn ra bất chấp việc cạnh tranh trực tiếp với các hãng công nghệ lớn. GitHub Copilot của Microsoft, ra mắt vào năm 2021 và được coi là cái tên thống trị trong lĩnh vực tạo mã, với doanh thu đã tăng lên hơn 500 triệu USD vào năm ngoái, theo một nguồn tin quen thuộc với vấn đề này.
Trong cuộc họp báo cáo kết quả kinh doanh của Microsoft vào tháng 4, công ty cho biết GitHub Copilot có hơn 15 triệu người dùng.
