Tổng kết mô hình lớn 2025, tiềm năng mới được khai thác 10% Vibe Coding và Nano Banana sẽ thay đổi toàn bộ cuộc chơi AI
Năm 2025 có những xu hướng AI nào? Bản tổng kết cuối năm của chuên gia Karpathy đang nhận được nhiều chú ý tại Thung lũng Silicon.
Bản tổng kết bao gồm 6 luận điểm lớn, vừa cứng rắn vừa mang tính khai mở:
Mô hình mới, ứng dụng mới, mô hình mới… nhìn lại một năm qua, những biến đổi mà mô hình lớn mang lại thật sự khiến người ta phấn khích.
Tuy nhiên Karpathy dự đoán táo bạo:
Tiềm năng của mô hình lớn mới chỉ được khai thác 10%. Tất cả chỉ vừa mới bắt đầu…
Một mặt thể hiện năng lực suy luận mạnh mẽ, mặt khác cũng bộc lộ những khiếm khuyết tiềm ẩn về khả năng hiểu, vừa khiến người ta hứng khởi vừa buộc phải thận trọng, cụ thể bao gồm:
Đến năm 2025, RLVR bắt đầu được bổ sung vào.
Thông qua huấn luyện học tăng cường trong môi trường phần thưởng có thể kiểm chứng tự động, mô hình sẽ tự phát hình thành chiến lược suy luận, chẳng hạn như phân rã vấn đề thành các phép tính trung gian, suy luận lặp, v.v… (có thể tham khảo DeepSeek R1). Những chiến lược này nếu dùng mô thức cũ thì rất khó đạt được, bởi quỹ đạo suy luận tối ưu và quá trình phục hồi của mô hình lớn vốn không rõ ràng.
Ngoài ra, khác với SFT và RLHF, do RLVR liên quan tới huấn luyện bằng hàm phần thưởng khách quan nên thời gian tối ưu dài hơn. Nhưng thực tế cũng chứng minh rằng RLVR mang lại tỷ lệ “năng lực / chi phí” cao hơn, tiêu thụ lượng tài nguyên tính toán vốn dành cho tiền huấn luyện.
Vì vậy, RLVR trở thành động lực quan trọng thúc đẩy tăng trưởng năng lực của mô hình lớn trong năm này, và trong điều kiện quy mô mô hình tương đương, thời gian chạy học tăng cường được kéo dài đáng kể.
Kéo theo đó là một phương thức điều tiết hoàn toàn mới cùng Scaling Law liên quan, có thể thông qua việc tạo ra chuỗi suy luận dài hơn và tăng thời gian suy nghĩ, để điều khiển năng lực như một hàm của lượng tính toán tại thời điểm kiểm thử.
Cuối năm 2024, mô hình o1 là lần trình diễn đầu tiên của mô hình RLVR, nhưng đến đầu năm 2025, việc phát hành o3 mới là bước ngoặt rõ rệt.
Năm 2025, toàn ngành lần đầu tiên bắt đầu hiểu trực quan hình thái trí thông minh của mô hình lớn, không phải là tiến hóa động vật, mà là đang triệu hồi một “bóng ma”.
Do mọi khía cạnh trong ngăn xếp công nghệ của mô hình lớn (kiến trúc nơ-ron, dữ liệu huấn luyện, thuật toán huấn luyện, đặc biệt là áp lực tối ưu) đều khác biệt, nên trí thông minh hình thành cũng rất khác nhau. Nếu chỉ dùng góc nhìn động vật để hiểu chúng thì là không đúng.
Ở tầng giám sát, mạng nơ-ron của con người được tối ưu để sinh tồn, còn mạng nơ-ron của mô hình lớn được tối ưu để mô phỏng con người và nhận phần thưởng.
Khi RLVR được áp dụng vào các lĩnh vực có thể kiểm chứng, hiệu năng của mô hình lớn sẽ bùng nổ nhanh chóng, đồng thời tổng thể thể hiện đặc trưng hiệu năng răng cưa, tức cái gọi là trí thông minh răng cưa.
Nói đơn giản, mô hình lớn vừa là đa năng, vừa là học sinh tiểu học với năng lực nhận thức hạn chế, luôn có khả năng bị jailbreak, dẫn tới rò rỉ dữ liệu. Điều này cũng giải thích vì sao Karpathy bản thân ông không mấy tin tưởng các benchmark phổ biến, vấn đề cốt lõi nằm ở chỗ: benchmark gần như ngay từ khi xây dựng đã là môi trường có thể kiểm chứng, nên rất dễ bị ảnh hưởng bởi RLVR và dữ liệu tổng hợp.
Các nhóm nghiên cứu mô hình lớn cũng không tránh khỏi việc xây dựng môi trường xoay quanh benchmark, tạo ra biểu hiện mô hình dạng răng cưa — nói cách khác là huấn luyện trên tập kiểm thử.
Điều này cũng lý giải vì sao hiện nay mô hình lớn có thể giành chiến thắng áp đảo trên mọi benchmark, nhưng vẫn chưa đạt được AGI.
Điều đáng chú ý là sự xuất hiện của Cursor đã hé lộ một tầng mới của ứng dụng mô hình lớn, tức cái mà năm nay thường được gọi là “Cursor for X”.
Nó không chỉ đơn thuần là giao diện mô hình, mà là tầng ứng dụng được xây dựng xoay quanh việc gọi mô hình, có thể:
Năm 2025, con người đã dành nhiều thời gian để thảo luận một vấn đề: tầng ứng dụng AI mới này rốt cuộc sẽ “dày” tới mức nào?
Giá trị của tầng này sẽ bị các phòng thí nghiệm mô hình lớn khai thác triệt để, hay vẫn để lại không gian sống cho các nhà phát triển ứng dụng mô hình lớn theo chiều dọc?
Ở điểm này, Karpathy dự đoán các phòng thí nghiệm mô hình lớn trong tương lai sẽ có xu hướng đào tạo ra một “sinh viên tốt nghiệp đại học với năng lực toàn diện”.
Còn các nhà phát triển ứng dụng mô hình lớn sẽ chịu trách nhiệm tổ chức, tinh chỉnh và khiến cả một “đội sinh viên” như vậy thực sự vận hành, trở thành nhân lực chuyên nghiệp có thể triển khai và tạo ra kết quả trong các ngành cụ thể, thông qua việc đưa vào dữ liệu riêng, cảm biến, bộ chấp hành và vòng phản hồi khép kín
Claude Code (CC) là ví dụ tác tử mô hình lớn đầu tiên mang tính thuyết phục.
Nó sử dụng phương thức tuần hoàn để kết hợp việc sử dụng công cụ và suy luận, nhằm giải quyết các vấn đề phức tạp. Có thể chạy trên máy tính cá nhân, và tận dụng môi trường, dữ liệu và ngữ cảnh riêng của người dùng.
Ngược lại, OpenAI tập trung quá nhiều vào container triển khai đám mây do ChatGPT điều phối, thay vì triển khai phía thiết bị đầu cuối.
Mặc dù cụm tác tử chạy trên đám mây thường được xem là hình thái cuối cùng của AGI, nhưng trong bối cảnh năng lực mô hình hiện tại không đồng đều và toàn bộ quá trình phát triển đang ở giai đoạn chuyển tiếp chậm, thì CC cho phép tác tử chạy trực tiếp trên máy tính cá nhân, phù hợp với quy trình làm việc của lập trình viên, là lựa chọn thực tế hơn.
Có thể nói, CC đã nắm đúng thứ tự ưu tiên này và đóng gói nó dưới dạng giao diện dòng lệnh gọn gàng, đẹp mắt, hoàn toàn thay đổi nhận thức truyền thống của con người về AI.
Nó khiến AI không còn giống như Google, một website để truy cập, mà giống như một tinh linh sống trong máy tính cá nhân, tạo ra một mô thức tương tác AI hoàn toàn mới.
Năm 2025 cũng là năm AI vượt qua ngưỡng năng lực, chỉ cần thông qua ngôn ngữ tự nhiên là có thể xây dựng đủ loại chương trình.
Điều thú vị là cả “Vibe Coding” lẫn “trí thông minh răng cưa” đều do Karpathy đặt tên, nhưng lúc đó ông chưa lường trước rằng hai thuật ngữ này sẽ trở thành lời chú giải chính xác nhất cho sự phát triển AI năm 2025.
Quay lại chủ đề chính, với sự hỗ trợ của Vibe Coding, lập trình không còn bị giới hạn trong tay chuyên gia, bất kỳ ai giờ đây cũng có thể tham gia, và những người được đào tạo chuyên nghiệp cũng có thể viết ra nhiều phần mềm thú vị hơn.
Ví dụ, trong dự án nanochat của chính Karpathy, ông đã dùng Vibe Coding để viết một bộ tách BPE hiệu suất cao tùy chỉnh bằng Rust, thay vì sử dụng thư viện sẵn có hay học thêm nhiều kiến thức Rust.
Tổng thể mà nói, ông cho rằng Vibe Coding sẽ tái định hình ngành phần mềm và thay đổi nội dung công việc hiện tại.
Một trong những mô hình gây ngạc nhiên và mang ý nghĩa chuyển dịch mô thức lớn nhất năm nay, không thể không nhắc tới Gemini Nano Banana của Google.
Theo Karpathy, mô hình lớn là mô thức tính toán chủ đạo tiếp theo sau kỷ nguyên máy tính, và giữa hai kỷ nguyên này tồn tại nhiều điểm tương đồng, đặc biệt là ở khía cạnh giao diện và trải nghiệm người dùng (UI/UX).
Vì con người thích tiếp nhận thông tin theo cách trực quan và không gian, nên mô hình lớn cũng nên cung cấp định dạng tương tự, làm đẹp và sắp xếp trực quan cho văn bản.
Nano Banana thể hiện rõ xu hướng này. Nó không chỉ tập trung vào một chức năng tạo ảnh đơn lẻ, mà còn tích hợp tạo văn bản, tạo ảnh và tri thức thế giới vào cùng một thể thống nhất, cung cấp tham chiếu cho sự phát triển GUI của mô hình lớn trong tương lai.
Vn-Z.vn team tổng hợp tham khảo nguồn Karpathy
Bản tổng kết bao gồm 6 luận điểm lớn, vừa cứng rắn vừa mang tính khai mở:
- RLVR (Học tăng cường với phần thưởng có thể kiểm chứng) trở thành giai đoạn huấn luyện mới
- Mô hình lớn không nên bị ví với trí thông minh của động vật
- Cursor thể hiện cấp độ tiếp theo (Next Level) của ứng dụng mô hình lớn
- Claude Code thúc đẩy nhanh việc phổ cập tác tử thông minh phía thiết bị đầu cuối
- Vibe Coding sẽ tái định hình ngành phần mềm
- Nano Banana tái định hình mô thức tương tác người – máy
Mô hình mới, ứng dụng mới, mô hình mới… nhìn lại một năm qua, những biến đổi mà mô hình lớn mang lại thật sự khiến người ta phấn khích.
Tuy nhiên Karpathy dự đoán táo bạo:
Tiềm năng của mô hình lớn mới chỉ được khai thác 10%. Tất cả chỉ vừa mới bắt đầu…
Tổng quan LLM năm 2025
Vì sao Karpathy cho rằng tiềm năng mô hình lớn mới được khai thác 10%?
Một mặt thể hiện năng lực suy luận mạnh mẽ, mặt khác cũng bộc lộ những khiếm khuyết tiềm ẩn về khả năng hiểu, vừa khiến người ta hứng khởi vừa buộc phải thận trọng, cụ thể bao gồm:
RLVR trở thành giai đoạn huấn luyện mới
Trước đầu năm 2025, hầu hết mô hình lớn trên toàn thế giới cơ bản tuân theo mô thức huấn luyện sau:- Tiền huấn luyện: đại diện là GPT-2 và GPT-3
- SFT (Tinh chỉnh có giám sát): dấu mốc là InstructGPT phát hành năm 2022
- RLHF (Học tăng cường từ phản hồi con người): bắt đầu phổ biến rộng rãi từ năm 2022
Đến năm 2025, RLVR bắt đầu được bổ sung vào.
Thông qua huấn luyện học tăng cường trong môi trường phần thưởng có thể kiểm chứng tự động, mô hình sẽ tự phát hình thành chiến lược suy luận, chẳng hạn như phân rã vấn đề thành các phép tính trung gian, suy luận lặp, v.v… (có thể tham khảo DeepSeek R1). Những chiến lược này nếu dùng mô thức cũ thì rất khó đạt được, bởi quỹ đạo suy luận tối ưu và quá trình phục hồi của mô hình lớn vốn không rõ ràng.
Ngoài ra, khác với SFT và RLHF, do RLVR liên quan tới huấn luyện bằng hàm phần thưởng khách quan nên thời gian tối ưu dài hơn. Nhưng thực tế cũng chứng minh rằng RLVR mang lại tỷ lệ “năng lực / chi phí” cao hơn, tiêu thụ lượng tài nguyên tính toán vốn dành cho tiền huấn luyện.
Vì vậy, RLVR trở thành động lực quan trọng thúc đẩy tăng trưởng năng lực của mô hình lớn trong năm này, và trong điều kiện quy mô mô hình tương đương, thời gian chạy học tăng cường được kéo dài đáng kể.
Kéo theo đó là một phương thức điều tiết hoàn toàn mới cùng Scaling Law liên quan, có thể thông qua việc tạo ra chuỗi suy luận dài hơn và tăng thời gian suy nghĩ, để điều khiển năng lực như một hàm của lượng tính toán tại thời điểm kiểm thử.
Cuối năm 2024, mô hình o1 là lần trình diễn đầu tiên của mô hình RLVR, nhưng đến đầu năm 2025, việc phát hành o3 mới là bước ngoặt rõ rệt.
Mô hình lớn không nên bị ví với trí thông minh của động vật
Năm 2025, toàn ngành lần đầu tiên bắt đầu hiểu trực quan hình thái trí thông minh của mô hình lớn, không phải là tiến hóa động vật, mà là đang triệu hồi một “bóng ma”.
Do mọi khía cạnh trong ngăn xếp công nghệ của mô hình lớn (kiến trúc nơ-ron, dữ liệu huấn luyện, thuật toán huấn luyện, đặc biệt là áp lực tối ưu) đều khác biệt, nên trí thông minh hình thành cũng rất khác nhau. Nếu chỉ dùng góc nhìn động vật để hiểu chúng thì là không đúng.
Ở tầng giám sát, mạng nơ-ron của con người được tối ưu để sinh tồn, còn mạng nơ-ron của mô hình lớn được tối ưu để mô phỏng con người và nhận phần thưởng.
Khi RLVR được áp dụng vào các lĩnh vực có thể kiểm chứng, hiệu năng của mô hình lớn sẽ bùng nổ nhanh chóng, đồng thời tổng thể thể hiện đặc trưng hiệu năng răng cưa, tức cái gọi là trí thông minh răng cưa.
Nói đơn giản, mô hình lớn vừa là đa năng, vừa là học sinh tiểu học với năng lực nhận thức hạn chế, luôn có khả năng bị jailbreak, dẫn tới rò rỉ dữ liệu. Điều này cũng giải thích vì sao Karpathy bản thân ông không mấy tin tưởng các benchmark phổ biến, vấn đề cốt lõi nằm ở chỗ: benchmark gần như ngay từ khi xây dựng đã là môi trường có thể kiểm chứng, nên rất dễ bị ảnh hưởng bởi RLVR và dữ liệu tổng hợp.
Các nhóm nghiên cứu mô hình lớn cũng không tránh khỏi việc xây dựng môi trường xoay quanh benchmark, tạo ra biểu hiện mô hình dạng răng cưa — nói cách khác là huấn luyện trên tập kiểm thử.
Điều này cũng lý giải vì sao hiện nay mô hình lớn có thể giành chiến thắng áp đảo trên mọi benchmark, nhưng vẫn chưa đạt được AGI.
Cursor thể hiện cấp độ tiếp theo của ứng dụng mô hình lớn
Điều đáng chú ý là sự xuất hiện của Cursor đã hé lộ một tầng mới của ứng dụng mô hình lớn, tức cái mà năm nay thường được gọi là “Cursor for X”.
Nó không chỉ đơn thuần là giao diện mô hình, mà là tầng ứng dụng được xây dựng xoay quanh việc gọi mô hình, có thể:
- Thực hiện kỹ thuật ngữ cảnh (context engineering)
- Điều phối nhiều lời gọi mô hình, tổ chức thành DAG phức tạp (đồ thị có hướng không chu trình), nhưng cần cân nhắc kỹ hiệu năng và chi phí
- Cung cấp GUI cho ứng dụng cụ thể
- Có thanh trượt mức độ tự chủ (autonomy slider)
Năm 2025, con người đã dành nhiều thời gian để thảo luận một vấn đề: tầng ứng dụng AI mới này rốt cuộc sẽ “dày” tới mức nào?
Giá trị của tầng này sẽ bị các phòng thí nghiệm mô hình lớn khai thác triệt để, hay vẫn để lại không gian sống cho các nhà phát triển ứng dụng mô hình lớn theo chiều dọc?
Ở điểm này, Karpathy dự đoán các phòng thí nghiệm mô hình lớn trong tương lai sẽ có xu hướng đào tạo ra một “sinh viên tốt nghiệp đại học với năng lực toàn diện”.
Còn các nhà phát triển ứng dụng mô hình lớn sẽ chịu trách nhiệm tổ chức, tinh chỉnh và khiến cả một “đội sinh viên” như vậy thực sự vận hành, trở thành nhân lực chuyên nghiệp có thể triển khai và tạo ra kết quả trong các ngành cụ thể, thông qua việc đưa vào dữ liệu riêng, cảm biến, bộ chấp hành và vòng phản hồi khép kín
Claude Code thúc đẩy phổ cập tác tử thông minh phía thiết bị
Claude Code (CC) là ví dụ tác tử mô hình lớn đầu tiên mang tính thuyết phục.
Nó sử dụng phương thức tuần hoàn để kết hợp việc sử dụng công cụ và suy luận, nhằm giải quyết các vấn đề phức tạp. Có thể chạy trên máy tính cá nhân, và tận dụng môi trường, dữ liệu và ngữ cảnh riêng của người dùng.
Ngược lại, OpenAI tập trung quá nhiều vào container triển khai đám mây do ChatGPT điều phối, thay vì triển khai phía thiết bị đầu cuối.
Có thể nói, CC đã nắm đúng thứ tự ưu tiên này và đóng gói nó dưới dạng giao diện dòng lệnh gọn gàng, đẹp mắt, hoàn toàn thay đổi nhận thức truyền thống của con người về AI.
Nó khiến AI không còn giống như Google, một website để truy cập, mà giống như một tinh linh sống trong máy tính cá nhân, tạo ra một mô thức tương tác AI hoàn toàn mới.
Vibe Coding sẽ tái định hình ngành phần mềm
Năm 2025 cũng là năm AI vượt qua ngưỡng năng lực, chỉ cần thông qua ngôn ngữ tự nhiên là có thể xây dựng đủ loại chương trình.
Điều thú vị là cả “Vibe Coding” lẫn “trí thông minh răng cưa” đều do Karpathy đặt tên, nhưng lúc đó ông chưa lường trước rằng hai thuật ngữ này sẽ trở thành lời chú giải chính xác nhất cho sự phát triển AI năm 2025.
Quay lại chủ đề chính, với sự hỗ trợ của Vibe Coding, lập trình không còn bị giới hạn trong tay chuyên gia, bất kỳ ai giờ đây cũng có thể tham gia, và những người được đào tạo chuyên nghiệp cũng có thể viết ra nhiều phần mềm thú vị hơn.
Ví dụ, trong dự án nanochat của chính Karpathy, ông đã dùng Vibe Coding để viết một bộ tách BPE hiệu suất cao tùy chỉnh bằng Rust, thay vì sử dụng thư viện sẵn có hay học thêm nhiều kiến thức Rust.
Tổng thể mà nói, ông cho rằng Vibe Coding sẽ tái định hình ngành phần mềm và thay đổi nội dung công việc hiện tại.
Nano Banana tái định hình tương tác người – máy
Một trong những mô hình gây ngạc nhiên và mang ý nghĩa chuyển dịch mô thức lớn nhất năm nay, không thể không nhắc tới Gemini Nano Banana của Google.
Theo Karpathy, mô hình lớn là mô thức tính toán chủ đạo tiếp theo sau kỷ nguyên máy tính, và giữa hai kỷ nguyên này tồn tại nhiều điểm tương đồng, đặc biệt là ở khía cạnh giao diện và trải nghiệm người dùng (UI/UX).
Vì con người thích tiếp nhận thông tin theo cách trực quan và không gian, nên mô hình lớn cũng nên cung cấp định dạng tương tự, làm đẹp và sắp xếp trực quan cho văn bản.
Nano Banana thể hiện rõ xu hướng này. Nó không chỉ tập trung vào một chức năng tạo ảnh đơn lẻ, mà còn tích hợp tạo văn bản, tạo ảnh và tri thức thế giới vào cùng một thể thống nhất, cung cấp tham chiếu cho sự phát triển GUI của mô hình lớn trong tương lai.
Vn-Z.vn team tổng hợp tham khảo nguồn Karpathy
BÀI MỚI ĐANG THẢO LUẬN