AI Engineering · Chip Huyen · Trang bìaAI Engineering · Chip Huyen · Trang bìaAI Engineering · Chip Huyen · Cover
Giải thích bằng tiếng ViệtGiải thích bằng tiếng ViệtA bilingual companion

Xây ứng dụng AI trên mô hình nền tảngLàm app AI mà không cần tự huấn luyệnBuilding AI apps on foundation models

Bộ bài diễn giải cuốn AI Engineering: Building Applications with Foundation Models của Chip Huyen (O’Reilly, 2025) — mỗi bài một chương. Luận điểm xuyên suốt: khi mô hình nền tảng đã có sẵn và gọi được qua API, trọng tâm kỹ thuật dịch chuyển từ huấn luyện mô hình sang thích ứng mô hình — và phần khó nhất của nghề mới này không phải là mô hình, mà là đánh giá, dữ liệu và kiến trúc quanh nó.

Bộ bài kể về một cuốn sách dạy cách làm ứng dụng AI. Điều bất ngờ: ngày nay ta không cần tự dạy máy từ đầu — đã có sẵn những mô hình khổng lồ, ta chỉ cần biết cách sai bảo và kiểm tra chúng. Nhớ nhé: phần khó không phải là mô hình, mà là biết nó làm đúng hay sai.

A companion to AI Engineering: Building Applications with Foundation Models by Chip Huyen (O’Reilly, 2025) — one article per chapter. The thread running through it: once foundation models are available behind an API, the engineering centre of gravity shifts from training models to adapting them — and the hardest part of that new discipline is not the model but the evaluation, the data and the architecture around it.

∴
Luận đề xuyên suốt cuốn sách Điều quan trọng nhất The book's central thesis

Huyen viết rằng cuốn sách được sắp xếp theo đúng quy trình phát triển một ứng dụng AI trong thực tế, và cách làm ấy đảo ngược thứ tự quen thuộc của học máy truyền thống: thay vì bắt đầu từ dữ liệu và mô hình, ta bắt đầu từ bài toán sản phẩm, rồi mới lần lượt chạm tới prompt, ngữ cảnh, tinh chỉnh và dữ liệu. Đánh giá — theo bà, thách thức khó nhất của nghề — được dành riêng hai chương.1

Cuốn sách đi theo đúng thứ tự mà người ta thật sự làm một ứng dụng AI: hỏi xem có cần AI không đã, rồi mới tới cách ra lệnh cho máy, cách đưa thêm tài liệu cho nó đọc, và cuối cùng là cách kiểm tra. Nhớ nhé: kiểm tra là phần khó nhất, nên sách dành hẳn hai chương cho nó.

Huyen writes that the book is structured to follow the typical process of developing an AI application — which inverts the familiar order of classical ML: instead of starting from data and models, you start from the product question, then work through prompts, context, finetuning and data. Evaluation, which she calls one of the hardest challenges of AI engineering, gets two chapters of its own.1

Mười chương · Bốn cụmMười chương · Bốn cụmTen chapters · Four arcs

Chọn chương để bắt đầuChọn bài để đọcPick a chapter to begin

Sách có mười chương, ở đây gom thành bốn cụm biên tập theo mạch đọc — sách không tự chia phần, nhưng chính tác giả mô tả mạch này trong phần “Navigating This Book”: hiểu bài toán, hiểu mô hình, đánh giá, rồi tối ưu từng lớp một.1 Cả mười chương đều đã sẵn sàng. Nếu mới bắt đầu, hãy đọc từ Chương 1 — nó trả lời câu hỏi đứng trước mọi câu hỏi khác: ứng dụng này có thật sự cần AI không.

Sách có 10 chương, ở đây chia thành 4 nhóm cho dễ theo. Cả 10 bài đều đọc được rồi. Mới bắt đầu thì đọc Chương 1 trước nhé — nó hỏi một câu rất hay: việc này có cần AI thật không?

The book has ten chapters, gathered here into four editorial arcs for reading order — the book has no formal parts, but the author describes this progression herself in “Navigating This Book”: understand the problem, understand the model, evaluate, then optimise each layer in turn.1 All ten chapters are ready. If you are just starting, read Chapter 1 — it answers the question that comes before all others: does this application actually need AI?

01
Foundations · Chapters 1–2

Nền tảng của nghề mớiAI làm được gìFoundations

Vì sao kỹ thuật AI tách ra thành một nghề riêng, các nhóm ứng dụng đã thật sự thành công, và bên trong một mô hình nền tảng có gì: dữ liệu huấn luyện, kiến trúc, hậu huấn luyện và cách mô hình sinh ra câu trả lời.

Nhóm này nói AI dùng được vào việc gì, và bên trong cái máy trả lời ấy có gì.

Why AI engineering split off as its own discipline, which use cases have actually worked, and what is inside a foundation model: training data, architecture, post-training, and how a response is sampled.

2 / 2 chương đã sẵn sàng2 / 2 chapters ready
02
Evaluation · Chapters 3–4

Đánh giáLàm sao biết máy đúngEvaluation

Hai chương liền cho thứ mà tác giả gọi là thách thức khó nhất: đo một mô hình không có đáp án đúng duy nhất — từ entropy và perplexity tới dùng chính AI làm giám khảo, rồi dựng thành một quy trình đánh giá cho hệ thống của mình.

Hai bài về cách chấm điểm máy, khi câu trả lời không chỉ có một đáp án đúng.

Two chapters for what the author calls the hardest challenge: measuring a model with no single right answer — from entropy and perplexity to AI-as-a-judge — then assembling it into an evaluation pipeline for your own system.

2 / 2 chương đã sẵn sàng2 / 2 chapters ready
03
Adaptation · Chapters 5–8

Thích ứng mô hìnhDạy máy làm đúng việcAdapting the model

Chất lượng một câu trả lời phụ thuộc vào ba thứ ngoài thiết lập sinh: chỉ dẫn, ngữ cảnh, và chính mô hình. Bốn chương này lần lượt tối ưu từng thứ — prompt, RAG cùng tác tử, tinh chỉnh, và dữ liệu nuôi việc tinh chỉnh ấy.1

Bốn bài dạy ba cách làm máy trả lời tốt hơn: ra lệnh rõ hơn, đưa thêm tài liệu, hoặc dạy lại chính nó.

A response's quality depends on three things beyond the generation setting: the instructions, the context, and the model itself. These four chapters optimise each in turn — prompts, RAG and agents, finetuning, and the data that feeds it.1

4 / 4 chương đã sẵn sàng4 / 4 chapters ready
04
Production · Chapters 9–10

Đưa vào sản xuấtChạy thật, chạy nhanhInto production

Nếu các chương trước lo chất lượng, hai chương cuối lo chi phí và độ trễ — rồi ráp tất cả lại thành một kiến trúc hoàn chỉnh, cùng vòng phản hồi người dùng nuôi lại chính hệ thống ấy.1

Hai bài cuối lo cho máy chạy nhanh, rẻ, và học được từ chính người dùng.

If the earlier chapters are about quality, the last two are about cost and latency — then assemble everything into a full architecture, with the user-feedback loop that feeds the system back into itself.1

2 / 2 chương đã sẵn sàng2 / 2 chapters ready

Mind map toàn cuốn sáchBản đồ cả cuốn sáchMind map of the whole book

Cả mười chương trên một trang: quy trình phát triển chạy từ bài toán tới sản xuất, ba lớp của stack kỹ thuật AI, và ba cần gạt chất lượng — xem toàn cảnh trước khi bước vào từng chương.

Cả cuốn sách vẽ thành một bản đồ bấm được — xem trước khi đọc từng chương.

All ten chapters on one page: the development process from problem to production, the three layers of the AI stack, and the three levers of quality — see the whole shape before each chapter.

Mở bản đồ →Open the map →
Cách đọc bộ bàiCách đọc bộ bàiHow to read this series

Ba chế độ đọc, hai ngôn ngữChọn kiểu đọc hợp với bạnTwo languages, three depths

Góc phải phía trên mỗi trang có nút VI/EN và ba nút chế độ đọc. Lựa chọn được ghi nhớ chung cho cả bộ — chọn một lần, mọi trang hiển thị theo cùng cách.

Bấm nút ở góc trên để chọn tiếng và kiểu đọc. Chọn một lần là cả bộ đều theo.

The top-right corner of every page has a VI/EN switch. The Vietnamese side offers three reading modes; the English side is a single standard version, kept close to the book's own terminology so you can cross-reference the original. Your choice is remembered across the whole series.

Dễ hiểuDễ hiểuVietnamese · 3 modes

Giải thích bằng ví dụ đời thường — gọi điện hỏi tổng đài, tra sổ tay, chấm bài — cho người mới và trẻ nhỏ. Không thuật ngữ, không công thức.

Kể bằng chuyện quen thuộc, ai đọc cũng hiểu.

The Vietnamese side has three reading modes: Dễ hiểu (everyday examples for newcomers and kids), Tóm tắt (just the essentials), and Đầy đủ (deep analysis blocks).

Tóm tắtTóm tắtEnglish · standard

Chỉ phần cốt lõi của mỗi mục — đọc nhanh để nắm khung ý chính của cả chương trong ít phút.

Bản ngắn gọn, đọc nhanh nhất.

The English side is one standard version per section — concise, complete, and aligned with the book's original terms for easy reference.

Đầy đủĐầy đủShared preferences

Thêm các khối phân tích sâu: cơ chế bên dưới mỗi kỹ thuật, con số cụ thể, giới hạn và liên kết giữa các chương.

Bản dài nhất, dành cho người muốn hiểu kỹ.

Language and reading-mode choices persist across all pages of the series — set them once, and every article follows.

Bắt đầu từ đâuBắt đầu từ đâuWhere to start

Chương 1 đặt câu hỏi đứng trước mọi câu hỏi kỹ thuật: bài toán này có cần AI không, và có cần ta tự xây không. Đọc nó trước, rồi đi tiếp theo thứ tự các chương sau.

Đọc Chương 1 trước — nó hỏi xem việc này có thật sự cần AI không.

Chapter 1 asks the question that precedes every technical one: is AI needed here, and do you have to build it yourself? Read it first, then follow the later chapters in order.