Bản đồ cuốn sáchBản đồ cả cuốn sáchMap of the book
Tác giả nói rõ trong lời nói đầu: cuốn sách được sắp xếp theo đúng quy trình phát triển một ứng dụng AI trong thực tế, và vì sách viết theo lối mô-đun nên người đọc được mời bỏ qua bất kỳ phần nào đã quen hoặc ít liên quan.1 Trang này dựng lại chính quy trình ấy thành một bản đồ: mỗi chặng là một câu hỏi, mỗi câu hỏi dẫn tới một hoặc vài chương.
Cuốn sách này không viết lung tung. Nó đi đúng theo thứ tự mà người ta thật sự làm một ứng dụng AI: hỏi có cần làm không, rồi mới tới làm thế nào, rồi kiểm tra, rồi cho chạy thật. Bản đồ này vẽ lại con đường đó. Nhớ nhé: cứ đi theo mũi tên, không cần đọc hết một lượt.
The author says it plainly in the preface: the book is structured to follow the typical process for developing an AI application, and because it is modular you are welcome to skip any section already familiar or less relevant.1 This page rebuilds that process as a map: each stage is a question, and each question leads to one or more chapters.
Đọc từ trên xuống là đọc theo trình tự một dự án. Nhưng vì mỗi chương tự đứng được, bạn cũng có thể nhảy thẳng tới chặng đang vướng: đang lo mô hình trả lời sai thì vào chặng “Đo”; đang lo chậm và tốn tiền thì xuống chặng “Vận hành”.
Đọc từ trên xuống là đi đúng thứ tự làm việc. Nhưng đang mắc ở đâu thì nhảy thẳng vào đó cũng được. Nhớ nhé: bản đồ để tra, không phải để học thuộc.
Reading top to bottom follows a project's own order. But since each chapter stands on its own, you can also jump straight to the stage you are stuck at: worried the model answers wrongly, go to “Measure”; worried about latency and cost, drop to “Operate”.
MƯỜI CHƯƠNGTHE PROCESS
TEN CHAPTERS
Bốn chặng, mười chươngBốn chặng, mười bàiFour stages, ten chapters
Mỗi chặng dưới đây mở đầu bằng câu hỏi mà tác giả đặt ra ở đúng chỗ đó trong quy trình. Thứ tự này đảo ngược thói quen của học máy cổ điển: không bắt đầu từ dữ liệu và mô hình, mà bắt đầu từ bài toán sản phẩm — dữ liệu mãi tới Chương 8 mới xuất hiện như một chương riêng.
Mỗi chặng bắt đầu bằng một câu hỏi. Trả lời xong câu đó thì đi tiếp chặng sau. Nhớ nhé: câu hỏi đầu tiên không phải “làm thế nào” mà là “có nên làm không”.
Each stage below opens with the question the author poses at that point in the process. The order inverts classical ML habit: it starts not from data and models but from the product question — data does not arrive as a chapter of its own until Chapter 8.
Bốn chặng ở đây là cách trang này gom nhóm lại cho dễ nhìn, không phải cách chia phần chính thức của sách — bản thân cuốn sách không có “phần” nào, chỉ có mười chương chạy liền. Cái được giữ nguyên là trình tự và các câu hỏi: chúng lấy đúng theo mạch tác giả mô tả trong mục “Navigating This Book”.1 Nếu bạn muốn đối chiếu, mục lục chính thức của sách là danh sách phẳng từ Chương 1 tới Chương 10 rồi tới Epilogue.
Định khung bài toánXem có cần AI khôngFrame the problem
Trước khi quyết định xây, tác giả viết rằng cần hiểu quy trình này bao gồm những gì và trả lời các câu hỏi như: ứng dụng này có cần thiết không? Có cần tới AI không? Ta có phải tự xây lấy không?1 Chương 1 dành để trả lời chính những câu đó, kèm một loạt trường hợp ứng dụng đã thành công.
Chặng này hỏi ba câu: có cần cái này không, có cần AI không, và mình có phải tự làm không. Trả lời xong mới tính chuyện tiếp theo.
Before committing to build, the author writes, you need to understand what the process involves and answer questions such as: is this application necessary? Is AI needed? Do I have to build this myself?1 Chapter 1 is there to answer exactly those, alongside a range of successful use cases.
Hiểu cỗ máy mình đang dùngBên trong cái máy trả lờiUnderstand the machine you are using
Không cần nền tảng học máy để xây ứng dụng AI, nhưng tác giả lưu ý rằng hiểu mô hình vận hành thế nào bên dưới sẽ giúp tận dụng nó tốt hơn — và giải thích được những hành vi thoạt nhìn khó hiểu như thiếu nhất quán hay ảo giác. Bà cũng nhận xét rằng chỉnh thiết lập sinh của mô hình thường là cách rẻ và dễ để cải thiện đáng kể chất lượng.1
Không cần biết làm máy vẫn dùng được máy. Nhưng biết bên trong nó hoạt động ra sao thì ta hiểu vì sao đôi khi nó trả lời trật lất. Nhớ nhé: nhiều khi chỉ cần vặn lại một nút nhỏ là nó tốt hơn hẳn.
An ML background is not necessary to build AI applications, but the author notes that understanding how a foundation model works under the hood helps you make the most of it — and explains behaviours that otherwise look baffling, like inconsistency and hallucination. She adds that changing a model's generation setting is often a cheap and easy way to boost performance significantly.1
Đo — thách thức khó nhấtChấm điểm câu trả lờiMeasure — the hardest challenge
Một khi đã bắt tay vào xây, tác giả viết, đánh giá trở thành phần không thể tách rời của mọi bước — và bà gọi đó là một trong những thách thức khó nhất, nếu không phải khó nhất, của kỹ thuật AI. Sách dành hẳn hai chương cho nó.1 Chương 3 lo phương pháp; Chương 4 lo hệ thống thật của bạn.
Khi câu trả lời không chỉ có một đáp án đúng thì chấm điểm rất khó. Khó tới mức sách phải dành hai bài liền. Nhớ nhé: không đo được thì không biết mình đang tốt lên hay tệ đi.
Once you commit to building, the author writes, evaluation becomes an integral part of every step — and she calls it one of the hardest challenges of AI engineering, if not the hardest. The book dedicates two chapters to it.1 Chapter 3 covers methodology; Chapter 4 covers your actual system.
- 03 Phương pháp luận đánh giáEvaluation Methodology Entropy · cross entropy · perplexity · đúng sai theo chức năng · AI làm giám khảo · đánh giá so sánh Các cách chấm điểm: máy tự chấm, và người ta so hai câu trả lời. Entropy · cross entropy · perplexity · functional correctness · AI as a judge · comparative evaluation
- 04 Đánh giá hệ thống AIEvaluate AI Systems Tiêu chí đánh giá · chi phí và độ trễ · chọn mô hình · tự xây hay đi mua · benchmark công khai · dựng quy trình đánh giá Chọn mô hình nào, và tự dựng cách chấm cho riêng mình. Evaluation criteria · cost and latency · model selection · build versus buy · public benchmarks · your evaluation pipeline
Thích ứng, rồi vận hànhDạy máy, rồi cho chạy thậtAdapt, then operate
Tác giả tách chất lượng một câu trả lời thành ba yếu tố — ngoài thiết lập sinh — rồi dành ba chương liền cho ba yếu tố ấy: chỉ dẫn cho mô hình, ngữ cảnh mà mô hình được dùng, và chính mô hình.1 Chương 8 lo dữ liệu nuôi việc tinh chỉnh, và hai chương cuối chuyển từ chất lượng sang chi phí, độ trễ và kiến trúc.
Muốn máy trả lời tốt hơn thì có ba cách: ra lệnh rõ hơn, đưa thêm tài liệu cho nó đọc, hoặc dạy lại chính nó. Xong ba cách đó mới tới chuyện chạy nhanh và rẻ.
The author splits a response's quality into three factors beyond the generation setting, then gives each its own chapter: the instructions for how the model should behave, the context it can use, and the model itself.1 Chapter 8 covers the data that feeds finetuning, and the last two chapters shift from quality to cost, latency and architecture.
- 05 Kỹ thuật promptPrompt Engineering Học trong ngữ cảnh · system prompt · thực hành tốt · prompt phòng thủ trước tấn công Cách ra lệnh cho máy cho rõ ràng, và cách đề phòng kẻ xấu. In-context learning · system prompts · best practices · defensive prompt engineering
- 06 RAG và tác tửRAG and Agents Kiến trúc RAG · thuật toán truy hồi · công cụ · lập kế hoạch · các kiểu hỏng của tác tử · bộ nhớ Đưa thêm tài liệu cho máy đọc, và để máy tự dùng công cụ. RAG architecture · retrieval algorithms · tools · planning · agent failure modes · memory
- 07 Tinh chỉnhFinetuning Khi nào nên và không nên · nút thắt bộ nhớ · lượng tử hóa · PEFT · hợp nhất mô hình Dạy lại chính cái máy — và khi nào thì không nên dạy. When to and when not to · memory bottlenecks · quantization · PEFT · model merging
- 08 Kỹ thuật dữ liệuDataset Engineering Chất lượng, độ phủ, số lượng · gán nhãn · tổng hợp dữ liệu · chưng cất mô hình · xử lý dữ liệu Lấy đâu ra tài liệu để dạy máy, và làm sao biết tài liệu đó tốt. Quality, coverage, quantity · annotation · data synthesis · model distillation · processing
- 09 Tối ưu suy luậnInference Optimization Chỉ số hiệu năng · bộ tăng tốc AI · tối ưu ở mức mô hình và mức dịch vụ Làm cho máy trả lời nhanh hơn và rẻ hơn. Performance metrics · AI accelerators · model- and service-level optimization
- 10 Kiến trúc kỹ thuật AI và phản hồi người dùngAI Engineering Architecture and User Feedback Kiến trúc dựng từng bước · lan can an toàn · router và gateway · cache · giám sát · vòng phản hồi Ráp tất cả lại thành một hệ thống, và học từ chính người dùng. Architecture step by step · guardrails · router and gateway · caches · observability · the feedback loop
Ba lớp của stack kỹ thuật AIBa tầng công việcThree layers of the AI stack
Chương 1 chia hệ sinh thái thành ba lớp, và đó cũng là cách gọn nhất để định vị mọi chương còn lại: chương này đang nói về lớp nào?
Công việc chia làm ba tầng. Biết mình đang đứng ở tầng nào thì đỡ rối.
Chapter 1 divides the ecosystem into three layers, and that is also the quickest way to place every other chapter: which layer is this chapter about?
Ba lớp này giải thích luôn một điều mà người đến từ học máy truyền thống hay thấy lạ: vì sao một cuốn sách kỹ thuật lại dành nhiều trang cho prompt và giao diện đến thế. Tác giả đặt kỹ thuật AI cạnh học máy truyền thống và cạnh kỹ thuật full-stack ngay trong Chương 1 — trọng tâm đã dịch lên lớp ứng dụng, nơi phần lớn công việc thật sự diễn ra khi mô hình đã có sẵn sau một API.
Lớp tiếp xúc với người dùng: viết prompt, dựng ngữ cảnh, thiết kế giao diện và vòng phản hồi. Đây là lớp mà kỹ thuật AI khác học máy truyền thống nhiều nhất — Chương 5, 6, 10Chapters 5, 6, 10.
Tầng gần người dùng nhất: ra lệnh, đưa tài liệu, và nghe người dùng phản hồi.
The layer facing the user: writing prompts, constructing context, designing the interface and the feedback loop. This is where AI engineering diverges most from classical ML — Chapters 5, 6, 10.
Lớp chạm vào chính mô hình: huấn luyện, tinh chỉnh, dữ liệu, và các kỹ thuật suy luận ở mức mô hình — Chương 2, 7, 8, 9Chapters 2, 7, 8, 9. Đánh giá chạy xuyên cả ba lớp nên nó đứng riêng.
Tầng động vào chính cái máy: dạy lại nó, lo tài liệu cho nó, làm nó chạy nhanh hơn.
The layer touching the model itself: training, finetuning, data, and model-level inference techniques — Chapters 2, 7, 8, 9. Evaluation cuts across all three layers, so it stands apart.
Lớp nền: phục vụ mô hình, quản lý dữ liệu và tính toán, giám sát. Phần lớn nằm ngoài phạm vi cuốn sách, nhưng chạm tới ở tối ưu suy luận và kiến trúc — Chương 9, 10Chapters 9, 10.
Tầng dưới cùng: máy chủ, phần cứng, theo dõi hệ thống.
The foundation: serving, data and compute management, monitoring. Largely outside the book's scope, but touched in inference optimization and architecture — Chapters 9, 10.
Muốn câu trả lời tốt hơn, vặn cái gì?Ba nút để máy trả lời tốt hơnWhat do you turn to get a better answer?
Đây là đoạn chia việc rõ ràng nhất của cả cuốn sách. Tác giả viết rằng — ngoài thiết lập sinh của mô hình — chất lượng câu trả lời phụ thuộc vào chỉ dẫn cho mô hình, ngữ cảnh mô hình được dùng, và chính mô hình; ba chương kế tiếp tối ưu lần lượt từng thứ.1
Máy trả lời chưa tốt thì có ba nút để vặn, chứ không phải vặn bừa. Nhớ nhé: thử nút rẻ trước, nút đắt sau.
This is the book's cleanest division of labour. The author writes that — outside the model's generation setting — a response's quality depends on the instructions for how the model should behave, the context it can use, and the model itself; the next three chapters optimise each in turn.1
-
The instructions
Chỉ dẫn — nút rẻ nhấtNói rõ hơn cho máy ngheInstructions — the cheapest lever
Không đổi mô hình, không đổi dữ liệu, chỉ đổi cách hỏi. Vì rẻ và nhanh nhất nên đây gần như luôn là nút nên thử trước — và cũng là nơi mở ra mặt phòng thủ: prompt có thể bị tấn công.
Chỉ đổi cách nói, không đổi gì khác. Rẻ nhất nên thử trước. Nhớ nhé: nói rõ thì máy hiểu rõ.
No new model, no new data — only a different way of asking. Being cheapest and fastest, it is nearly always the lever to try first — and the one that opens the defensive front: prompts can be attacked.
Chương 5Chapter 5 · Kỹ thuật prompt· Prompt Engineering -
The context
Ngữ cảnh — cho mô hình đọc thêmĐưa thêm tài liệu cho máyContext — give the model more to read
Mô hình không biết thứ nó chưa từng thấy. Xây ngữ cảnh là đưa đúng mẩu thông tin cần thiết vào đúng lúc — qua truy hồi tài liệu (RAG) hoặc để mô hình tự gọi công cụ đi lấy (tác tử).
Máy không biết thì đưa tài liệu cho nó đọc, hoặc cho nó tự đi tra. Nhớ nhé: đưa đúng thứ cần, đừng đưa cả kho.
A model cannot know what it has never seen. Constructing context means putting the right piece of information in front of it at the right moment — by retrieving documents (RAG) or letting the model fetch them itself with tools (agents).
Chương 6Chapter 6 · RAG và tác tử· RAG and Agents -
The model itself
Chính mô hình — nút đắt nhấtDạy lại chính cái máyThe model itself — the costliest lever
Khi hai nút kia đã hết đất, mới tới lượt đổi chính mô hình bằng tinh chỉnh. Tác giả lưu ý rằng do quy mô của mô hình nền tảng, tinh chỉnh gốc rất ngốn bộ nhớ, nên nhiều kỹ thuật ra đời để tinh chỉnh mô hình tốt hơn với ít bộ nhớ hơn.1
Cách cuối cùng là dạy lại chính cái máy. Tốn nhất, nên để sau cùng. Nhớ nhé: thử hai cách kia trước đã.
When the other two levers run out, you change the model itself by finetuning. The author notes that because of foundation models' scale, native finetuning is memory-intensive, so many techniques exist to finetune better models with less memory.1
Chương 7 và 8Chapters 7 and 8 · Tinh chỉnh, và dữ liệu nuôi nó· Finetuning, and the data feeding it -
Not a lever: the data question
Và một nút ẩn: dữ liệuCòn một thứ nữa: tài liệuAnd a hidden lever: the data
Tác giả viết rằng nhờ có sẵn nhiều framework, bản thân quá trình tinh chỉnh thường khá đơn giản — nhưng kiếm được dữ liệu để tinh chỉnh mới là phần khó. Vì thế Chương 8 dành trọn cho dữ liệu, và nhiều phần của nó liên quan xa hơn phạm vi tinh chỉnh.1
Dạy máy thì dễ, kiếm tài liệu tốt để dạy mới khó. Nhớ nhé: tài liệu dở thì dạy kiểu gì cũng dở.
The author writes that thanks to the many available frameworks, the finetuning process itself is often straightforward — but getting the data for it is hard. Chapter 8 is therefore all about data, and much of it is relevant well beyond finetuning.1
Chương 8Chapter 8 · Kỹ thuật dữ liệu· Dataset Engineering
Những chủ đề chạy qua nhiều chươngNhững thứ nhắc đi nhắc lạiThemes that cut across chapters
Một số câu hỏi không thuộc riêng chương nào mà quay lại nhiều lần. Bản đồ sẽ thiếu nếu chỉ vẽ trình tự mà bỏ qua chúng.
Có mấy chuyện quay đi quay lại suốt cuốn sách, không nằm gọn trong một bài nào.
Some questions belong to no single chapter and keep returning. A map that draws only the sequence and misses them would be incomplete.
Không chỉ sống ở hai chương của nó — tác giả viết rằng đánh giá là phần không thể tách rời của mọi bước trên đường.1
Chấm điểm không chỉ làm một lần, mà làm suốt.
It does not live only in its two chapters — the author writes that evaluation is an integral part of every step along the way.1
Tác giả liệt kê ngay trong lời nói đầu hai câu hỏi mà sách sẽ trả lời: điều gì gây ra ảo giác, và làm sao phát hiện cùng giảm nhẹ nó.2
Máy đôi khi bịa ra thứ không có thật — sách chỉ cách nhận ra và hạn chế.
The author lists two of the book's questions in the preface itself: what causes hallucinations, and how to detect and mitigate them.2
Xuất hiện sớm như một tiêu chí chọn mô hình ở Chương 4, rồi trở thành chủ đề chính của Chương 9 — chất lượng không bao giờ là chiều duy nhất.
Chạy đúng chưa đủ, còn phải nhanh và không quá tốn tiền.
It appears early as a model-selection criterion in Chapter 4, then becomes the whole subject of Chapter 9 — quality is never the only dimension.
Từ tấn công prompt ở Chương 5 tới lan can an toàn trong kiến trúc ở Chương 10 — bảo mật là một lớp được dựng vào hệ thống, không phải việc làm sau cùng.
Phải đề phòng người xấu ngay từ đầu, không đợi làm xong mới lo.
From prompt attacks in Chapter 5 to guardrails in the Chapter 10 architecture — security is a layer built into the system, not a final chore.
Câu hỏi khép lại cuốn sách, và cũng là câu tác giả nêu trong lời nói đầu: làm sao tạo một vòng phản hồi để cải thiện ứng dụng một cách liên tục.2
Người dùng dùng thật sẽ dạy lại cho hệ thống — đó là vòng lặp cuối.
The question that closes the book, and one the author raises in the preface: how do I create a feedback loop to improve my application continually?2
Tác giả nói rõ sách tập trung vào nền tảng của kỹ thuật AI thay vì một công cụ hay API cụ thể, vì công cụ lỗi thời nhanh còn nền tảng thì bền hơn.2
Sách dạy cái gốc, không dạy dùng một phần mềm cụ thể nào.
The author states that the book focuses on the fundamentals of AI engineering rather than any specific tool or API, because tools become outdated quickly but fundamentals should last longer.2
Bản đồ này không thay được việc đọc từng chương. Nó chỉ làm một việc: khi bạn đang mắc ở đâu đó — câu trả lời sai, hệ thống chậm, dữ liệu thiếu — nó nói cho bạn biết cuốn sách đã đặt câu trả lời ở chặng nào, để bạn đi thẳng tới đó thay vì đọc lại từ đầu.
Bản đồ không đọc thay bạn được. Nó chỉ giúp bạn biết nên mở bài nào khi đang mắc. Nhớ nhé: mắc ở đâu thì tra ở đó.
This map does not replace reading the chapters. It does one thing: when you are stuck somewhere — a wrong answer, a slow system, missing data — it tells you which stage the book put the answer in, so you can go straight there instead of starting over.