作者背景#

本書由 ByteByteGo 出版，列名作者為 Alex Xu，並由 Ali Aminian 等具備機器學習背景的合著者共同撰寫。Alex Xu 為 ByteByteGo 創辦人，著有暢銷的《System Design Interview》Vol. 1 與 Vol. 2，並與 Ali Aminian 共同寫作前作《Machine Learning System Design Interview》。ByteByteGo 是聚焦於工程面試與系統知識的學習平台，其書籍以視覺化拆解大型系統設計、結合產業實作經驗為特色。本書承接 ML 系統設計面試系列，將作者群在矽谷處理推薦、搜尋與生成式應用的經驗，整理成可在面試中復用的設計框架。

完整摘要#

本書處理一個新興問題：當 LLM、Diffusion Model 與 Multimodal 模型開始主宰產品設計，傳統 ML system design 面試題庫已不足以涵蓋生成式 AI 系統的獨特挑戰，例如 prompt 設計、RAG 索引、生成內容的評估、推論成本與安全性。

第一章先建立共同詞彙與框架。作者區分判別式與生成式模型、回顧 VAE / GAN / Diffusion / Autoregressive 等現代演算法，並用資料、模型容量與算力三軸解釋 GenAI 為何崛起，引入 scaling law。隨後給出貫穿全書的 6 步驟 ML 系統設計面試框架：(1) 釐清需求、(2) 將問題框架為 ML 任務、(3) 資料準備、(4) 模型開發、(5) 評估、(6) 部署與服務。

第 2–11 章為十個案例研究，每章皆套用同一框架推導完整設計：Gmail Smart Compose（自迴歸文字補全）、Google Translate（seq2seq 翻譯）、ChatGPT-like Chatbot（指令微調 + RLHF 對話系統）、Image Captioning（vision-language 多模態）、Retrieval-Augmented Generation（向量檢索 + LLM 結合）、Realistic Face Generation（GAN）、High-Resolution Image Synthesis（latent diffusion）、Text-to-Image Generation（如 Stable Diffusion / Imagen）、Personalized Headshot Generation（DreamBooth 風格的個人化微調）、以及 Text-to-Video Generation。每章都涵蓋功能與非功能需求釐清、訓練資料來源與標註、模型架構選型、離線/線上評估指標、推論最佳化（量化、蒸餾、KV cache）、以及監控與安全考量。

本書的貢獻與定位#

相較於 Alex Xu 的《System Design Interview》Vol. 1/2 處理通用後端系統、以及 Ali Aminian 與 Alex Xu 的前作《Machine Learning System Design Interview》偏重搜尋與推薦等判別式應用，本書是少數針對「生成式 AI 系統」的面試導向專書，補足從 RAG、Diffusion 到 multimodal 生成的設計題型。它與 Chip Huyen 的《Designing Machine Learning Systems》互補——後者更偏 MLOps 與工程文化，本書則直接對應面試題型與案例。目標讀者為準備一線科技公司 ML / Applied Scientist / GenAI 工程師職位的中高階候選人。