某企業已部署一套預訓練大型語言模型作為內部知識問答系統，主要用於查詢人資、財務與法遵相關的內部規範。由於公司內規每月都會滾動更新，管理層要求系統在文件更新後必須能立即反映最新內容，不能等待模型重新訓練。技術團隊正在評估應採用檢索增強生成（RAG）還是微調（Fine-tuning）來因應此需求。請問下列哪一項評估最為正確？

Question

(A) 採用 Fine-tuning 較為適合，只要定期將更新後的內規文件加入訓練資料，模型便能即時反映最新規範內容
(B) 採用 RAG 較為適合，將更新後的文件同步至外部知識庫，模型即可在不重新訓練的情況下立即查詢最新內容
(C) 採用 Fine-tuning 較為適合，因為模型經過內規語料訓練後，回應品質會優於透過 RAG 生成的答案
(D) 兩者皆可達成需求，差異僅在於建置成本高低，與系統能否即時反映更新內容無關

Accepted Answer

正確答案：(B) 採用 RAG 較為適合，將更新後的文件同步至外部知識庫，模型即可在不重新訓練的情況下立即查詢最新內容

微調（Fine-tuning）是把知識寫進模型權重裡。知識要更新就得重新訓練，週期以天或週計，成本高且無法即時。
RAG 則把知識放在外部知識庫，模型在回答時即時檢索。文件更新後只要同步索引，下一次查詢立刻就能取得最新內容，完全不用動模型。題目明講「每月滾動更新」且「不能等待重新訓練」，答案只有一個。

核心概念

答題技巧