某銀行使用 LIME(Local Interpretable Model-agnostic Explanations)來解釋其信貸審核模型的決策結果。分析師在閱讀解釋報告時,看到系統建立了一個簡化模型來近似原模型在該筆資料附近的行為。下列何者最能說明 LIME 中代理模型(Surrogate model)的意義?
答案 (D)
核心概念
LIME 的運作流程分三步。
・針對想解釋的那一筆資料,在它附近產生一批擾動樣本
・把這些樣本丟進原本的黑箱模型取得預測結果
・用一個簡單的可解釋模型(通常是加權線性迴歸)去擬合這些「輸入-輸出」對應關係
這個簡單模型就是代理模型,它只在目標實例的鄰近區域有效,用途是解釋而非取代原模型。名稱中的 Local(局部)講的就是這件事。
在那一筆資料周圍撒一堆點,看黑箱怎麼反應,再用一條直線把這一小塊區域描出來。
答題技巧
快速判斷技巧:把 LIME 的名字拆開,每個字對應一個特性。 ・Local → 只解釋單一樣本附近 ・Interpretable → 用簡單模型 ・Model-agnostic → 不管原模型是什麼 看到「全局」就刪,看到「目標實例附近」就選。
易錯陷阱:(A) 半對半錯:代理模型確實常是線性模型,但它是局部的、不是全域的。 這種「前半句對、後半句錯」的選項,要讀完整句再判斷。 同一考點在 114-4 科目一第 29 題、115-1 科目一第 26 題也出現過。