某銀行使用 LIME(Local Interpretable Model-agnostic Explanations)來解釋其信貸審核模型的決策結果。分析師在閱讀解釋報告時,看到系統建立了一個簡化模型來近似原模型在該筆資料附近的行為。下列何者最能說明 LIME 中代理模型(Surrogate model)的意義?
答案 (D)
核心概念
LIME 的運作流程分三步。
・針對想解釋的那一筆資料,在它附近產生一批擾動樣本
・把這些樣本丟進原本的黑箱模型取得預測結果
・用一個簡單的可解釋模型(通常是加權線性迴歸)去擬合這些「輸入-輸出」對應關係
這個簡單模型就是代理模型(Surrogate Model),它只在目標實例的鄰近區域有效,用途是解釋而非取代原模型。名稱中的 Local(局部)講的就是這件事。
在那一筆資料周圍撒一堆點,看黑箱怎麼反應,再用一條直線把這一小塊區域描出來。