下列哪一項是可解釋人工智慧(XAI)領域,LIME(Local Interpretable Model-agnostic Explanations)最可能被用於的情境?
答案 (C)
核心概念
LIME 的定位是「針對單一預測結果,說明模型為什麼這樣判斷」。
想像一個被拒貸的人來問「為什麼是我」。LIME 回答的就是這一筆為什麼,不是回答系統跑得快不快、安不安全。
它會在該筆資料附近產生擾動樣本,用簡單的可解釋模型近似黑箱在這個小鄰域的行為,藉此指出哪些特徵推高、哪些特徵拉低了預測結果。因此它的典型應用場景,就是需要對個案給出決策理由的情境。貸款被拒、保單被加費、履歷被篩掉。
答題技巧
快速判斷技巧:XAI 的題目只要看選項有沒有在講「模型為什麼做出這個決定」。 談速度、效能、資安的一律排除,這些跟解釋模型行為完全無關。
易錯陷阱:本卷出現五題 XAI,顯示這是重點章節: ・第 31 題 PDP ・第 32 題 LIME 代理模型 ・第 37 題顯著性圖 ・第 42 題 LIME 應用 ・第 43 題 SHAP 建議把「LIME/SHAP/顯著性圖=局部解釋,PDP/特徵重要性=全域解釋」這張表背熟,五題都能秒答。