下列哪一項是可解釋人工智慧(XAI)領域,LIME(Local Interpretable Model-agnostic Explanations)最可能被用於的情境?
答案 (C)
核心概念
LIME 的定位是「針對單一預測結果,說明模型為什麼這樣判斷」。
想像一個被拒貸的人來問「為什麼是我」。LIME 回答的就是這一筆為什麼,不是回答系統跑得快不快、安不安全。
它會在該筆資料附近產生擾動樣本,用簡單的可解釋模型近似黑箱在這個小鄰域的行為,藉此指出哪些特徵推高、哪些特徵拉低了預測結果。因此它的典型應用場景,就是需要對個案給出決策理由的情境。貸款被拒、保單被加費、履歷被篩掉。