跳到主要內容
115-3 科目一考古題依梯次與科目瀏覽
45

LIME 的局部擾動解釋方式

某銀行導入 AI 模型進行貸款核准判斷,主管要求必須具備可解釋人工智慧(XAI)機制,以便在客戶被拒貸時,能向審查人員說明該客戶被判定拒貸的主要原因。下列何者最符合 LIME 的運作方式,以用於提供單一客戶預測結果解釋?

請選擇一個答案

答案 D

核心概念

LIME 在那一筆資料附近造一堆模擬樣本,用簡單模型看哪些特徵影響了這一次的預測。 LIME(Local Interpretable Model-agnostic Explanations)的做法: ・拿被拒貸的客戶資料,微調各項特徵產生很多相近的模擬樣本 ・把模擬樣本丟給原模型看預測結果怎麼變 ・用一個簡單的線性模型去擬合這些變化,線性模型的係數就是各特徵的影響程度 它只解釋「這一筆」,而且不管原模型內部長什麼樣,所以叫「局部」「模型無關」。

本題詳解提到同卷第 35 題。

答題技巧

快速判斷技巧:LIME 找「附近模擬樣本」「單一客戶」「特徵影響程度」三個關鍵字。 ・單一筆、附近擾動、簡單模型擬合 → LIME ・所有案件、整體規律 → 全域解釋 ・拆模型內部看參數 → 跟 LIME 無關

易錯陷阱:(B) 全域解釋也在算特徵重要性,容易覺得「套用到該客戶」就可以了。 關鍵差異:LIME 是為這一筆量身分析,全域的重要性套過來不代表這個人的情況。 本卷第 35 題問全域、第 45 題問局部,一起讀就分得清。