某物流公司導入自動駕駛貨車進行道路測試。測試期間,自駕系統誤將前方白色貨車車廂辨識為天空,導致車輛未減速而發生碰撞事故,造成人員受傷。事故調查時,技術團隊與系統供應商皆無法說明模型當時做出該判斷的依據,因此難以釐清事故責任。此案例最主要反映 AI 在高風險應用中的哪一項治理與責任挑戰?
答案 (B)
核心概念
說不出模型為什麼那樣判斷,事故就分不出責任,這是透明度與問責的治理挑戰。
題幹的重點在最後兩句:「無法說明模型判斷的依據」「難以釐清事故責任」。高風險 AI 應用的治理要求之一就是可解釋與可問責(Accountability):出事時要能回溯決策過程,才知道是軟體商的模型、車廠的整合,還是測試人員的操作出問題。決策是黑箱,責任就落不到任何人頭上。
本題詳解提到同卷第 45 題。
答題技巧
快速判斷技巧:題幹說「無法說明依據」「難以釐清責任」,答案就是決策不透明與責任歸屬。 ・說不出為什麼、分不出責任 → 透明度與問責 ・個資、資料品質、地圖更新 → 題幹沒提,排除
易錯陷阱:(C) 誤判白色車廂確實可能是訓練資料的問題,技術上說得通。 關鍵差異:題目問的是「治理與責任挑戰」,要回答的是制度層面,技術原因先放一邊。 本卷第 45 題考可解釋性的作法,第 46 題考缺乏可解釋性的後果,兩題連著讀。