某醫療機構導入 AI 用藥諮詢輔助系統,系統在提供用藥建議後,皆會附上其引用的醫學文獻來源。院方主管認為:「只要系統附有引用文獻,代表該次回覆內容一定完全正確。」資訊室主任則向院方說明這個看法並不完全正確。請問資訊室主任最可能提出下列何種說明?
答案 (B)
核心概念
附來源只代表「可以查」,不代表「一定對」,模型仍可能誤解或引錯。
引用來源提供的是可追溯性(Traceability):醫護人員能回頭看那篇文獻,自己判斷 AI 有沒有引對。但模型在讀文獻、寫回覆的過程中,可能理解錯、斷章取義,甚至把文獻對到錯的結論。來源是查核的入口,查核還是要人做。
答題技巧
快速判斷技巧:「有來源就一定正確」是要被否定的,正解講「可追溯、可查核、但不保證」。 ・附來源 → 可追溯,方便人查核 ・不保證 → 模型可能誤解或引錯 ・自動重訓、等於醫師審核 → 編的
易錯陷阱:(D) 在醫療情境裡「已完成審核」聽起來很安心。 關鍵差異:來源是給人查的,審核是人做的事,系統標個來源取代不了。