跳到主要內容
115-3 科目二考古題依梯次與科目瀏覽
47

回饋資料未驗證造成的模型污染

某生成式 AI 服務用於協助工程師撰寫程式碼,並持續蒐集使用者修改後的程式碼,定期作為模型優化的訓練資料。數個月後,該服務的資訊安全團隊發現 AI 開始頻繁產生有安全漏洞的程式碼範例。經調查,發現部分回饋資料因具有安全問題的程式碼,混入模型優化流程而造成此漏洞。從 AI 導入與資訊安全的角度來看,下列何者最可能是造成此問題的主要原因?

請選擇一個答案

答案 B

核心概念

拿使用者回饋當訓練資料,沒先驗證就餵進去,壞資料就把模型帶壞了。 這是資料投毒(Data Poisoning)的一種:不見得是有人蓄意,使用者改過的程式碼本來就良莠不齊,有安全漏洞的那些混進最佳化流程,模型學了就開始產出有漏洞的範例。根本原因在流程缺了一道「訓練資料驗證」:進入訓練前要過安全掃描、品質檢查、人工抽審。

本題詳解提到同卷第 36 題。

答題技巧

快速判斷技巧:「回饋資料混入問題內容、模型學壞」,答案是缺少訓練資料驗證。 ・訓練前沒驗證 → 資料污染、模型學到壞習慣 ・提示詞、輸出長度、RAG → 都在推論階段,管不到訓練資料

易錯陷阱:(D) RAG 是科目二的萬用答案,看到「正確且安全的規範」就想選。 關鍵差異:題幹說問題出在「混入模型優化流程」,那是訓練階段,RAG 救不了已經學壞的模型。 本卷第 36 題的提示注入發生在推論時,第 47 題的資料投毒發生在訓練時,兩者常一起考。