偏差跟變異是模型的兩種失敗方式，而且會互相拉扯。 拿準備考試比喻。有人只記三個重點就進考場，題目稍微變化就答不出來，這是偏差太高。有人把考古題一字不漏背下來，連題號順序都記得，換一份考卷卻整個崩潰，這是變異太高。兩種都考不好，但原因剛好相反。 ・偏差（Bias）：模型太簡單，學不到資料真正的規律，結果就是欠擬合（Underfitting） ・變異（Variance）：模型太複雜，連訓練資料的雜訊都背起來，結果就是過度擬合（Overfitting） 把模型變複雜可以降低偏差，但變異會跟著上去，反過來也一樣。所謂權衡，就是在這條線上找總誤差最小的那個點。