某公車系統想預測各站點的到站時間，需要考慮歷史班次資料、即時路況、天氣等因素。由於路況變化複雜，傳統循環神經網路（Recurrent Neural Network, RNN）在建模時可能難以保留較早期的重要資訊。下列哪種架構最能解決這個問題？

Question

(A) 卷積神經網路（Convolutional Neural Network, CNN），利用卷積層捕捉局部特徵
(B) 自編碼器（Autoencoder, AE），先進行資料壓縮再重建
(C) 全連接神經網路（Fully Connected Neural Network, FCNN），增加隱藏層數量
(D) 長短期記憶網路（Long Short-Term Memory, LSTM），改善 RNN 的長期記憶問題

Accepted Answer

正確答案：(D) 長短期記憶網路（Long Short-Term Memory, LSTM），改善 RNN 的長期記憶問題

傳統 RNN 在處理長序列時會遇到梯度消失，導致「很久以前的資訊」傳不到後面，也就是長期依賴問題。
LSTM 的解法是在每個時間步加入三道門：
・遺忘門：決定丟掉哪些舊記憶
・輸入門：決定寫入哪些新資訊
・輸出門：決定釋放多少
再搭配一條貫穿整個序列的細胞狀態（Cell State）當作記憶高速公路，讓重要資訊可以長距離傳遞而不衰減。
拿筆記本類比：遺忘門把舊筆記劃掉，輸入門寫上新重點，輸出門決定這次報告要念出哪幾行。純粹多加幾層紙是做不到這件事的。

核心概念