iPAS AI 應用規劃師中級 115 年第一次 科三 第 9 題 詳解

115 年第一次 科三 機器學習技術與應用

某工程師訓練深度神經網路時發現損失函數震盪嚴重且收斂速度慢，改用Adam優化器後訓練變得穩定且收斂更快。下列何者為Adam能改善此問題的主要原因？

1. A同時結合一階動量（Momentum）與自適應學習率（Adaptive Learning Rate），為每個參數調整更新步長（正確答案）

   動量加自適應學習率，正是 Adam 的組成。

2. B強制所有參數使用相同學習率（Learning Rate），避免梯度差異造成不穩定

   統一學習率是 SGD 的作法，非 Adam。

3. C透過批次正規化（Batch Normalization）重新分布輸入資料

   批次正規化是網路層技術，不屬優化器。

4. D將梯度裁剪為固定範圍以避免梯度爆炸（Gradient Explosion）

   梯度裁剪是另一種獨立手段，Adam 不靠它。