iPAS AI 應用規劃師中級 115 年第一次 科三 第 8 題 詳解

115 年第一次 科三 機器學習技術與應用 · 考點:模型選擇與架構設計

某深度學習工程師訓練ResNet時,發現模型在前幾個Epoch驗證損失快速下降,但從第15個Epoch起驗證損失開始上升,而訓練損失持續下降。工程師將學習率調高後,訓練損失反而開始明顯震盪。學習率過大最直接導致下列哪種現象?

  1. A梯度消失(Gradient Vanishing):梯度在反向傳播中逐層縮小趨近於零,底層無法學習

    梯度消失源自深層連乘衰減,與步伐過大無關。

  2. B損失函數震盪或發散(Oscillation / Divergence):每次更新步伐過大,參數在最優點兩側反覆跳越,無法穩定收斂(正確答案)

    步伐過大在最優點兩側跳躍,損失震盪甚至發散。

  3. C過擬合(Overfitting):模型記憶訓練資料的雜訊,泛化能力下降

    過擬合來自第15輪後的驗證損失回升,非調高學習率所致。

  4. D死亡ReLU(Dying ReLU):大量神經元輸出永久為零,停止參與梯度更新

    死亡ReLU是負輸入致輸出恆零,屬激活函數特性。

正確答案:B

學習率過大對訓練過程造成的直接影響,以及與過擬合等現象的區辨。 先問「這個症狀是最佳化步伐造成,還是模型容量與資料造成」,再選對應現象。

用刷8題準備 iPAS AI 應用規劃師中級

每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。

開始刷題

模型選擇與架構設計

  1. 115 年第一次 科三 第 13 題某工程師訓練文本情感分類模型,訓練集F1=0.96、驗證集F1=0.71,落差明顯,顯示模型出現過擬合。下列哪一種策略能…
  2. 115 年第一次 科三 第 22 題某工程師建置企業內部知識問答的RAG系統,上線後發現部分問題檢索結果與查詢語意不符。分析後確認問題出在向量搜尋的語意匹配…
  3. 115 年第一次 科三 第 27 題某工程師建立零售商品銷量預測模型,初期以第1至52週資料作為訓練集、第53週作為測試集(固定時間切分)。半年後重新評估,…
  4. 115 年第一次 科三 第 35 題某團隊使用LoRA微調大型語言模型進行法律摘要任務,發現模型在複雜條款的摘要上常出現內容遺漏,但GPU顯存已接近上限。下…
  5. 115 年第一次 科三 第 37 題某銀行導入AI貸款審核系統,監管要求每筆被拒絕的申請須提供可理解的拒絕原因。技術主管評估以下方案,哪一種最能實現個別預測…