iPAS AI 應用規劃師中級 115 年第一次 科三 第 35 題 詳解
115 年第一次 科三 機器學習技術與應用 · 考點:模型選擇與架構設計
某團隊使用LoRA微調大型語言模型進行法律摘要任務,發現模型在複雜條款的摘要上常出現內容遺漏,但GPU顯存已接近上限。下列哪種調整方式最能在不明顯增加記憶體使用的前提下改善模型表現?
- A提高LoRA rank以增強模型表達能力
提高 rank 會同步推升可訓練參數與顯存,違反題目限制。
- B改用完整微調(Full Fine-tuning)以學習更多細節
完整微調需更新全部權重,顯存需求遠高於 LoRA。
- C降低LoRA rank以釋放記憶體並增加Batch Size
降 rank 又縮表達力,換到的 Batch Size 無助於改善遺漏。
- D降低LoRA rank但套用到更多層,保持trainable總參數不變(正確答案)
參數總量不變但覆蓋更多層,提升適應廣度。
正確答案:D
LoRA 微調中 rank 與套用層數對記憶體與表達能力的取捨。 先問哪個變數會動到可訓練參數量與顯存,再看哪個選項只重新分配而不增加總量。
用刷8題準備 iPAS AI 應用規劃師中級
每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。
開始刷題同考點的題目
模型選擇與架構設計
- 115 年第一次 科三 第 37 題某銀行導入AI貸款審核系統,監管要求每筆被拒絕的申請須提供可理解的拒絕原因。技術主管評估以下方案,哪一種最能實現個別預測…
- 115 年第一次 科三 第 39 題某銀行信貸模型上線後稽核發現,女性申請者中「實際具有還款能力卻被模型拒絕」的比例顯著高於男性,但法務限制不允許在推論階段…
- 115 年第一次 科三 第 40 題分析師準備建立一個能將手寫數字圖片(28x28像素展平為784維度)分為0~9共10個類別的多層感知機(MLP),且標籤…
- 115 年第一次 科三 第 47 題參考下圖建立模型結果,下列哪一項描述組合正確?
- 114 年第二次 科三 第 2 題在建立迴歸或分類模型時,若希望避免模型過度擬合(Overfitting),可透過加入正則化項以限制模型的複雜度。其中,L…