iPAS AI 應用規劃師中級 115 年第一次 科三 第 35 題 詳解

115 年第一次 科三 機器學習技術與應用

某團隊使用LoRA微調大型語言模型進行法律摘要任務，發現模型在複雜條款的摘要上常出現內容遺漏，但GPU顯存已接近上限。下列哪種調整方式最能在不明顯增加記憶體使用的前提下改善模型表現？

1. A提高LoRA rank以增強模型表達能力

   提高 rank 會同步推升可訓練參數與顯存，違反題目限制。

2. B改用完整微調（Full Fine-tuning）以學習更多細節

   完整微調需更新全部權重，顯存需求遠高於 LoRA。

3. C降低LoRA rank以釋放記憶體並增加Batch Size

   降 rank 又縮表達力，換到的 Batch Size 無助於改善遺漏。

4. D降低LoRA rank但套用到更多層，保持trainable總參數不變（正確答案）

   參數總量不變但覆蓋更多層，提升適應廣度。