iPAS AI 應用規劃師中級 114 年第二次 科一 第 37 題 詳解

114 年第二次 科一 人工智慧技術應用與規劃

某公司正在訓練一個大型語音合成模型，開發團隊使用多台GPU進行訓練，但經常出現GPU記憶體不足問題。由於模型架構已固定且無法更換硬體，團隊希望在維持模型效能與收斂品質的前提下，下列哪一種方法最有效降低單張GPU的記憶體壓力？

1. A減少訓練資料量以降低記憶體使用

   砍訓練資料會直接損害模型效能，違反題目前提。

2. B採用較小的批次大小（Batch Size）並搭配資料分片（Data Sharding）分散訓練負載（正確答案）

   縮小批次並分片，單卡每步載入量下降。

3. C增加學習率（Learning Rate）以加快收斂速度

   學習率與記憶體無關，調高反而易發散。

4. D改用測試資料集（Test Set）進行部分訓練以節省空間

   動用測試集訓練造成資料洩漏，評估失真。