iPAS AI 應用規劃師中級 114 年第二次 科一 第 37 題 詳解

114 年第二次 科一 人工智慧技術應用與規劃 · 考點:AI 導入規劃

某公司正在訓練一個大型語音合成模型,開發團隊使用多台GPU進行訓練,但經常出現GPU記憶體不足問題。由於模型架構已固定且無法更換硬體,團隊希望在維持模型效能與收斂品質的前提下,下列哪一種方法最有效降低單張GPU的記憶體壓力?

  1. A減少訓練資料量以降低記憶體使用

    砍訓練資料會直接損害模型效能,違反題目前提。

  2. B採用較小的批次大小(Batch Size)並搭配資料分片(Data Sharding)分散訓練負載(正確答案)

    縮小批次並分片,單卡每步載入量下降。

  3. C增加學習率(Learning Rate)以加快收斂速度

    學習率與記憶體無關,調高反而易發散。

  4. D改用測試資料集(Test Set)進行部分訓練以節省空間

    動用測試集訓練造成資料洩漏,評估失真。

正確答案:B

考在分散式訓練下如何降低單張GPU記憶體負擔。 先問「哪個做法只改變運算配置、不動資料品質與收斂條件」,那才是記憶體優化。

用刷8題準備 iPAS AI 應用規劃師中級

每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。

開始刷題

AI 導入規劃

  1. 114 年第二次 科一 第 45 題進行影像分類任務時,研究團隊嘗試利用主成分分析(Principal Component Analysis, PCA)將輸…
  2. 114 年第二次 科一 第 47 題某金融科技公司導入多任務學習架構,讓單一Transformer模型同時執行OCR(Optical Character R…
  3. 114 年第二次 科一 第 49 題某電商平台導入AI情感分析模型,用以自動偵測顧客評論中的負面情緒並觸發客服機制。然而,上線後發現模型在面對不同語言或族群…
  4. 115 年第一次 科一 第 2 題一家新創公司希望對Llama3 70B模型進行領域微調(Domain Fine-Tuning)以建立企業專用助理,但GP…
  5. 115 年第一次 科一 第 9 題某團隊在監控影像分類模型的線上效能時,透過儀表板呈現混淆矩陣(Confusion Matrix),以觀察模型預測結果與實…