iPAS AI 應用規劃師中級 115 年第一次 科三 第 21 題 詳解

115 年第一次 科三 機器學習技術與應用 · 考點:數據準備與特徵工程

某工程師將一個大型預訓練模型部署至資源受限的行動裝置,發現模型體積過大且推論效率不足。為降低模型大小並提升推論速度,他將原本32-bit浮點數權重轉換為8-bit整數。在不重新訓練模型的前提下,請問此過程稱為何?

  1. A知識蒸餾(Knowledge Distillation)

    知識蒸餾要另訓小模型去學大模型輸出,需訓練。

  2. B權重剪枝(Pruning)

    剪枝是刪掉不重要的權重或連結,參數精度不變。

  3. C張量分解(Tensor Decomposition)

    張量分解是把權重矩陣拆解降秩,改的是結構。

  4. D模型量化(Quantization)(正確答案)

    正解:FP32轉INT8是降低數值精度的量化。

正確答案:D

模型壓縮技術中「量化」的定義與適用情境 先看題目動到的是數值精度、參數數量還是模型架構,再對應壓縮手法。

用刷8題準備 iPAS AI 應用規劃師中級

每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。

開始刷題

數據準備與特徵工程

  1. 115 年第一次 科三 第 23 題某團隊開發法律文件生成系統,需根據合約前半段內容自動生成後半段條款。工程師分別使用BERT與GPT-2進行微調,但發現B…
  2. 115 年第一次 科三 第 30 題某信用風險模型:訓練AUC=0.97、驗證AUC=0.72、少數違約樣本預測波動極大及不同K-fold切分結果差異明顯。…
  3. 115 年第一次 科三 第 32 題某詐欺偵測模型需同時具備高精確率(Precision),以避免誤凍結正常帳號,並維持高召回率(Recall)表現,以確保…
  4. 115 年第一次 科三 第 44 題研究人員撰寫的程式中(下圖),先用整體資料進行LDA(Linear Discriminant Analysis)降維,接…
  5. 115 年第一次 科三 第 45 題研究人員在程式(下圖)中使用cross_val_score進行交叉驗證,但目前尚未設定cv參數。他們希望確保在每次資料分…