iPAS AI 應用規劃師中級 115 年第一次 科三 第 21 題 詳解

115 年第一次 科三 機器學習技術與應用

某工程師將一個大型預訓練模型部署至資源受限的行動裝置，發現模型體積過大且推論效率不足。為降低模型大小並提升推論速度，他將原本32-bit浮點數權重轉換為8-bit整數。在不重新訓練模型的前提下，請問此過程稱為何？

1. A知識蒸餾（Knowledge Distillation）

   知識蒸餾要另訓小模型去學大模型輸出，需訓練。

2. B權重剪枝（Pruning）

   剪枝是刪掉不重要的權重或連結，參數精度不變。

3. C張量分解（Tensor Decomposition）

   張量分解是把權重矩陣拆解降秩，改的是結構。

4. D模型量化（Quantization）（正確答案）

   正解：FP32轉INT8是降低數值精度的量化。