iPAS AI 應用規劃師中級 115 年第一次 科一 第 40 題 詳解

115 年第一次 科一 人工智慧技術應用與規劃

某智慧製造公司在產線上部署工業相機進行即時外觀瑕疵檢測，原先將影像傳至雲端進行AI推論，但因網路延遲與連線不穩導致系統無法滿足即時需求（需低於200ms）。工程師因此改為將模型部署於產線端的邊緣裝置後，但仍未達系統需求。在不更換硬體設備的前提下，下列哪一組技術最能有效降低推論延遲，同時維持合理準確率？

1. A減少訓練資料的使用數量，並重新訓練模型以提升推論效率

   減少訓練資料只會傷準確率，模型運算量不變。

2. B使用批次推論（Batch Inference）處理多張影像以提升計算效率

   批次推論提高吞吐量，卻要等湊滿批次，單張延遲更久。

3. C採用模型集成（Model Ensemble），透過多模型投票提升準確率

   多模型投票等於倍增運算，延遲必然惡化。

4. D將模型由FP32量化為INT8，並進行推論加速優化（正確答案）

   FP32 轉 INT8 量化減少運算與記憶體存取，延遲明顯下降。