iPAS AI 應用規劃師中級 115 年第一次 科一 第 41 題 詳解
115 年第一次 科一 人工智慧技術應用與規劃 · 考點:數據準備與模型選擇
某AI影像辨識平台以單一GPU伺服器提供多租戶推論服務,系統長期觀察到GPU使用率約維持在60%左右,且在執行過程中可觀察到GPU kernel之間存在明顯閒置間隔,單次推論多以小批次方式執行。然而,在尖峰時段時,請求延遲會出現明顯波動甚至突增。同時,CPU與記憶體資源使用率均未達瓶頸,且系統團隊已排除硬體、網路與請求併發控制異常。在此情境下,請判斷最可能造成問題的原因為何?
- AGPU排程策略與批次大小設定不當,導致GPU運算單元未被有效利用(正確答案)
小批次加kernel間隙,正是排程與批次設定造成的算力空轉。
- B請求併發控制機制不佳,導致多個請求同時搶占GPU Context資源造成延遲
題目已明講併發控制異常被排除,不能再當原因。
- CGPU硬體效能不足,無法支撐推論負載
硬體不足時使用率會逼近滿載,而非停在六成。
- D模型未進行量化優化,導致推論計算成本過高
量化不足會讓GPU持續忙碌,無法解釋kernel之間的閒置。
正確答案:A
能否從GPU使用率與kernel閒置間隔判讀推論服務的效能瓶頸來源。 先看題目排除了哪些因素,再從剩下的觀測數據反推唯一能解釋的瓶頸。
用刷8題準備 iPAS AI 應用規劃師中級
每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。
開始刷題同考點的題目
數據準備與模型選擇
- 115 年第一次 科一 第 43 題某電商平台的演算法工程師開發了一個新版商品推薦模型,在離線A/B測試中,新模型的各項評估指標(AUC、NDCG@10)均…
- 115 年第一次 科一 第 49 題某零售電商平台已建立模型監控儀表板,用於追蹤線上推薦模型的運作狀態與效能表現。維運工程師需判斷哪些指標屬於「線上持續監控…
- 115 年第一次 科一 第 50 題某醫療團隊建立肺炎診斷系統,採用晚期融合(Late Fusion)策略,將胸腔X光影像與病患問診文字分別進行預測後再整合…
- 114 年第二次 科一 第 7 題在企業導入的智慧監控系統中,模型以物件偵測(Object Detection)方式自動辨識影像中的人物與車輛。若評估指標…
- 114 年第二次 科一 第 10 題如果希望同時兼顧「精確率(Precision)」和「召回率(Recall)」,下列哪一個指標可以作為綜合評估的標準?