iPAS AI 應用規劃師中級 115 年第一次 科一 第 29 題 詳解

115 年第一次 科一 人工智慧技術應用與規劃

某工程師為一套卷積神經網路（CNN）的醫療影像輔助診斷系統設計模型可解釋性機制。該系統需滿足下列需求：1.能向醫師說明影像被判定為異常的原因2.支援近即時推論，每次解釋須於200毫秒內完成，且不可進行大量重複採樣計算3.解釋結果須以影像中具代表性的視覺化像素區域呈現在此情境下，下列何種方法最為適合？

1. A使用LIME，透過超像素擾動取樣分析影像區塊對預測的影響

   超像素擾動需多次重複取樣推論，難達200毫秒。

2. B使用SHAP KernelExplainer，計算各像素的Shapley值並疊加於原始影像

   KernelExplainer為取樣近似，像素級計算成本極高。

3. C使用Grad-CAM（Class Activation Map），透過梯度反向傳播生成類別關注區域（正確答案）

   單次梯度反傳即得類別熱區，符合即時與視覺化需求。

4. D使用SHAP TreeExplainer，計算特徵貢獻並以熱力圖呈現

   TreeExplainer限樹模型，不適用CNN。