iPAS AI 應用規劃師中級 114 年第二次 科一 第 24 題 詳解

114 年第二次 科一 人工智慧技術應用與規劃

某金融機構的AI風控系統遭受對抗性攻擊，駭客透過對輸入特徵進行微小但惡意的擾動，成功欺騙了模型。為了從根本上解決模型自身對這類攻擊的脆弱性，下列何者並非針對此種攻擊型態的技術手段？

1. A強化資料前處理，用以過濾掉格式不符或數值極端異常的輸入

   輸入端過濾異常數值，屬模型前處理防線。

2. B在模型訓練階段導入對抗樣本訓練，以提升模型對惡意特徵擾動的辨識與防禦能力

   對抗訓練是最典型的模型強健性做法。

3. C於推論後階段使用規則引擎，以確保模型的預測結果不違反既有的業務硬性規定

   推論後規則引擎可攔下違規預測結果。

4. D在模型部署環境中強化網路防火牆，以阻擋來自未授權來源的網路連線（正確答案）

   防火牆管網路連線，碰不到特徵擾動。