iPAS AI 應用規劃師中級 115 年第一次 科二 第 37 題 詳解

115 年第一次 科二 大數據處理分析與應用

某金融機構將訓練好的信用評分模型開放API供合作夥伴查詢。資安團隊警告此設計可能遭受成員推斷攻擊（Membership Inference Attack）。下列何者最準確說明攻擊原理與對應防禦？

1. A利用模型對訓練樣本的高信心輸出判斷其是否屬於訓練集；以差分隱私或降低輸出信心防禦（正確答案）

   信心分數差異洩漏成員身分，差分隱私可壓制。

2. B利用查詢次數與回應頻率差異判斷資料是否在訓練集中；以限制查詢次數防禦

   查詢頻率不是成員推斷的判斷訊號。

3. C透過模型輸出推測輸入的敏感特徵；以限制輸出資訊防禦

   這是屬性推斷，推的是特徵不是成員資格。

4. D透過大量查詢建立替代模型模擬目標模型；以限制模型存取防禦

   這是模型萃取，目標是複製模型。