iPAS AI 應用規劃師中級 115 年第一次 科三 第 16 題 詳解

115 年第一次 科三 機器學習技術與應用

某資料科學家在信用評分任務中使用XGBoost建立模型，發現模型在訓練集表現良好但驗證集出現過擬合跡象。他檢視其模型設計，發現XGBoost在目標函數（Objective Function）中引入額外的正則化機制以控制模型複雜度。相較於傳統梯度提升決策樹（GBDT），XGBoost在其核心目標函數中加入了下列哪一種關鍵設計，使其具備更強的防過擬合能力？

1. A加入樹的複雜度懲罰項（包含深度、葉節點數量與葉節點權重的L2正則化）（正確答案）

   目標函數＝損失項＋樹複雜度懲罰，含葉節點數與權重 L2。

2. B加入動態學習率（Dynamic Learning Rate）的強制衰減機制

   學習率是外部超參數，非目標函數內建的衰減設計。

3. C加入卷積運算（Convolution）以萃取特徵間的空間關係

   卷積屬於 CNN 影像處理，與樹模型無關。

4. D強制所有決策樹深度為1（Decision Stumps）

   固定深度為 1 是 AdaBoost 弱學習器慣例，非 XGBoost 規定。