iPAS AI 應用規劃師中級 115 年第一次 科三 第 20 題 詳解

115 年第一次 科三 機器學習技術與應用

工程師在PyTorch中建構貓、狗、鳥三分類CNN，並使用交叉熵損失函數（CrossEntropyLoss）作為訓練目標。由於此損失函數在內部已包含Softmax計算，輸出層的設計需特別注意。請問輸出層的激活函數（Activation Function）與輸出維度應如何設定？

1. A使用ReLU作為激活函數，輸出維度設為1，直接輸出單一數值作為預測結果

   ReLU 加單一輸出無法表達三類別，且會截斷負值。

2. B使用Sigmoid作為激活函數，輸出維度設為3，使每個類別獨立輸出0到1的機率

   Sigmoid 各類獨立，適用多標籤而非互斥三分類。

3. C不使用任何激活函數，直接輸出未經正規化的logits，輸出維度設為3對應三個類別（正確答案）

   正解：直接輸出 3 維 logits，交由損失函數內部處理。

4. D使用Softmax作為激活函數，輸出維度設為3，輸出為已正規化的機率分布

   再加 Softmax 等於做兩次正規化，梯度失真。