iPAS AI 應用規劃師中級 115 年第一次 科三 第 20 題 詳解

115 年第一次 科三 機器學習技術與應用 · 考點:數據準備與特徵工程

工程師在PyTorch中建構貓、狗、鳥三分類CNN,並使用交叉熵損失函數(CrossEntropyLoss)作為訓練目標。由於此損失函數在內部已包含Softmax計算,輸出層的設計需特別注意。請問輸出層的激活函數(Activation Function)與輸出維度應如何設定?

  1. A使用ReLU作為激活函數,輸出維度設為1,直接輸出單一數值作為預測結果

    ReLU 加單一輸出無法表達三類別,且會截斷負值。

  2. B使用Sigmoid作為激活函數,輸出維度設為3,使每個類別獨立輸出0到1的機率

    Sigmoid 各類獨立,適用多標籤而非互斥三分類。

  3. C不使用任何激活函數,直接輸出未經正規化的logits,輸出維度設為3對應三個類別(正確答案)

    正解:直接輸出 3 維 logits,交由損失函數內部處理。

  4. D使用Softmax作為激活函數,輸出維度設為3,輸出為已正規化的機率分布

    再加 Softmax 等於做兩次正規化,梯度失真。

正確答案:C

考 PyTorch 交叉熵損失與輸出層激活函數的搭配設計。 先確認損失函數內部是否已含 Softmax,再決定輸出層要不要再加激活。

用刷8題準備 iPAS AI 應用規劃師中級

每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。

開始刷題

數據準備與特徵工程

  1. 115 年第一次 科三 第 23 題某團隊開發法律文件生成系統,需根據合約前半段內容自動生成後半段條款。工程師分別使用BERT與GPT-2進行微調,但發現B…
  2. 115 年第一次 科三 第 30 題某信用風險模型:訓練AUC=0.97、驗證AUC=0.72、少數違約樣本預測波動極大及不同K-fold切分結果差異明顯。…
  3. 115 年第一次 科三 第 32 題某詐欺偵測模型需同時具備高精確率(Precision),以避免誤凍結正常帳號,並維持高召回率(Recall)表現,以確保…
  4. 115 年第一次 科三 第 44 題研究人員撰寫的程式中(下圖),先用整體資料進行LDA(Linear Discriminant Analysis)降維,接…
  5. 115 年第一次 科三 第 45 題研究人員在程式(下圖)中使用cross_val_score進行交叉驗證,但目前尚未設定cv參數。他們希望確保在每次資料分…