iPAS AI 應用規劃師中級 114 年第二次 科三 第 21 題 詳解
114 年第二次 科三 機器學習技術與應用 · 考點:數據準備與特徵工程
某語音辨識系統開發團隊採用Transformer架構,為了讓模型能同時理解語音片段中的發音特徵、語速變化與語意脈絡等多層次資訊,團隊在設計中導入了多頭注意力(Multi-head Attention)機制。請問下列何者為此機制的主要優點?
- A減少模型參數量以降低訓練成本
多頭是把維度切分後平行運算,參數量並未減少。
- B加速整體注意力計算過程
速度來自平行化設計,不是多頭本身的目的。
- C從不同表示子空間(Representation Subspaces)同時捕捉多樣化關聯資訊(正確答案)
多組投影對應不同表示子空間,能同時捕捉多樣關聯。
- D避免梯度消失(Gradient Vanishing)問題
梯度消失靠殘差連接與層正規化處理。
正確答案:C
多頭注意力機制在 Transformer 架構中的核心作用與優點。 看到機制類題目,先問「它多做了什麼事」,而非它順帶造成的效率或穩定性效果。
用刷8題準備 iPAS AI 應用規劃師中級
每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。
開始刷題同考點的題目
數據準備與特徵工程
- 114 年第二次 科三 第 24 題某房地產公司利用多元迴歸模型(Multiple Regression Model)預測房價,並繪製殘差圖(Residua…
- 114 年第二次 科三 第 25 題某金融機構正在建立傳統信用評分卡模型,採用邏輯迴歸(Logistic Regression)作為建模方法,並依循監理機關…
- 114 年第二次 科三 第 26 題在防止監督式學習模型過擬合(Overfitting)時,下列哪一種策略不屬於降低模型複雜度或限制學習能力的作法?
- 114 年第二次 科三 第 27 題某智慧製造團隊在開發瑕疵影像檢測模型時,發現使用線性激活函數(Activation Function)後,模型的訓練準確…
- 114 年第二次 科三 第 28 題一家零售電商公司希望建立顧客流失預測模型,用以判斷哪些會員可能在三個月內不再消費。團隊以去年會員資料進行訓練,並僅採用「…