iPAS AI 應用規劃師中級 115 年第一次 科三 第 3 題 詳解

115 年第一次 科三 機器學習技術與應用

某工程師在撰寫Transformer的Attention層時，需手動驗證矩陣維度是否相容。輸入矩陣Q已攤平成形狀為(1, 10)，Query投影權重矩陣WQ形狀為(10, 64)。執行Q x WQ後輸出的形狀為何？

1. A(1, 64)（正確答案）

   (1,10)×(10,64)，內維10相消，輸出取外維(1,64)。

2. B(10, 10)

   (10,10)是把內維誤當成輸出維度。

3. C(64, 1)

   (64,1)是把左右順序顛倒，等於算成轉置結果。

4. D維度不相容，無法相乘

   內維皆為10，完全相容，不存在無法相乘的問題。