iPAS AI 應用規劃師中級 115 年第一次 科三 第 23 題 詳解

115 年第一次 科三 機器學習技術與應用 · 考點:數據準備與特徵工程

某團隊開發法律文件生成系統,需根據合約前半段內容自動生成後半段條款。工程師分別使用BERT與GPT-2進行微調,但發現BERT的生成效果明顯較差,且即使增加訓練資料也無法改善。下列何者為最主要原因?

  1. ABERT缺乏法律領域知識,因此生成能力較差

    領域知識可靠微調補足,不是架構層級的限制。

  2. BBERT的分詞方式影響語意理解,導致生成效果不佳

    兩者都用子詞分詞,分詞不是生成失敗主因。

  3. CBERT模型規模較小,因此生成能力不足

    參數規模非關鍵,放大BERT仍無法自迴歸生成。

  4. DBERT無法根據前文逐步生成後續文字,較不適合此類任務(正確答案)

    正確,BERT非自迴歸架構,不適合續寫任務。

正確答案:D

考生能否分辨編碼器型與解碼器型語言模型適用的任務類型。 先看任務是「理解分類」還是「逐字生成」,再對應模型架構屬編碼器或自迴歸解碼器。

用刷8題準備 iPAS AI 應用規劃師中級

每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。

開始刷題

數據準備與特徵工程

  1. 115 年第一次 科三 第 30 題某信用風險模型:訓練AUC=0.97、驗證AUC=0.72、少數違約樣本預測波動極大及不同K-fold切分結果差異明顯。…
  2. 115 年第一次 科三 第 32 題某詐欺偵測模型需同時具備高精確率(Precision),以避免誤凍結正常帳號,並維持高召回率(Recall)表現,以確保…
  3. 115 年第一次 科三 第 44 題研究人員撰寫的程式中(下圖),先用整體資料進行LDA(Linear Discriminant Analysis)降維,接…
  4. 115 年第一次 科三 第 45 題研究人員在程式(下圖)中使用cross_val_score進行交叉驗證,但目前尚未設定cv參數。他們希望確保在每次資料分…
  5. 115 年第一次 科三 第 49 題若團隊需要建立一個超過50層的深層神經網路,以捕捉晶圓表面細微的劃傷特徵,但又擔心傳統深層網路常見的梯度消失(Vanis…