iPAS AI 應用規劃師中級 115 年第一次 科三 第 23 題 詳解

115 年第一次 科三 機器學習技術與應用

某團隊開發法律文件生成系統，需根據合約前半段內容自動生成後半段條款。工程師分別使用BERT與GPT-2進行微調，但發現BERT的生成效果明顯較差，且即使增加訓練資料也無法改善。下列何者為最主要原因？

1. ABERT缺乏法律領域知識，因此生成能力較差

   領域知識可靠微調補足，不是架構層級的限制。

2. BBERT的分詞方式影響語意理解，導致生成效果不佳

   兩者都用子詞分詞，分詞不是生成失敗主因。

3. CBERT模型規模較小，因此生成能力不足

   參數規模非關鍵，放大BERT仍無法自迴歸生成。

4. DBERT無法根據前文逐步生成後續文字，較不適合此類任務（正確答案）

   正確，BERT非自迴歸架構，不適合續寫任務。