iPAS AI 應用規劃師中級 114 年第二次 科一 第 31 題 詳解

114 年第二次 科一 人工智慧技術應用與規劃

某AI服務系統每次推論請求需約1秒完成，且必須支撐高達10,000次請求每秒（RPS）的流量。為確保系統具備高可用性且能穩定應付流量峰值，下列哪一種架構方案最為合適？

1. A依賴單台超高效能伺服器進行垂直擴展，提升硬體規格

   垂直擴展有硬體上限且單點故障，無法支撐萬級 RPS。

2. B採用容器化部署並水平擴展服務實例，結合自動彈性伸縮機制（Auto Scaling）（正確答案）

   容器化加水平擴展與 Auto Scaling，可隨峰值增減實例並避免單點。

3. C限制最大併發連線數，以避免系統過載

   限流只是保護機制，會直接拒絕請求，沒有提升承載量。

4. D增加批次處理大小，一次同時處理上千筆請求

   加大批次會拉長等待延遲，犧牲即時性也不解決可用性。