iPAS AI 應用規劃師中級 114 年第二次 科一 第 31 題 詳解

114 年第二次 科一 人工智慧技術應用與規劃 · 考點:電腦視覺技術與應用

某AI服務系統每次推論請求需約1秒完成,且必須支撐高達10,000次請求每秒(RPS)的流量。為確保系統具備高可用性且能穩定應付流量峰值,下列哪一種架構方案最為合適?

  1. A依賴單台超高效能伺服器進行垂直擴展,提升硬體規格

    垂直擴展有硬體上限且單點故障,無法支撐萬級 RPS。

  2. B採用容器化部署並水平擴展服務實例,結合自動彈性伸縮機制(Auto Scaling)(正確答案)

    容器化加水平擴展與 Auto Scaling,可隨峰值增減實例並避免單點。

  3. C限制最大併發連線數,以避免系統過載

    限流只是保護機制,會直接拒絕請求,沒有提升承載量。

  4. D增加批次處理大小,一次同時處理上千筆請求

    加大批次會拉長等待延遲,犧牲即時性也不解決可用性。

正確答案:B

考高流量 AI 推論服務的高可用架構設計,水平擴展與自動彈性伸縮的選用。 看到流量峰值與高可用需求,先問哪個方案能動態增減實例而非單點硬撐。

用刷8題準備 iPAS AI 應用規劃師中級

每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。

開始刷題

電腦視覺技術與應用

  1. 114 年第二次 科一 第 40 題下列哪一項最正確地描述了VAE(Variational Autoencoder)、GAN(Generative Adve…
  2. 115 年第一次 科一 第 5 題某電商平台的工程師在開發商品評論情感分析系統時,發現使用One-Hot編碼無法表達詞語之間的語意關係,且隨著詞彙表擴大,…
  3. 115 年第一次 科一 第 24 題某即時詐欺偵測系統對模型回應時間有嚴格限制,若推論延遲過高將影響交易核准流程。維運工程師在模型上線前進行延遲測試(Lat…
  4. 115 年第一次 科一 第 25 題某企業欲將其AI輔助決策系統提交給外部稽核單位審查,並宣稱符合NIST《AI風險管理框架》(NIST AI RMF)中可…
  5. 115 年第一次 科一 第 26 題某銀行導入一套AI授信審核系統,針對貸款申請人進行自動化決策。監理單位要求系統必須符合負責任AI(Responsible…