iPAS AI 應用規劃師中級 115 年第一次 科一 第 27 題 詳解

115 年第一次 科一 人工智慧技術應用與規劃

某醫院計劃導入一套AI醫療影像診斷輔助系統，用於輔助放射科醫師判讀CT影像。院方技術委員會討論在人命攸關且需確保最終臨床決策責任由人類承擔的情境下，從系統設計架構層面，最關鍵的安全機制為何？

1. A採用人機協作（Human-in-the-Loop, HITL）架構，由醫師最終審核決策（正確答案）

   由醫師最終審核，責任與決策權留在人類手上。

2. B模型信心低於閾值（Threshold）即自動關機

   低信心就關機，等於中斷服務，未解決課責問題。

3. C隨機切換模型並以多數決決策

   隨機多數決缺乏臨床依據，反而讓責任更模糊。

4. D對輸入影像加入隨機擾動

   對影像加擾動會破壞診斷資訊，屬攻擊手法而非安全機制。