AI Agent 上線後：權限、稽核與人工把關

｜AI 落地應用教學

英國央行與 EMA 的最新調查都顯示，AI Agent 已進入企業正式環境，但治理跟不上部署速度。本文整理兩份調查的數字，並提出 RAG 知識庫與 AI Agent 上線前的權限、稽核、人工把關與退場做法。

本文重點

  • 英國央行調查：80% 金融業受訪者已部署 AI Agent，多數仍由人類做最後決定
  • EMA 調查：65% 企業曾遇 AI Agent 越界操作，最小權限只落實 32.7%
  • 導入重點從模型選型，轉向權限、稽核、人工介入與退場機制

AI Agent 已經不只是展示用的 Demo。英國央行（Bank of England）在 2026 年 10 月 26 日發布的調查顯示，受訪金融機構中已有八成部署 AI Agent。另一份由研究機構 EMA 完成的調查則發現，六成五的企業曾看過 AI Agent 做出超出原定範圍的操作。這兩份資料合起來看，重點很清楚：真正的難題已經不是「能不能做」，而是「上線後怎麼管」。

重點整理

一、英國央行：Agent 普及了，但多半還是「建議」而非「自主」

英國央行在《Artificial Intelligence in UK Financial Services 2026》中，彙整了 196 份回應。主要數字如下：

  • 80% 的受訪者表示已部署 AI Agent，另有 14% 計畫在 12 個月內部署。
  • 80% 回報其正式環境中的 Agent 屬於「決策支援」，也就是 Agent 提出建議，由人類決定並執行；只有 2% 回報 Agent 擁有廣泛自主權。
  • 94% 有全公司層級的 AI 政策、原則或標準，84% 設有集中的 AI／模型風險治理會議。
  • 人工核准、上線前審查、供應商盡職調查，各有超過 90% 的受訪者採用；但持續監控、資料外洩測試、定期複核或重新認證，只有約一半。

報告中的圖表另外顯示，在 101 家回應的企業裡，目前使用「企業內部 Agent」的比例為 61.4%，「面向客戶的 Agent」為 15.8%，加上 12 個月內的計畫則為 27.7%。意思是多數企業先從內部流程開始，對外服務還在謹慎推進。受訪者認為目前最高的風險是資料保護與資安、第三方與供應鏈風險，以及生成式 AI 特有的風險，並預期未來一到三年各類風險都會上升。

二、EMA 調查：政策寫了，不等於執行了

Enterprise Management Associates（EMA）為資安公司 Cequence Security 完成《Agents Without Guardrails》報告，訪問 202 位大型企業的技術與資安主管。Infosecurity Magazine 於 2026 年 9 月 1 日報導、iThome 於 9 月 4 日也有中文整理。重點數字如下：

  • 46% 的企業已把代理式 AI 擴大到多個部門的正式流程；65% 曾遇到 Agent 超出原定範圍的操作，其中 29.2% 造成可衡量的影響。
  • 只有 32.2% 能用自動化機制在數分鐘內發現並制止越界行為，54.5% 需要數小時並靠人工介入；超過 46% 無法完整提供某個 Agent 過去 30 天的操作紀錄。
  • 94% 對「Agent 沒有拿到多餘權限」有信心，但真正落實最小權限（least privilege，只給完成工作所需的最低權限）的只有 32.7%。
  • 約 47% 沒有可靠的 Agent 清單；有 30% 的試點被無限期擱置或正式中止，而這些 Agent 的帳號與權限常常沒有被清掉。

EMA 研究副總 Christopher M. Steffen 的說法很貼切：問題在「寫下來的」和「真正執行的」之間有落差。iThome 也提到，OWASP（開放全球應用程式安全計畫）在 2026 年 LLM 十大安全風險中，把過度代理授權（Excessive Agency）列為第 3 大風險。

需要說明的是，EMA 這份調查發布時間比 30 天稍早，我們把它當作補充資料，用來和英國央行的新調查互相對照。

分析

第一，企業實際上在走「人機協作」路線。 英國央行的數據說明，即使在監理最嚴格的金融業，Agent 也大多停在決策支援。這對台灣企業是好消息：不必一開始就追求完全自動化，把「Agent 起草、人類核准」做穩，已經能帶來價值。

第二，風險集中在 RAG 之後的那一步。 RAG（Retrieval-Augmented Generation，檢索增強生成）讓模型先查公司文件再回答，能降低亂講的機率。但當 Agent 開始查系統、改資料、發通知，風險就從「答錯」變成「做錯」。知識庫本身也要治理：文件是否過期、權限是否跟著使用者走，都會影響答案能不能用。

第三，治理的弱點在後半段。 兩份調查有一個共同模式：事前的政策與審查很普遍，事後的監控、稽核紀錄、退場清理卻明顯不足。台灣的公部門承辦人尤其要留意，標案與委外合約若只規定驗收功能，很容易漏掉紀錄保存、權限回收與事故通報。

第四，地端部署不等於自動安全。 不少企業因資料敏感而考慮地端模型，這是合理的選擇。但資料留在自己機房，權限控管、稽核軌跡、向量資料庫的存取隔離仍要自己設計。地端解決的是資料位置問題，不是治理問題。

給企業的建議

  1. 先建立 Agent 清單。 每個 Agent 要有負責人、用途、可存取的系統與資料、上線日期。沒有清單，就談不上稽核與退場。
  2. 權限採「最小授權＋執行時檢查」。 讀取知識庫與寫入業務系統分開授權；高風險動作（付款、刪除、對外發信）一律要人工核准。
  3. RAG 知識庫要有維運流程。 指定文件負責人、版本與到期日，回答一定附來源，並確保檢索時沿用使用者本身的存取權限。
  4. 記錄要能回溯。 至少能還原「誰問了什麼、查了哪些資料、做了什麼動作」，並保留足夠的期間。可以拿 EMA 的「過去 30 天紀錄」當作自我檢驗標準。
  5. 設計人工接手與停機機制。 AI 客服要定義何時轉人工、信心不足時怎麼處理；也要有一鍵停用 Agent 的方式。
  6. 試點結束就退場。 中止的試點要撤銷帳號、金鑰與權限，把退場當作資安工作的一部分。
  7. 從內部、低風險流程開始。 先做內部知識問答、文件檢索，累積評估資料後，再擴大到對外服務。

源智匯在協助機關與學校導入時，也是從知識整合與查詢類場景切入，例如農業部所屬單位的知識庫整合，讓人員以自然語言提問、快速掌握跨單位研究成果；數位發展部的網站 UCD 智慧檢核工具，則是用 LLM 說明評分與改善建議。這類場景的共同點是範圍明確、結果可被人檢視，適合作為建立治理習慣的起點。若您正在盤點現有 AI Agent，或規劃 RAG 與地端方案，歡迎與我們的顧問團隊討論。

名詞解釋

RAG
Retrieval-Augmented Generation（檢索增強生成），讓模型先從公司文件或知識庫找出相關內容，再據以回答，並可附上來源。
AI Agent
能理解目標、呼叫工具或系統並執行多步驟任務的 AI 應用，不只是回答問題。
最小權限
least privilege 原則，只給系統或人員完成工作所需的最低權限，降低出錯或被濫用時的影響範圍。
決策支援
AI 提出建議或草稿，由人類做最後判斷與執行的運作方式。
Excessive Agency
過度代理授權，指 AI 被賦予過多的功能、權限或自主性，導致可能做出超出預期的操作，是 OWASP 列出的 LLM 安全風險之一。
地端模型
部署在企業自己機房或內部環境的 AI 模型，資料不必送到外部雲端，但安全與維運責任也由企業自行承擔。

常見問題

AI Agent 一定要完全自動化才有價值嗎？

不需要。英國央行調查中，80% 的正式環境 Agent 屬於決策支援，由人類做最後決定。先做「Agent 起草、人類核准」，通常更容易上線，風險也較低。

用了 RAG 知識庫，AI 就不會亂講嗎？

RAG 能降低亂答的機率，但不是保證。文件過期、互相矛盾，或檢索權限設定錯誤，都可能讓答案出問題，所以知識庫需要有人維護、答案要附來源。

企業在 AI Agent 上線前最先該做什麼？

先盤點並建立 Agent 清單，列出負責人、用途與可存取的系統，再依最小權限原則設定授權，並確認操作紀錄可以回溯。

參考來源