RAG 權限、地端 LLM 治理與雲端 AI 合約風險

|AI 落地應用教學

本週有三則和企業 AI 落地有關的新資料:AWS 發布具權限控管的 RAG 與使用者記憶做法、聆機科技推出地端 LLM 治理平台 AnyInsight Edge、北美智權報提醒雲端 AI 可能牴觸 NDA。共同重點是權限、治理與契約要在上線前處理。

本文重點

  • AWS 示範 RAG 檢索依使用者文件權限過濾,使用者記憶也彼此隔離
  • 地端 LLM 若沒有閘道與稽核,容易出現影子 Agent 與影子 AI
  • 使用雲端 AI 處理他人資料,可能在上傳當下就違反 NDA

最近有三則資料,都在談同一件事:企業 AI 要上線,難處常常不在模型,而在權限、治理和契約。AWS 在 2026 年 11 月 16 日發布 RAG 加上使用者記憶的做法。聆機科技在 11 月 12 日推出地端 LLM 治理產品。台灣的《北美智權報》則在 11 月 16 日提醒,雲端 AI 可能牴觸保密協議。

重點整理

一、AWS:RAG 要先分清楚「誰能看到什麼」

RAG(Retrieval-Augmented Generation,檢索增強生成)是讓 AI 先查企業內部資料,再根據資料回答。依第三方技術媒體 explainx.ai 整理,AWS 在 2026 年 11 月 16 日發布指南。指南說明在 Amazon Bedrock 的託管知識庫(Managed Knowledge Base)中,如何用 Agentic Retrieve 同時查文件和使用者的長期記憶。

指南的範例是多人共用的員工助理。文件存取用 S3 上的 ACL(存取控制清單)設定,每位使用者只能檢索被授權的文件。記憶則透過 AgentCore 的 actor ID 與 IAM 條件隔離,讓每個人的記憶保持私有。

文中也列出幾項限制。ACL 設定在建立資料來源後不能更改,沒有被 ACL 涵蓋的文件不會被匯入,且 retrievalConfigs 只支援一個 namespacePath。這提醒我們,權限設計要在建置初期想清楚,上線後再改的成本不低。以上內容出自 explainx.ai 的整理,細節請以 AWS 官方文件為準。

二、聆機科技 AnyInsight Edge:私有模型不能只剩聊天視窗

聆機科技在 2026 年 11 月 12 日發表 AnyInsight Edge,把原有的企業 AI 資安與治理平台延伸到企業機房與 AI 伺服器。新聞稿指出,不少企業已部署私有 LLM,但模型常常只停留在內部聊天介面,接不到 ERP、MES、CRM 等核心系統。若自行串接,Agent 在機房內跨系統讀取、搬移資料的流量不經過網路防火牆。各部門各自架設、直接呼叫地端模型的 Agent,則會形成 IT 看不到的「影子 Agent」(Shadow Agent)。

產品的做法,是在地端模型前面加上 AI 路由閘道(AI Gateway)與零信任的生成式 AI 防火牆。每次請求都由政策引擎檢查並記錄,未經核准的 Agent 不能直接呼叫模型。這是廠商發布的資訊,實際效果仍須自行驗證,但它點出的問題很具體:地端部署不等於自動安全。

三、北美智權報:雲端 AI 的風險可能在合約,而不是外洩

《北美智權報》第 416 期指出,AI 文字浮水印上線後,使用雲端 AI 處理的內容更容易被事後查證。文章提到 Anthropic 表示正在為 8 月 2 日前推出的舊模型補上浮水印。

文章的核心論點是,許多保密協議(NDA)禁止未經同意把資料交給第三方,而雲端 AI 服務商就是第三方。是否違約,在上傳那一刻就已決定,和資料後來有沒有外流無關。文章也不主張一律禁用。它建議風險分級管理,例如選用不拿資料訓練的企業方案或 API、只處理必要或低風險內容、上傳前先匿名化,並事先告知資料提供方。文中引用微軟調查,78% 使用 AI 的知識工作者是自帶 AI 工具上班,所以全面禁止在實務上很難落實。

分析

第一,RAG 的瓶頸從「找得到」轉向「該不該讓他看到」。 企業知識庫常有人事、財務、客戶資料。如果檢索不依使用者身分過濾,AI 可能把不該看的內容整理成漂亮的答案。AWS 這類做法等於把權限放進檢索流程,我們認為這是 RAG 進入全公司使用時的基本條件。

第二,地端模型解決的是資料位置,不是治理。 資料留在內部能降低外送疑慮,但如果各單位自行串接模型、沒有稽核紀錄,風險只是換個地方。公部門也一樣,機關自建模型後,更需要統一的呼叫入口、授權與紀錄。

第三,雲端與地端不是二選一。 北美智權報主張的是依資料敏感程度分級。高敏感的資料,例如合約、定價、訴訟資料,可以留在地端或禁止使用。低風險內容則在合約允許下使用雲端企業方案。這比一刀切更貼近實際,也比較不會把員工逼去使用個人帳號。

對台灣企業與機關來說,採購 AI 時除了問準確率,也要問權限怎麼繼承、記錄留多久、合約是否允許。

給企業的建議

  1. 先盤點資料,再建知識庫。 把文件分成公開、內部、受限三級,並確認每一級由誰負責。受限資料沒有授權模型前,先不要匯入。
  2. 檢索要繼承既有權限。 驗收 RAG 時,用不同角色的帳號測試同一問題,確認答案和引用來源不會越權。另外要留意權限設定是否能在上線後調整。
  3. 地端模型要加一個統一入口。 所有 Agent 與應用程式都經過閘道呼叫模型,並保存請求紀錄。先設定誰能新增 Agent,避免影子 Agent。
  4. 檢查 NDA 與採購契約。 盤點哪些客戶或合作夥伴的資料,約定不得交給第三方。新合約明訂 AI 的使用範圍,必要時補做告知或取得同意。
  5. 從低風險場景開始,並保留人工複核。 例如內部規章查詢、圖書館與課程資訊問答。涉及對外承諾或金額的回覆,先由人確認。

源智匯在農業部跨單位知識庫整合、國立臺灣海洋大學圖書館 AI 查詢助理等案例中,也是先從資料來源與使用情境釐清做起,再擴大範圍。Phoebe(知識中樞)與 Yuan A.I.(AI 開發平台)這類產品,適合搭配上述的權限與稽核設計。若貴單位正在評估 RAG 或地端模型,可以先從資料分級與權限盤點開始。

名詞解釋

RAG
檢索增強生成。AI 先從企業內部資料查出相關內容,再據以回答,可以減少憑空捏造。
ACL
存取控制清單,用來設定哪些使用者可以讀取哪些文件或資源。
影子 Agent
各部門未經 IT 核准、自行架設並呼叫模型的 AI Agent,管理單位看不到也難以控管。
AI Gateway
AI 路由閘道,是 Agent 與模型之間的統一入口,可以做政策檢查、紀錄與流量管理。
NDA
保密協議,約定雙方不得把特定資訊揭露給未經同意的第三方。
LLM
大型語言模型,是能理解與生成文字的 AI 模型,ChatGPT 與 Gemini 都屬此類。

常見問題

RAG 知識庫最容易忽略的風險是什麼?

權限。若檢索不依使用者身分過濾,AI 可能把無權限的文件內容整理進答案,所以要用不同角色帳號實測。

資料放地端模型就安全了嗎?

不一定。若沒有統一的呼叫入口與稽核,各部門自行串接的 Agent 仍可能讀取或搬移資料,形成影子 Agent。

使用雲端 AI 處理合作夥伴的資料會有什麼問題?

許多 NDA 禁止未經同意把資料交給第三方,而雲端 AI 服務商屬於第三方,是否違約在上傳時就已決定。

參考來源