RAG 權限、地端 LLM 治理與雲端 AI 合約風險
|AI 落地應用教學
本週有三則和企業 AI 落地有關的新資料:AWS 發布具權限控管的 RAG 與使用者記憶做法、聆機科技推出地端 LLM 治理平台 AnyInsight Edge、北美智權報提醒雲端 AI 可能牴觸 NDA。共同重點是權限、治理與契約要在上線前處理。
本文重點
- AWS 示範 RAG 檢索依使用者文件權限過濾,使用者記憶也彼此隔離
- 地端 LLM 若沒有閘道與稽核,容易出現影子 Agent 與影子 AI
- 使用雲端 AI 處理他人資料,可能在上傳當下就違反 NDA
最近有三則資料,都在談同一件事:企業 AI 要上線,難處常常不在模型,而在權限、治理和契約。AWS 在 2026 年 11 月 16 日發布 RAG 加上使用者記憶的做法。聆機科技在 11 月 12 日推出地端 LLM 治理產品。台灣的《北美智權報》則在 11 月 16 日提醒,雲端 AI 可能牴觸保密協議。
重點整理
一、AWS:RAG 要先分清楚「誰能看到什麼」
RAG(Retrieval-Augmented Generation,檢索增強生成)是讓 AI 先查企業內部資料,再根據資料回答。依第三方技術媒體 explainx.ai 整理,AWS 在 2026 年 11 月 16 日發布指南。指南說明在 Amazon Bedrock 的託管知識庫(Managed Knowledge Base)中,如何用 Agentic Retrieve 同時查文件和使用者的長期記憶。
指南的範例是多人共用的員工助理。文件存取用 S3 上的 ACL(存取控制清單)設定,每位使用者只能檢索被授權的文件。記憶則透過 AgentCore 的 actor ID 與 IAM 條件隔離,讓每個人的記憶保持私有。
文中也列出幾項限制。ACL 設定在建立資料來源後不能更改,沒有被 ACL 涵蓋的文件不會被匯入,且 retrievalConfigs 只支援一個 namespacePath。這提醒我們,權限設計要在建置初期想清楚,上線後再改的成本不低。以上內容出自 explainx.ai 的整理,細節請以 AWS 官方文件為準。
二、聆機科技 AnyInsight Edge:私有模型不能只剩聊天視窗
聆機科技在 2026 年 11 月 12 日發表 AnyInsight Edge,把原有的企業 AI 資安與治理平台延伸到企業機房與 AI 伺服器。新聞稿指出,不少企業已部署私有 LLM,但模型常常只停留在內部聊天介面,接不到 ERP、MES、CRM 等核心系統。若自行串接,Agent 在機房內跨系統讀取、搬移資料的流量不經過網路防火牆。各部門各自架設、直接呼叫地端模型的 Agent,則會形成 IT 看不到的「影子 Agent」(Shadow Agent)。
產品的做法,是在地端模型前面加上 AI 路由閘道(AI Gateway)與零信任的生成式 AI 防火牆。每次請求都由政策引擎檢查並記錄,未經核准的 Agent 不能直接呼叫模型。這是廠商發布的資訊,實際效果仍須自行驗證,但它點出的問題很具體:地端部署不等於自動安全。
三、北美智權報:雲端 AI 的風險可能在合約,而不是外洩
《北美智權報》第 416 期指出,AI 文字浮水印上線後,使用雲端 AI 處理的內容更容易被事後查證。文章提到 Anthropic 表示正在為 8 月 2 日前推出的舊模型補上浮水印。
文章的核心論點是,許多保密協議(NDA)禁止未經同意把資料交給第三方,而雲端 AI 服務商就是第三方。是否違約,在上傳那一刻就已決定,和資料後來有沒有外流無關。文章也不主張一律禁用。它建議風險分級管理,例如選用不拿資料訓練的企業方案或 API、只處理必要或低風險內容、上傳前先匿名化,並事先告知資料提供方。文中引用微軟調查,78% 使用 AI 的知識工作者是自帶 AI 工具上班,所以全面禁止在實務上很難落實。
分析
第一,RAG 的瓶頸從「找得到」轉向「該不該讓他看到」。 企業知識庫常有人事、財務、客戶資料。如果檢索不依使用者身分過濾,AI 可能把不該看的內容整理成漂亮的答案。AWS 這類做法等於把權限放進檢索流程,我們認為這是 RAG 進入全公司使用時的基本條件。
第二,地端模型解決的是資料位置,不是治理。 資料留在內部能降低外送疑慮,但如果各單位自行串接模型、沒有稽核紀錄,風險只是換個地方。公部門也一樣,機關自建模型後,更需要統一的呼叫入口、授權與紀錄。
第三,雲端與地端不是二選一。 北美智權報主張的是依資料敏感程度分級。高敏感的資料,例如合約、定價、訴訟資料,可以留在地端或禁止使用。低風險內容則在合約允許下使用雲端企業方案。這比一刀切更貼近實際,也比較不會把員工逼去使用個人帳號。
對台灣企業與機關來說,採購 AI 時除了問準確率,也要問權限怎麼繼承、記錄留多久、合約是否允許。
給企業的建議
- 先盤點資料,再建知識庫。 把文件分成公開、內部、受限三級,並確認每一級由誰負責。受限資料沒有授權模型前,先不要匯入。
- 檢索要繼承既有權限。 驗收 RAG 時,用不同角色的帳號測試同一問題,確認答案和引用來源不會越權。另外要留意權限設定是否能在上線後調整。
- 地端模型要加一個統一入口。 所有 Agent 與應用程式都經過閘道呼叫模型,並保存請求紀錄。先設定誰能新增 Agent,避免影子 Agent。
- 檢查 NDA 與採購契約。 盤點哪些客戶或合作夥伴的資料,約定不得交給第三方。新合約明訂 AI 的使用範圍,必要時補做告知或取得同意。
- 從低風險場景開始,並保留人工複核。 例如內部規章查詢、圖書館與課程資訊問答。涉及對外承諾或金額的回覆,先由人確認。
源智匯在農業部跨單位知識庫整合、國立臺灣海洋大學圖書館 AI 查詢助理等案例中,也是先從資料來源與使用情境釐清做起,再擴大範圍。Phoebe(知識中樞)與 Yuan A.I.(AI 開發平台)這類產品,適合搭配上述的權限與稽核設計。若貴單位正在評估 RAG 或地端模型,可以先從資料分級與權限盤點開始。
名詞解釋
- RAG
- 檢索增強生成。AI 先從企業內部資料查出相關內容,再據以回答,可以減少憑空捏造。
- ACL
- 存取控制清單,用來設定哪些使用者可以讀取哪些文件或資源。
- 影子 Agent
- 各部門未經 IT 核准、自行架設並呼叫模型的 AI Agent,管理單位看不到也難以控管。
- AI Gateway
- AI 路由閘道,是 Agent 與模型之間的統一入口,可以做政策檢查、紀錄與流量管理。
- NDA
- 保密協議,約定雙方不得把特定資訊揭露給未經同意的第三方。
- LLM
- 大型語言模型,是能理解與生成文字的 AI 模型,ChatGPT 與 Gemini 都屬此類。
常見問題
RAG 知識庫最容易忽略的風險是什麼?
權限。若檢索不依使用者身分過濾,AI 可能把無權限的文件內容整理進答案,所以要用不同角色帳號實測。
資料放地端模型就安全了嗎?
不一定。若沒有統一的呼叫入口與稽核,各部門自行串接的 Agent 仍可能讀取或搬移資料,形成影子 Agent。
使用雲端 AI 處理合作夥伴的資料會有什麼問題?
許多 NDA 禁止未經同意把資料交給第三方,而雲端 AI 服務商屬於第三方,是否違約在上傳時就已決定。