AI 落地教學:AWS 治理架構與製造業從報價單起步

|AI 落地應用教學

AWS 在 11 月 12 日公開企業 AI Agent 的「可治理、可觀測」參考架構。《未來商務》在 10 月 27 日刊出智慧方案執行長的製造業導入經驗。兩篇都指出,落地要靠權限、紀錄、人工核准,以及從報價單這類小題目開始。

本文重點

  • AWS 認為企業 Agent 的難處不在模型,而在身分、記憶、關卡與追蹤紀錄
  • 製造業導入建議先從報價單等單據切入,再把老師傅經驗整理成 AI SOP
  • 兩篇都主張先窄後寬,高風險動作由人核准,並保留完整稽核紀錄

AWS 在 2026 年 11 月 12 日發表企業 AI Agent 的參考架構,主張把治理與可觀測性放進每一層,不要等上線後才補。台灣的《未來商務》則在 10 月 27 日刊出智慧方案(Intellicon Solutions)執行長陳慶蔚的製造業導入經驗,建議先從報價單等單據下手。兩篇一個偏技術架構,一個偏現場做法,結論相近:Agent 要落地,重點在流程設計、權限與把關,模型本身反而不是關鍵。

重點整理

第一則:AWS Architecture Blog〈Inside an enterprise AI agent: A governed, observable loop architecture〉

作者是 AWS Professional Services 的 Rushabh Lokhande 與 Paul Tamburello。文章先講清楚一件事:企業 AI Agent 不是更大的聊天機器人。聊天機器人一次只回答一則訊息,Agent 則會朝目標持續工作,包括理解需求、拆解步驟、取用資料、呼叫工具。

文中把這個循環拆成五個階段:Understand(理解)、Plan(規劃)、Retrieve(檢索)、Reason(推理)、Act and Observe(執行與觀察)。在檢索階段,文中描述的 RAG(Retrieval-Augmented Generation,檢索增強生成,讓模型先查公司資料再回答)流程有四步:改寫查詢、向量搜尋、重新排序,最後是依使用者身分與資料存取政策過濾結果。換句話說,權限過濾是檢索流程裡的一個固定步驟。

治理面有兩個重點。第一,每個動作都要經過政策閘門、核准流程或防護機制(guardrails),並記錄延遲、token 用量、工具狀態與執行路徑,方便追蹤與稽核。第二,轉移資金、修改資料、對外發送訊息等高風險操作,要由人工審核。審核者可以看到 Agent 提議的動作、推理過程與信心分數,再決定核准、修改或拒絕,每個決定也會留下紀錄。

文章結論寫得很直接:企業 Agent 難的部分從來不是模型,而是模型周邊的東西,包括跟著請求走的身分、持續保存的記憶、動作要通過的關卡,以及能還原過程的追蹤紀錄。文中也建議「從窄而且唯讀開始,系統證明自己之後再放寬」。(以上為編輯依原文整理,文中的服務對應以 AWS 產品為例。)

第二則:《未來商務》〈製造業導入 AI Agent 怎麼做?〉

受訪的陳慶蔚是智慧方案創辦人暨執行長。根據文章,他的公司以 AI Agent 管理平台 EgentHub 協助企業,已服務超過 200 家企業,客戶涵蓋紡織、金屬扣件、化工與電子製造。他的建議有四點:

  1. 先挑好算 ROI 的工作。例如報價單、品管單、採購單、物料表這類標準化作業與審查比對。他說第一步通常是「節省時間」,讓老師傅親眼看到原本要 3 小時的事,半小時內做完。
  2. 把經驗變成 AI SOP。老師傅的做法多半沒有文件,所以用口述、錄音轉文字的方式整理,成為新人可以詢問的知識來源。
  3. 資料保密常是製造業的門檻。他指出台灣製造業的資訊系統多半在地端,客戶訂單與圖稿常有嚴格保密要求。因此他的做法是在企業內部建一個平台,涵蓋推論、知識庫,以及與 email、報價系統、ERP(企業資源規劃)、MES(製造執行系統)的串接。他也提到較輕量的選項:用 2 台 Mac Studio 組成地端裝置,預算約 1 萬美元(約新台幣 33 萬元)。平台同時要有權限管理、使用紀錄與 token 成本管理。
  4. 重要節點留給人。他提到 Agent 之間可以互相交接工作,但需要確認的環節,會先跳出來讓人審核,按下按鈕後才送出,也就是 Human in the loop。他認為客戶關係、談判、客訴溝通與最後的決策責任,仍然屬於人。

分析

一、兩篇的共同點是「先窄後寬」。AWS 建議從唯讀、範圍小的 Agent 開始,製造業案例則建議從報價單這種邊界清楚的任務開始。這和近期市場上常見的做法相同:先讓一個流程跑穩,再擴充到更複雜的工作。陳慶蔚列出的順序是標準化作業、審查比對、資料解讀,最後才是排程等規劃類工作,也符合這個節奏。

二、知識庫的核心是「誰能看到什麼」。AWS 把身分與存取過濾放進 RAG 流程,等於提醒企業:知識庫不能只追求答得準,還要答得有分寸。公司裡的人資、財務與客戶訂單資料,不應該因為接上了 AI 就讓所有人都查得到。

三、地端與雲端不是二選一。製造業顧慮資料外流,所以偏好地端或內部平台。AWS 的架構則以雲端服務為例。對台灣企業來說,比較務實的看法是依資料敏感度分級,不必全部搬進機房,也不必全部上雲。這是編輯的判斷,兩篇文章都沒有直接討論這一點。

四、對公部門的意義。公部門的採購與稽核重視可追溯性。AWS 強調的步驟級追蹤、人工核准紀錄,正好可以當作招標需求書與驗收項目的參考:除了「回答正確率」,還要問「出了問題能不能還原過程」。

另外要提醒,第二則是創辦人受訪內容,效益與客戶數是受訪者自述,文章並未附上第三方驗證。第一則則出自提供相關服務的雲端廠商,架構細節宜視為參考,不是唯一做法。

給企業的建議

  1. 先選一個「邊界清楚、容易算效益」的題目。報價單核對、客服常見問答、內部規章查詢都是例子。起跑時只讀資料、不直接改系統。
  2. 先整理知識,再談 Agent。把散在 SOP、Excel、Email 與資深員工腦中的經驗盤點出來。這件事比選模型更花時間,也最影響成效。源智匯的 Phoebe(知識中樞)與農業部跨單位知識庫整合案例,都是從這一步開始。
  3. 權限在檢索階段就要做。知識庫要串接組織的帳號與角色,讓不同身分查到不同範圍的資料,不要等答案產生之後才遮蔽。
  4. 替高風險動作設人工核准點。對外發信、改資料、金額相關的動作,先由人按下確認,並保留「誰核准、依據什麼」的紀錄。
  5. 從第一天就記錄成本與軌跡。至少追蹤 token 用量、回應時間、工具呼叫成功率與例外案件,才有辦法說服主管繼續投入,也能及早發現異常使用。
  6. 敏感資料先分級。客戶圖稿、未公開財報、個資等,優先評估地端或私有環境;一般文件可用雲端服務,降低整體成本。

源智匯在 Design AI Agent 訂做開發與 Consulting 顧問服務中,常見的第一步也是和客戶一起挑出第一個題目,並釐清資料來源與權限。如果貴單位正在評估 RAG 知識庫或 AI 客服,可以先用上面六點做內部盤點,再決定要找外部夥伴補哪一塊。

名詞解釋

RAG
Retrieval-Augmented Generation,檢索增強生成。讓 AI 回答前先去查公司自己的文件或資料,再根據查到的內容產生答案。
AI Agent
能朝目標持續工作的 AI 代理,會拆解步驟、取用資料並呼叫工具,不只是一問一答。
guardrails
防護機制,用來限制 AI 能說什麼、能做什麼,例如阻擋敏感內容或不允許的操作。
Human in the loop
由人在流程的關鍵節點把關,例如 AI 完成後先讓人審核,再送出結果。
AI SOP
把資深員工的經驗整理成 AI 能讀懂、能依循的標準作業流程。
ERP
企業資源規劃系統,整合訂單、庫存、財務等企業營運資料的核心系統。
MES
製造執行系統,用來管理與記錄工廠生產現場的作業狀況。

常見問題

企業第一次導入 AI Agent,應該從哪裡開始?

建議從邊界清楚、容易算效益的工作開始,例如報價單或單據核對,一開始先讓 Agent 只讀資料、不直接改動系統,再逐步擴大。

RAG 知識庫要怎麼避免讓員工看到不該看的資料?

把身分與資料存取政策放進檢索流程,在搜尋結果送給模型之前就先過濾,而不是答案產生後才遮蔽。

資料敏感的製造業一定要用地端部署嗎?

不一定。受訪案例因客戶保密要求偏好地端或內部平台,但實務上可依資料敏感度分級,高敏感資料留在內部,一般資料再考慮雲端。

參考來源