AI 落地教學:AWS 治理架構與製造業從報價單起步
|AI 落地應用教學
AWS 在 11 月 12 日公開企業 AI Agent 的「可治理、可觀測」參考架構。《未來商務》在 10 月 27 日刊出智慧方案執行長的製造業導入經驗。兩篇都指出,落地要靠權限、紀錄、人工核准,以及從報價單這類小題目開始。
本文重點
- AWS 認為企業 Agent 的難處不在模型,而在身分、記憶、關卡與追蹤紀錄
- 製造業導入建議先從報價單等單據切入,再把老師傅經驗整理成 AI SOP
- 兩篇都主張先窄後寬,高風險動作由人核准,並保留完整稽核紀錄
AWS 在 2026 年 11 月 12 日發表企業 AI Agent 的參考架構,主張把治理與可觀測性放進每一層,不要等上線後才補。台灣的《未來商務》則在 10 月 27 日刊出智慧方案(Intellicon Solutions)執行長陳慶蔚的製造業導入經驗,建議先從報價單等單據下手。兩篇一個偏技術架構,一個偏現場做法,結論相近:Agent 要落地,重點在流程設計、權限與把關,模型本身反而不是關鍵。
重點整理
第一則:AWS Architecture Blog〈Inside an enterprise AI agent: A governed, observable loop architecture〉
作者是 AWS Professional Services 的 Rushabh Lokhande 與 Paul Tamburello。文章先講清楚一件事:企業 AI Agent 不是更大的聊天機器人。聊天機器人一次只回答一則訊息,Agent 則會朝目標持續工作,包括理解需求、拆解步驟、取用資料、呼叫工具。
文中把這個循環拆成五個階段:Understand(理解)、Plan(規劃)、Retrieve(檢索)、Reason(推理)、Act and Observe(執行與觀察)。在檢索階段,文中描述的 RAG(Retrieval-Augmented Generation,檢索增強生成,讓模型先查公司資料再回答)流程有四步:改寫查詢、向量搜尋、重新排序,最後是依使用者身分與資料存取政策過濾結果。換句話說,權限過濾是檢索流程裡的一個固定步驟。
治理面有兩個重點。第一,每個動作都要經過政策閘門、核准流程或防護機制(guardrails),並記錄延遲、token 用量、工具狀態與執行路徑,方便追蹤與稽核。第二,轉移資金、修改資料、對外發送訊息等高風險操作,要由人工審核。審核者可以看到 Agent 提議的動作、推理過程與信心分數,再決定核准、修改或拒絕,每個決定也會留下紀錄。
文章結論寫得很直接:企業 Agent 難的部分從來不是模型,而是模型周邊的東西,包括跟著請求走的身分、持續保存的記憶、動作要通過的關卡,以及能還原過程的追蹤紀錄。文中也建議「從窄而且唯讀開始,系統證明自己之後再放寬」。(以上為編輯依原文整理,文中的服務對應以 AWS 產品為例。)
第二則:《未來商務》〈製造業導入 AI Agent 怎麼做?〉
受訪的陳慶蔚是智慧方案創辦人暨執行長。根據文章,他的公司以 AI Agent 管理平台 EgentHub 協助企業,已服務超過 200 家企業,客戶涵蓋紡織、金屬扣件、化工與電子製造。他的建議有四點:
- 先挑好算 ROI 的工作。例如報價單、品管單、採購單、物料表這類標準化作業與審查比對。他說第一步通常是「節省時間」,讓老師傅親眼看到原本要 3 小時的事,半小時內做完。
- 把經驗變成 AI SOP。老師傅的做法多半沒有文件,所以用口述、錄音轉文字的方式整理,成為新人可以詢問的知識來源。
- 資料保密常是製造業的門檻。他指出台灣製造業的資訊系統多半在地端,客戶訂單與圖稿常有嚴格保密要求。因此他的做法是在企業內部建一個平台,涵蓋推論、知識庫,以及與 email、報價系統、ERP(企業資源規劃)、MES(製造執行系統)的串接。他也提到較輕量的選項:用 2 台 Mac Studio 組成地端裝置,預算約 1 萬美元(約新台幣 33 萬元)。平台同時要有權限管理、使用紀錄與 token 成本管理。
- 重要節點留給人。他提到 Agent 之間可以互相交接工作,但需要確認的環節,會先跳出來讓人審核,按下按鈕後才送出,也就是 Human in the loop。他認為客戶關係、談判、客訴溝通與最後的決策責任,仍然屬於人。
分析
一、兩篇的共同點是「先窄後寬」。AWS 建議從唯讀、範圍小的 Agent 開始,製造業案例則建議從報價單這種邊界清楚的任務開始。這和近期市場上常見的做法相同:先讓一個流程跑穩,再擴充到更複雜的工作。陳慶蔚列出的順序是標準化作業、審查比對、資料解讀,最後才是排程等規劃類工作,也符合這個節奏。
二、知識庫的核心是「誰能看到什麼」。AWS 把身分與存取過濾放進 RAG 流程,等於提醒企業:知識庫不能只追求答得準,還要答得有分寸。公司裡的人資、財務與客戶訂單資料,不應該因為接上了 AI 就讓所有人都查得到。
三、地端與雲端不是二選一。製造業顧慮資料外流,所以偏好地端或內部平台。AWS 的架構則以雲端服務為例。對台灣企業來說,比較務實的看法是依資料敏感度分級,不必全部搬進機房,也不必全部上雲。這是編輯的判斷,兩篇文章都沒有直接討論這一點。
四、對公部門的意義。公部門的採購與稽核重視可追溯性。AWS 強調的步驟級追蹤、人工核准紀錄,正好可以當作招標需求書與驗收項目的參考:除了「回答正確率」,還要問「出了問題能不能還原過程」。
另外要提醒,第二則是創辦人受訪內容,效益與客戶數是受訪者自述,文章並未附上第三方驗證。第一則則出自提供相關服務的雲端廠商,架構細節宜視為參考,不是唯一做法。
給企業的建議
- 先選一個「邊界清楚、容易算效益」的題目。報價單核對、客服常見問答、內部規章查詢都是例子。起跑時只讀資料、不直接改系統。
- 先整理知識,再談 Agent。把散在 SOP、Excel、Email 與資深員工腦中的經驗盤點出來。這件事比選模型更花時間,也最影響成效。源智匯的 Phoebe(知識中樞)與農業部跨單位知識庫整合案例,都是從這一步開始。
- 權限在檢索階段就要做。知識庫要串接組織的帳號與角色,讓不同身分查到不同範圍的資料,不要等答案產生之後才遮蔽。
- 替高風險動作設人工核准點。對外發信、改資料、金額相關的動作,先由人按下確認,並保留「誰核准、依據什麼」的紀錄。
- 從第一天就記錄成本與軌跡。至少追蹤 token 用量、回應時間、工具呼叫成功率與例外案件,才有辦法說服主管繼續投入,也能及早發現異常使用。
- 敏感資料先分級。客戶圖稿、未公開財報、個資等,優先評估地端或私有環境;一般文件可用雲端服務,降低整體成本。
源智匯在 Design AI Agent 訂做開發與 Consulting 顧問服務中,常見的第一步也是和客戶一起挑出第一個題目,並釐清資料來源與權限。如果貴單位正在評估 RAG 知識庫或 AI 客服,可以先用上面六點做內部盤點,再決定要找外部夥伴補哪一塊。
名詞解釋
- RAG
- Retrieval-Augmented Generation,檢索增強生成。讓 AI 回答前先去查公司自己的文件或資料,再根據查到的內容產生答案。
- AI Agent
- 能朝目標持續工作的 AI 代理,會拆解步驟、取用資料並呼叫工具,不只是一問一答。
- guardrails
- 防護機制,用來限制 AI 能說什麼、能做什麼,例如阻擋敏感內容或不允許的操作。
- Human in the loop
- 由人在流程的關鍵節點把關,例如 AI 完成後先讓人審核,再送出結果。
- AI SOP
- 把資深員工的經驗整理成 AI 能讀懂、能依循的標準作業流程。
- ERP
- 企業資源規劃系統,整合訂單、庫存、財務等企業營運資料的核心系統。
- MES
- 製造執行系統,用來管理與記錄工廠生產現場的作業狀況。
常見問題
企業第一次導入 AI Agent,應該從哪裡開始?
建議從邊界清楚、容易算效益的工作開始,例如報價單或單據核對,一開始先讓 Agent 只讀資料、不直接改動系統,再逐步擴大。
RAG 知識庫要怎麼避免讓員工看到不該看的資料?
把身分與資料存取政策放進檢索流程,在搜尋結果送給模型之前就先過濾,而不是答案產生後才遮蔽。
資料敏感的製造業一定要用地端部署嗎?
不一定。受訪案例因客戶保密要求偏好地端或內部平台,但實務上可依資料敏感度分級,高敏感資料留在內部,一般資料再考慮雲端。