企業最危險的 AI Agent，可能是自己部署的：Microsoft 為何提出「Agentic Insider」警告？

過去企業討論生成式 AI 風險，第一個問題往往是：「它會不會答錯？」但當 AI Agent 開始代替員工查詢客戶資料、修改檔案、觸發付款流程或寄出正式通知，錯誤不再只是一段文字，而可能變成已經執行的動作。Microsoft Security 執行副總裁 Hayete Gallot 於 2026 年 10 月 19 日以「Agentic Insider」描述企業內部 Agent，提醒企業重新辨認風險來源：最大的漏洞不一定是外部攻擊者，也可能是自己授權、卻沒有持續約束的內部 Agent。^{來源 01}

原始文章是 Microsoft 高階主管的安全治理主張，並不是某種已被證明無所不在的 AI 事故統計。閱讀時應分開兩個層次：第一，Microsoft 對 Agent 行為的風險判斷；第二，企業可以在自己的系統中驗證哪些控制是否足夠。

從「錯誤回答」到「行動權限」，企業邊界移動了

傳統聊天機器人的輸出若只是草稿，通常還有員工閱讀、修改、按下送出的機會。但工具型 Agent 擁有 API、檔案、郵件、CRM 或工單系統權限，一旦決定執行，後果可能跨出模型對話框。例如，Agent 讀到客服歷史紀錄裡混入的惡意指示，若沒有正確區隔可信命令與外部文件內容，就可能誤觸它本不應做的動作。

Microsoft 指出，Agent 可能有過度授權、處理多種敏感資料，以及在組織關鍵流程自行行動等問題；因而需要從身分、權限、資料、端點、網路、雲端與執行環境多層保護。^{來源 01} 這些控制不是要讓模型永遠不出錯，而是使錯誤或越權被限制在可承受範圍。

Microsoft 提出的 Guardian Agent，解的是什麼問題？

Microsoft 文章提出以「Guardian Agents」持續監控與介入 Agent 行動的方向，並說明其 Project Perception 相關構想：蒐集多層訊號、計算動態風險、在必要時調整 Agent 能否繼續操作。^{來源 01} 此處的關鍵不是再訓練一個「更聰明的監督者」就夠了，因為監督模型本身也可能判斷錯誤。真正需要的是可被稽核、可撤回、明確以政策定義的執行權限。

天地人將企業實作整理成五關：① 確認每個 Agent 的身分與擁有者；② 以最小權限設計可調用工具；③ 依資料敏感性與動作可逆性分級；④ 高風險動作在執行前取得獨立核准；⑤ 寫入不可任意竄改的執行記錄，能追查輸入、版本、授權人與實際副作用。這是可供管理會議討論的編輯框架，並非 Microsoft 宣布的固定五步驟。

哪些動作應該自動？哪些要保留人工？

假設一個採購 Agent：讀取公開價目表、整理內部採購需求，通常可在有限資料範圍內自動執行；將正式採購單寄給供應商，則需要確認對象、金額與核准權責；修改銀行帳戶資訊、批次付款或刪除資料，就不應因為模型「認為已符合需求」而跳過外部授權。判準不是功能名稱是否含 AI，而是動作後果是否能撤銷，以及誰承擔責任。

高風險動作還必須考慮重試與例外：若 Agent 已送出交易，但超時沒有收到回應，直接重送可能造成重複付款。系統應先查詢原交易狀態並使用冪等鍵或其他適當防重機制，而非讓模型以自然語言猜測交易是否成功。相關動作控制亦能對照站內AI Agent 人工核准流程，但本篇重點在治理層次，不重寫單一流程教學。

用 NIST AI RMF 補上跨部門責任

美國 NIST AI 風險管理框架將核心工作分為 GOVERN（治理）、MAP（情境與風險映射）、MEASURE（量測）、MANAGE（處理）。^{來源 02} 它可以協助公司把資安問題從 IT 專案拉回企業治理：誰可以提出高風險使用情境、誰批准權限、誰負責例外、誰決定何時停止服務、稽核如何取證。

建議先盤點 10 項已自動化或準備自動化的流程，以「資料等級 × 外部動作 × 可逆性 × 人工監督」分類；每項留下至少一個可測試的失敗案例，例如權限被取消後 Agent 仍試圖動作、文件遭提示注入、操作逾時重試、審核者拒絕後模型改走其他工具。測試能阻止操作並保留紀錄，才算真的部署了控制，而不只是有一份資安政策文件。

對台灣企業的三個具體影響

第一，採購 AI 工具不能只問模型多準，還要問能否設定每個 Agent 的權限範圍、工具日誌、人工核准與緊急停用。第二，法務與內控需要參與工作流程設計，尤其當 Agent 會寄送具法律或財務效果的內容。第三，訓練員工操作 Agent 時，應以例外演練、停止條件及交接紀錄作為測驗，而不是只展示順利完成的案例。

常見問題

Q：Guardian Agent 是 Microsoft 已經保證能阻止所有 AI 風險的功能嗎？ 不是。這是其治理構想與技術方向，仍需針對產品版本、配置和可驗證控制能力個別查證。

Q：只讀取資料的 Agent 就一定安全嗎？ 不一定。機敏資訊仍可能被越權讀取、轉寄或寫入不適當的外部系統。

Q：公司應先部署監督模型嗎？ 先處理身分、權限、資料流與高風險動作的確定性控制，再評估模型監督是否能補強。

企業行動與延伸

企業可先用單一業務流程做權限與例外盤點；若需要主管與 IT 共同建立實作規範，可由企業培訓聯絡信箱提出使用情境。請不要在未經安全評估前將本文概念圖直接當作產品設定。

英文原文與來源

^{來源 01} Hayete Gallot，Securing the agentic insider，Microsoft，2026／10／19。英文官方全文。原文短摘：「They are agentic insiders.」

^{來源 02} NIST，AI RMF Core（框架背景資料；非本週新發布）。英文框架。原文短摘：「govern, map, measure, and manage」。這四個職能不構成必須依序完成的檢查表。

本文包含天地人建議框架與示例，非 Microsoft 官方資安稽核結果；由 AI 工具協助製作，未經獨立具名真人或領域專家審閱。

企業培訓聯繫：若要將本文議題轉成企業內訓或導入計畫，請先準備工作情境、資料權限與預期交付成果，再透過 service@tiandiren.tw 或 02-2396-0514 聯繫團隊。亦可先查看企業內訓主題指南。