前沿模型不可信：微軟把 AI 代理當『內部威脅』管，Defender 可揪出 60 種員工自帶代理
微軟 10 月 19 日推出 Guardian Agents，監控企業內部運行的 AI 代理；執行長納德拉更直言，必須把『智慧的供給』與『掌控權』分開，Defender 則新增偵測 Claude Code、Codex 等 60 種代理的功能。
最該提防的 AI 駭客，可能就坐在你公司的系統裡。10 月 19 日，微軟發表一系列新的企業安全功能，核心概念很刺耳：把 AI 代理當成「內部威脅」來管。其中最受注目的是 Guardian Agents——專門盯著企業內部正在運行的 AI 代理的新功能，它隸屬於今年 6 月推出的 Project Perception。
不能信的不是惡意，是「不可預測」
微軟執行長納德拉本月初在私人部落格先開了第一槍：別再相信模型供應商的安全保證，即使它們掛保證，企業也要用「不受 AI 實驗室控制」的獨立系統來監看、管住這些實驗室產品生出來的代理。他的原話大意是：我們把最敏感的資料與關鍵任務的執行權交給這些複雜的代理系統，卻不能把責任外包給智慧的供應商——「智慧從哪來」和「誰說了算」，必須分開。
微軟安全事業主管 Hayete Gallot 講得更白：前沿模型無論出身哪家，都不能完全信任——不是因為它們惡意或好駭，而是因為它們不可預測。它們被訓練來「把事做成」，不是來遵守組織規範、做價值判斷的；偏偏企業又常把資料與工具的鑰匙整串交給它們。
新工具實際做了什麼
Guardian Agents 負責監控企業核准使用的代理；Microsoft Defender 則新增代理偵測，能找出員工自行帶進工作環境的多達 60 種代理，包括 Claude Code、Codex、OpenClaw 與 GitHub Copilot 等。配套的還有：依任務動態調整的存取權限（每個代理有 Entra Agent ID 身份、即時風險分數、條件式存取），把代理關進執行沙盒，以及「代理看起來要做危險決定時，必須先經過人類核准」。
微軟同時宣布加入 NVIDIA 新成立的 Open Agent Safety Platform（逾百家科技公司響應），把代理隔離在受保護環境中，必要時可透過硬體層級直接監控、喊停，形同總開關；另發表為代理打造的 Surface Laptop Ultra，安全控制直接做進硬體。完整的供貨與定價細節，預計 11 月 17 日的 Microsoft Ignite 見分曉。
監守自盜的諷刺，與說得通的道理
TechCrunch 一針見血：微軟可是 OpenAI 與 Anthropic 的大股東、OpenAI 的大客戶、自己還有 AI 實驗室——帶頭散播對自家生意的不信任，頗為諷刺；但另一方面，要企業跟它買代理安全產品、而不是跟 Anthropic 或 OpenAI 買，也是司馬昭之心。不過撇開動機，道理站得住腳：監看代理行為的軟體，本來就該獨立於供應代理的廠商，就像稽核員不能是受查單位自己人。這股「把代理當內部人管」的風潮正在擴散，不只微軟在做，整個產業都在補同一堂課。
對企業來說，啟示很實際：在把能讀信箱、碰客戶資料、代跑程式的 AI 代理放進內部系統之前，先問三件事——它有獨立身份嗎？權限能隨任務收放嗎？危險動作有人把關嗎？這也是看店勢把權限與資料安全放在產品設計核心的原因：能碰敏感營運數據的系統，治理不能事後再補。
資料來源
- TechCrunch：〈Microsoft says AI agents are like insider threats as ‘frontier models can’t be trusted’〉
- Microsoft 官方部落格（Hayete Gallot 公告、Project Perception）