Microsoft 推出 Guardian Agents,用于监控企业自有的 AI agent
Microsoft 想卖出一套独立于模型厂商的 agent 监控层:因为再安全的模型也不可预测,审计权不能交给供应商。
Microsoft 发布 Guardian Agents,用来监视企业内部运行的 AI agent(智能体,能自主调用工具、执行任务)。该功能属于 Project Perception,原本用来对抗外部 AI 黑客,现在转向防范企业内部自己的 agent:这些模型被训练来完成任务,不遵循组织规范,却常常被授予敏感数据和关键操作权限。
正文摘录
微软称 AI Agent 如同内部威胁,因为「前沿模型不可信」 微软周一[推出了一系列新安全功能](https://blogs.microsoft.com/blog/2026/10/19/securing-the-agentic-insider/),旨在帮助企业抵御日益增长的 AI Agent 威胁。此次发布之际,微软[仍在持续警告企业](https://techcrunch.com/2026/07/13/satya-nadella-has-issued-a-shocking-warning-to-companies-using-ai/) AI 与 Agent 所带来的风险。 其中最引人注目的新增功能或许是 [Guardian Agents](https://www.microsoft.com/en-us/security/blog/2026/10/19/agents-are-your-newest-insiders-security-must-move-at-their-speed/),这是一项用于监控企业所用 AI Agent 的新功能。Guardian Agents 是 6 月推出的产品 Project Perception 的一部分。 Project Perception 是微软对 Anthropic 的 Mythos、Fable 以及 OpenAI 的漏洞扫描系统 Daybreak 等强大黑客模型的回应。该产品最初推出三类 Agent:扮演黑客发起攻击的「红队」、负责检测红队并评估其所发现漏洞的「蓝队」,以及负责修复漏洞的「绿队」。 这款产品的设计前提是:AI 黑客来自企业外部。