Databricks Omnigent 引入上下文策略,基于会话状态管控 AI Agent
Omnigent 的上下文策略通过追踪 Agent 会话历史,实现比简单放行更精细的安全与成本控制。
Omnigent 是一种开源元框架,可为 AI Agent(如 Claude Code)添加共享策略层。其“上下文策略”能追踪会话历史(如已读文档、已花费金额),动态决定是否允许下一步操作,从而在避免频繁审批的同时防范注入攻击等风险。
正文摘录
Omnigent 中的上下文策略:利用会话状态更好地管控 AI 智能体 作者:Matei Zaharia, David Nasi, Xiangrui Meng, Kecheng Cao 和 Tomu Hirata - Omnigent 为 AI 智能体引入了上下文策略(contextual policies):一种能够追踪某次会话中智能体已完成操作,并据此评估下一步行动是否应继续执行的策略。 - Omnigent 作为一个元框架(meta-harness),允许将这些策略应用于它所包装的任何智能体,包括 Claude Code 和 Codex 等编码智能体。 - 上下文策略可以定义比现有智能体框架更强大的策略。例如,你可以配置每次会话的支出上限,或者随着风险累积而自动收紧的护栏。 我们最近发布了 Omnigent,一个开源的 AI 智能体元框架。它让你可以继续使用你喜欢的智能体框架,包括 Claude Code、Codex 和自定义智能体,同时增加一个用于协作、组合和策略的共享层。 在这篇文章中,我们将介绍 Omnigent 的策略部分,其中 Omnigent 引入了一个强大的新工具:上下文策略。如今的智能体框架只有简单的控制手段来限制智能体的行为,例如允许、拒绝或向用户询问各种工具调用的规则。但这很难制定出既安全又对用户方便的策略。相比之下,Omnigent 的上下文策略可以记住当前会话中已发生的事件(例如智能体读取了什么内容,或到目前为止花了多少钱),并利用该状态来决定下一步行动是否应该继续。这使得一系列丰富的策略成为可能,既更安全又更方便用户:从动态追踪会话的风险等级,到实现最小权限安全模型,再到让用户为单个任务设定预算以管理支出。 AI 智能体给企业带来了新型风险。