跳到主要内容
返回时间线
Databricks Blog来源发表:

Databricks推出Unity Gateway Insights:自动分析数百万条智能体轨迹,按成本给token浪费排序

核心概要

Databricks推出Unity Gateway Insights,用Genie自动分析数百万条智能体轨迹并结合业务数据与本体,找出反复出现的MCP错误、跑在昂贵前沿模型上的简单任务和值得固化为共享技能的重复流程。报告按token成本对各类浪费排序,每条结论可链接到示例会话;Databricks称其自身仅七个MCP小缺陷就对应每年约120万美元的浪费。

Source-provided article image: Introducing Unity Gateway Insights
Databricks Blog

深度剖析

Databricks发布Unity Gateway Insights,把智能体轨迹分析变成一项按需生成的报告:在AI Gateway的Observability下选择最近1天、7天或30天,即可得到一份关于编程智能体部署token经济性的报告。 此前团队削减AI成本通常从预算或开源模型入手,而轨迹分析在Databricks内部已经暴露出预算视角看不到的浪费点。 Databricks给出的内部对照是:离线回放显示从Opus 4.8升级到Opus 5没有带来性能提升,团队因此留在更便宜的4.8上。

报告回答两个问题:人们在做什么、钱能省在哪里,并允许用户追加最多10个自定义问题。 工作流按会话占比与token占比的错位排序,例如占10%会话却占35%token的工作流被列为优先查看对象。 每条结论都链接到示例会话,可以直接打开其背后的轨迹;需要继续追问时,可与Genie对话,例如问本月哪个MCP服务器浪费token最多、由谁负责。

浪费被归为三类:反复失败的MCP工具调用、在前沿模型上运行的简单任务,以及在至少三个会话或两名工程师中重复出现的工作流。 工具调用失败后智能体会重试或绕行,会话看起来完成了任务,但每次重试都在计费。 Databricks称其发现的120万美元来自MCP服务器中仅七个小的缺陷,包括49.9万美元的浪费token和1.2万小时的工程师等待,修复全部七个约用一小时。

实现依赖四项条件:ug CLI自动为Claude Code、Codex、GitHub Copilot开启各自的OpenTelemetry追踪,轨迹落入Unity Catalog中受治理的Delta统一轨迹表,Genie结合Genie Ontology写SQL并读取会话,Databricks SQL支撑数百万条轨迹的查询。 独立网关只记录经过它的请求,要捕获会话其余部分需自行给每个编程智能体加埋点再导出到数据平台分析。 轨迹包含提示、代码和工具输出,默认只有表所有者可查询,管理员通过Unity Catalog授权和行过滤开放访问,Insights就地读取而不导出数据。

启示与展望

报道范围限于Databricks对Unity Gateway Insights的产品介绍及其内部编程智能体部署经验;报告功能面向已通过Unity Gateway运行编程智能体的团队,需先建立统一轨迹表并用ug CLI启动智能体。

120万美元与1.2万小时是Databricks基于自身MCP服务器缺陷的估算,而非跨团队测量;工作流计数门槛(至少三个会话或两名工程师)与浪费分类是该产品设定的判据。