Databricks 将数据湖仓变为企业级 AI Agent 工厂

Towards AI July 2026
来源:Towards AIAI agententerprise AI归档:July 2026
Databricks 正将其数据湖仓升级为全栈式 AI Agent 工厂。通过将 Databricks Apps 与 MLflow 深度整合,企业能够在统一的数据平台内构建、部署和监控智能代理,为受监管行业提供可审计、可迭代的生产级流水线。

Databricks 已悄然从一家数据分析巨头转型为 AI Agent 操作系统。该公司最新推出的 Databricks Apps 与 MLflow 集成,绝非一次简单的功能更新——这是一项战略宣言:数据平台必须成为 AI Agent 的原生运行时环境。过去,构建一个生产级 AI Agent 需要拼凑一个碎片化的技术栈:用于检索的向量数据库、提示管理工具、模型推理端点,以及独立的监控面板。这种拼凑方式让企业部署变得脆弱且不透明。如今,Databricks 将整个 Agent 生命周期——数据摄取、模型推理、工具调用、反馈循环——全部封装在一个受治理的数据湖仓内。最终呈现的是一个透明、可审计的系统,其中每一步操作都可追溯、可复现,尤其适合金融、医疗等对合规性要求极高的行业。

技术深度解析

Databricks 将 Apps 与 MLflow 的集成在架构上意义重大,因为它重新定义了单一治理边界内的 Agent 生命周期。传统上,AI Agent 技术栈如下所示:

- 数据层:数据湖中的原始数据(如 S3、ADLS)+ 独立向量数据库中的向量嵌入(如 Pinecone、Weaviate)。
- 编排层:LangChain、LlamaIndex 或自定义代码,用于将 LLM 调用与工具调用串联起来。
- 服务层:通过专用端点进行模型推理(如 Anyscale、Together AI)。
- 监控层:独立的可观测性工具(如 LangSmith、Weights & Biases)。

Databricks 将这一切压缩为一个统一的技术栈,其中湖仓既充当数据源,又充当运行时环境。其核心技术创新在于 MLflow Agent Tracking 能力。MLflow 早已是实验跟踪的事实标准,现在它能够记录 Agent 的每一个原子操作:输入提示、模型的原始响应、工具调用(如 SQL 查询、API 调用)、工具输出以及最终的 Agent 输出。这创建了一个完整的审计轨迹,以 Delta Lake 表的形式存储,支持时间点回放和调试。

在底层,Databricks Apps 提供了一个基于 Streamlit 类组件的低代码前端,但与 Unity Catalog 紧密集成以实现访问控制。当用户通过 App 与 Agent 交互时,请求会经过 MLflow 的跟踪中间件,该中间件以结构化格式捕获整个链路。这不仅仅是日志记录——这是一个反馈循环。跟踪数据可用于通过 Databricks 的模型训练功能微调底层模型,或调整检索参数。

一个具体示例:一位金融分析师向 Agent 提问:“请展示第二季度所有超过投资组合价值 10% 的交易。”Agent 会:
1. 解析意图。
2. 针对湖仓生成 SQL 查询。
3. 通过 Databricks SQL 执行查询。
4. 返回结果。
5. MLflow 记录查询、结果集和延迟。

如果查询返回错误或空集,跟踪功能允许开发人员精确检查失败发生的位置,而无需复制环境。这对于调试复杂的多步骤 Agent 来说是一个颠覆性的改进。

相关开源仓库:开源 MLflow 项目(GitHub: mlflow/mlflow,18k+ 星标)现已包含 `mlflow.tracing` 模块。开发人员可以在本地试验 Agent 跟踪,然后再部署到 Databricks。该仓库的最新版本(v2.14+)重点聚焦 Agent 可观测性,包括对 LangChain 和 LlamaIndex 集成的支持。

数据表:Agent 可观测性对比

| 特性 | Databricks + MLflow | LangSmith | Weights & Biases Prompts |
|---|---|---|---|
| 原生数据血缘 | 是(Delta Lake) | 部分(外部数据库) | 否 |
| 审计轨迹存储 | 湖仓(ACID) | 外部数据库 | 外部数据库 |
| 低代码应用构建器 | 是(Databricks Apps) | 否 | 否 |
| Unity Catalog 集成 | 原生 | 无 | 无 |
| 每 100 万跟踪步骤成本 | 包含在工作区内 | ~0.50 美元 | ~0.30 美元 |
| 开源核心 | 是(MLflow) | 否 | 否 |

数据要点:Databricks 的优势在于与数据层的深度集成。虽然 LangSmith 和 W&B 提供跟踪功能,但它们无法将跟踪数据存储在与源数据相同的 ACID 兼容湖仓中并进行治理,这使得 Databricks 成为唯一能够提供从原始数据到 Agent 输出端到端血缘的解决方案。

关键参与者与案例研究

Databricks 并非这一领域的唯一玩家,但其方法独树一帜。企业级 Agent 平台竞赛中的关键参与者包括:

- Databricks:利用其现有的湖仓客户群(超过 10,000 家客户,包括 50% 的财富 500 强企业)。其策略是从数据分析向上销售至 Agent 编排,以 Unity Catalog 作为治理支柱。
- Snowflake:推出了 Cortex AI,包括 Snowflake Notebooks 和用于检索增强生成(RAG)的 Cortex Search。然而,Snowflake 缺乏原生的低代码应用构建器,其 MLflow 集成也尚不成熟。Snowflake 的 Agent 故事更多是关于基于 SQL 的 Agent,而非通用工具调用型 Agent。
- Microsoft:通过 Copilot Studio 和 Azure AI 提供了广泛的 Agent 生态系统。但数据层是碎片化的(Azure SQL、Cosmos DB、Fabric)。Microsoft 的优势在于 Office 365 集成,而非数据湖仓。
- LangChain:这个开源编排框架已转向 LangSmith 和 LangGraph 用于生产监控。然而,LangChain 仍然是一个中间件层,而非数据平台。使用 LangChain 的企业仍需自行管理数据基础设施。

案例研究:一家大型医疗保健提供商

一家美国大型医疗系统(名称保密)最近试点使用 Databricks 构建临床试验匹配 Agent。该 Agent 从湖仓中摄取患者记录,查询微调后的 LLM 以匹配资格标准,并生成一份候选名单。

更多来自 Towards AI

提示工程已死:循环工程成为AI新范式多年来,AI社区一直痴迷于提示词的艺术——寻找精确的措辞、温度设置和上下文窗口,以从大语言模型中引出最佳输出。这个时代正在结束。一场根本性的转变正在发生,其驱动力是AI智能体的崛起——它们能够观察自己的输出、执行多步骤计划并在无需人工干预的从对话到洞察:文档智能如何重塑企业级NLP格局围绕企业级NLP的叙事正在发生根本性转变。早期市场热情集中于面向客户的聊天机器人,将其视为新颖的交互媒介。然而,AINews的深度分析揭示,真正的价值潜藏于企业“后台”——那些堆积如山的非结构化文档、邮件线程和内部通讯,长期以来它们都是信息GPT-2解码器内部探秘:768维向量如何精准预测下一个词GPT-2解码器是一个12层Transformer,它是有史以来最具影响力的语言模型之一背后的主力。其核心是一个768维向量,它携带当前token的表示,穿过一系列相同的模块。每个模块执行两个关键操作:多头自注意力(让向量从序列中所有先前t查看来源专题页Towards AI 已收录 111 篇文章

相关专题

AI agent273 篇相关文章enterprise AI162 篇相关文章

时间归档

July 2026663 篇已发布文章

延伸阅读

从指令到自主:AI Agent如何重写智能的规则AI行业正经历一场根本性变革:从僵化的指令执行自动化,迈向能够独立决策的自主AI Agent。这一转变重新定义了生产力、商业模式与人机协作。AINews深度剖析驱动这场革命的技术、产品与市场力量。Anthropic的静默政变:安全战略如何从OpenAI手中夺走企业信任当Sam Altman登上杂志封面时,Dario Amodei悄然签下了《财富》500强合同。AINews独家揭秘:Anthropic如何以安全优先策略构筑企业信任护城河,从OpenAI手中撬走关键客户,并暴露了消费品牌在B2B市场中的脆弱Claude Cowork:AI从“军师”变“同事”,直接替你干活Anthropic 发布 Claude Cowork,标志着 AI 角色的根本性转变:从提供建议到直接操作软件。它能打开表格、填充数据、发送邮件——打通 AI 生产力的“最后一公里”,重新定义人机协作。OCR + 混合RAG + LangGraph:这款法律AI像合伙人一样思考,而非工具一套融合OCR、混合RAG与LangGraph的新型合同智能系统,正将法律AI从被动的文档解析器重塑为主动的推理代理。它不仅能读取条款,更能映射条款间的相互依赖关系、标记矛盾之处,并建议更优方案。

常见问题

这次公司发布“Databricks Turns Data Lakehouse Into an AI Agent Factory for the Enterprise”主要讲了什么?

Databricks has quietly pivoted from a data analytics powerhouse to an AI agent operating system. The company's latest integration of Databricks Apps with MLflow is not a mere featu…

从“How does Databricks MLflow agent tracing compare to LangSmith for regulated industries?”看,这家公司的这次发布为什么值得关注?

Databricks' integration of Apps with MLflow is architecturally significant because it redefines the agent lifecycle within a single governance boundary. Traditionally, an AI agent stack looks like this: Data Layer: Raw d…

围绕“Can Databricks Apps replace low-code platforms like Retool for AI agent interfaces?”,这次发布可能带来哪些后续影响?

后续通常要继续观察用户增长、产品渗透率、生态合作、竞品应对以及资本市场和开发者社区的反馈。