WAIC 2024上，阿里云、腾讯云等巨头分享了企业Agent落地的成熟方案，本文为你详解开源与云服务两条核心路径的架构与选择。
核心内容：
企业Agent落地的两大主流技术路线：开源框架自研与云厂商服务
以LangGraph和Dify为例，深度解析开源Agent框架的四层核心架构
对比不同路线的实施差异与选型建议，助力企业降本增效
2026 WAIC观察
7 月 18 日 WAIC 世界人工智能大会多场企业 AI 专题论坛同步开讲，阿里云、腾讯云均把「企业内部标准化搭建 Agent、实现业务全链路降本增效」作为核心分享主题之一。两家云厂商现场完整披露了各自面向企业应用的 Agent 落地架构、分层工程实现思路、线上运维配套能力。
结合现场厂商分享，当前企业落地 Agent 可参考两大类成熟路线：开源框架自研路线、云厂商 Agent 服务路线（阿里腾讯这类），两条路线核心框架一致，具体的分层逻辑、调用链路、运维约束存在差异，下文会逐层拆解对比，可按需选择。
另外，目前行业还有一类 Harness 工程构建Agent 的方案，核心思路是完全交由大模型自主理解任务、动态编排工作流并执行工具调用。个人认为该模式更适合个人模式的Agent应用，企业生产落地上需要更强的稳定性和安全性，完全由大模型自己主导编排不太可控，这种模式本文暂不做展开。
一
🏗️Agent开源框架落地架构
（一） LangGraph｜工业级单智能体编排框架
▫️ 四层架构
Workflow/Graph 层：StateGraph 有向状态图，承载完整业务流程，预定义节点跳转、循环、人工中断规则；
Node 服务层：Graph 内独立能力单元（RAG 节点、LLM 节点、工具节点），对应垂直原子业务能力；
Step 执行层：Node 内部 ReAct 单轮推理单元，强制约束 1 Step = 1次LLM调用；
Runtime 执行原子层：Model Wrapper 模型封装 + Tool Registry 全局工具注册中心。
▫️ 端到端完整调用流转
初始化 Graph：接收业务请求，创建全局强类型 State 状态容器，写入用户入参、全局唯一 TraceID；
Graph 调度器读取 State 流转标记，选中待执行 Node；
Node 读取上下文，启动内部 Step 循环；
单 Step 组装 Prompt、工具列表，下发 Runtime 执行；
Runtime 完成模型调用、工具执行、输出结构化解析，结果回传给 Step；
Step 更新全局 State，自动判断循环 / 分支 / 终止；
流程结束后 Graph 汇总 State 输出结果，持久化 State 快照，原生支持断点续跑。
（二）Dify｜低代码私有化企业 Agent 平台
▫️ 四层分层定义
应用 Workflow 画布层：可视化预定义业务流程，对外暴露统一 API，管理全生命周期任务；
插件 Service 层：全局可复用原子插件（知识库、代码执行、HTTP 工具）；
执行节点 Stage 层：画布最小执行单元，检索 / LLM / 条件分支均为独立固定节点；
底层引擎 Runner 层：统一模型调度、Prompt 管理、工具网关、日志埋点。
▫️ 端到端完整调用流转
用户调用应用 API，加载预配置 DAG 拓扑，初始化全局会话变量池；
Workflow 预加载依赖 Service 插件，校验租户、工具访问权限；
按拓扑顺序串行执行每一个 Stage 节点；
Stage 读取全局变量，组装执行参数下发 Runner；
Runner 完成 Prompt 渲染、模型推理、工具沙箱执行、输出格式校验；
执行结果回写全局变量池，自动流转至下一节点
流程结束汇总输出，销毁临时沙箱与会话资源。
（三）AutoGen｜多智能体协同五层扩展架构
▫️ 五层分层定义（四层基础 + 专属 A2A 通信层）
GroupChat Workflow：全局多 Agent 总流程，预定义任务终止条件、参与智能体角色；
Agent Service：独立子智能体（检索 Agent、分析 Agent、总结 Agent），各 Agent 拥有专属人设、独立工具权限；
Message Stage：单 Agent 单轮发言推理单元，1 Stage 绑定 1 次 LLM 调用；
Model/Tool Runner：统一底层模型、工具执行底座；
A2A 通信层（独有新增层）：全局消息总线，负责 Agent 间消息转发、角色调度、轮次仲裁。
▫️ 端到端完整调用流转
Workflow 初始化 GroupChat 会话，注册全部子 Agent，创建全局消息池；
用户原始请求写入 A2A 消息总线，通信层按预设规则推选首个执行 Agent；
目标 Agent Service 读取全局对话消息，进入 Message Stage 推理；
Stage 组装上下文，下发 Runner 执行模型 / 工具调用；
Runner 返回结构化消息，Stage 将本轮输出提交至 A2A 总线；
A2A 层解析消息内容，按预设逻辑判定下一个待执行 Agent，循环调度；
满足终止条件后，Workflow 汇总全部对话消息对外输出。
二
☁️云厂商 Agent 服务架构
整体特点：云厂商一站式托管，配套成熟存储、观测、权限底座，开箱即用，无需自建底层基础设施。
（一）阿里云 Agent Run｜三层合并一体化架构
▫️ 三层分层定义
Orchestration 编排层：可视化预定义 Workflow 画布、对外服务入口，统一管理租户、任务生命周期；
Runtime 调度层（Service+Stage 合并层）：内置 State 管理器、步骤执行调度、能力路由；
能力执行 Runner 层：统一模型网关、MCP 工具沙箱、输出结构化校验；横向配套底座：记忆存储、向量库、观测平台、租户权限治理。
▫️ 端到端完整调用流转
请求进入编排层，加载预定义业务 DAG 拓扑，生成唯一 runId、初始化会话 State；
编排层将完整流程拓扑下发 Runtime 调度层；
Runtime 读取 State，自动拆分多步推理单元，循环执行：上下文组装 → 下发 Runner 执行模型 / 工具 → 接收结果更新 State → 判断分支循环；
全步骤执行完成，Runtime 汇总 State 数据回传给编排层；
编排层封装业务结果返回，底层底座异步持久化会话记忆、上报全链路监控指标。
（二）腾讯云 Agent Runtime｜四层标准分层架构
▫️ 四层分层定义
业务 Workflow 层：场景化服务入口，统一任务 ID 分发、状态流转、隔离 Workspace；
Skill Service 层：垂直业务原子能力（日志分析、知识库问答、代码评审）；
Stage 分步推理层：单轮 LLM 步骤，内置自动重试、人工拦截逻辑；
Agent Runner 执行层：模型路由、MCP 网关、Prompt 模板、分层埋点观测。
▫️ 端到端完整调用流转
外部请求进入 Workflow，创建隔离 Workspace，预拉取业务依赖资源；
Workflow 调度对应 Skill Service，加载该能力依赖的全部预定义 Stage；
串行 / 分支执行每一个 Stage，单 Stage 组装上下文后调用 Runner；
Runner 统一执行模型、MCP 工具调用，结构化结果回传 Stage；
Stage 更新会话中间状态，全部步骤完成后结果回传给 Service；
Workflow 汇总所有 Service 输出，销毁隔离 Workspace，持久化任务最终结果。
（三）Microsoft Azure Foundry Agent｜六层极致解耦架构
▫️ 六层分层定义
业务应用层 Workflow：低代码预定义画布、对外 API，定义多 Agent 业务拓扑；
智能体编排层 Service：封装垂直子 Agent，管理角色、依赖步骤、权限范围；
推理步骤层 Stage：单轮 LLM 执行单元，负责上下文组装、分支判定；
模型抽象层：独立模型网关，多模型兼容、负载均衡、推理缓存；
工具统一协议层 MCP：独立全局网关，工具注册、鉴权、沙箱、跨系统协议转换；
观测与治理底座层：横向贯穿全层，统一埋点、权限、记忆、LLMOps、成本分账。
▫️ 端到端完整调用流转
请求进入业务应用层，初始化全局 State、TraceID，加载预定义编排拓扑；
Workflow 调度对应智能体 Service；
Service 遍历内部 Stage，每一步拆分两类调用：纯 LLM 推理 → 下发模型抽象层；需要工具 → 单独路由 MCP 协议层；
模型层 / MCP 层分别返回结果，Stage 合并数据更新全局 State；
判定分支、循环逻辑，重复执行 Stage 直至流程完成；
全六层自动向治理底座上报指标、日志、记忆快照；
流程结束，Workflow 汇总结果返回，底座同步生成成本账单、持久化用户记忆。
三
📊主流架构选型对比总表
四个
🧱 企业落地 Agent 架构的核心模块清单
顶层流程编排模块
Workflow 拓扑定义引擎：支持预定义 DAG、循环、条件分支、人工中断节点；
任务生命周期管理：JobID 分发、状态流转、隔离 Workspace、资源自动销毁；
统一 API 网关、多租户 / 用户隔离鉴权体系。
原子能力复用模块
Service 资产注册中心：存储垂直领域子 Agent 元数据、依赖清单、权限白名单；
跨 Workflow 能力调度器，实现原子业务能力全局复用。
分步推理调度模块
Stage 标准化执行模板，强制约束：1 Stage = 单次LLM调用；
内置自动重试、超时降级、人工审批拦截钩子；
全局统一结构化 State 状态存储，原生支撑断点续跑、故障恢复。
底层统一执行模块
独立模型抽象网关：多模型路由、负载均衡、Prefix 推理缓存；
独立 MCP 工具协议网关：全局工具注册、统一鉴权、资源沙箱隔离；
Prompt 模板资产中心、输出 Schema 结构化校验组件。
横向配套底座模块（生产环境必备）
分层记忆存储：会话临时状态、向量长期记忆、关系库用户结构化持久档案；
全链路分层观测平台：分层 Span 埋点、多维度指标、成本统计、异常告警；
LLMOps 运维流水线：资产版本管理、CI 自动化校验、灰度发布、自动化评测。
五
⚠️ 企业落地 Agent 避坑指南
❌ 选用 Harness 式大模型自主编排方案用于生产：无固定预定义流程约束，工作流逻辑极易跑偏，工具权限、数据安全无法管控，仅适合个人原型验证；
❌ 分层边界耦合：业务编排逻辑写入底层 Runner，后续模型、工具迭代需要修改上层业务代码；
❌ 无统一全局 State 载体：Stage 间零散透传参数，故障无法断点恢复，会话上下文管理混乱；
❌ 单 Stage 多次 LLM 调用：分层成本、耗时无法精准拆分，故障定位难度翻倍；
❌ 工具逻辑内嵌执行层，无独立 MCP 网关：新增业务工具需要改造底层执行代码，复用、管控成本极高；
✍️ 文末小结
从本次 WAIC 阿里云、腾讯云等大厂公开分享可以看出，企业级 Agent 落地已经形成统一行业共识：采用预定义分层标准化 Workflow 架构，可能是兼顾稳定、安全、降本增效的最优解。
开源框架路线灵活无厂商绑定，适合有自研团队、需要深度私有化定制的企业；云厂商Agent 服务开箱即用，适合希望快速上线标准化业务、减少底层运维投入的企业。
企业可结合自身技术栈、业务复杂度、现有云生态依赖，对照本文选型对照表完成架构方案选型。
关于企业Agent落地实践，你有哪些自己的想法，欢迎讨论和指导！如果觉得有用，也欢迎分享给你的小伙伴们。
