本文 介绍了“自营质量技术AI智能体”的实践与思考,探讨了如何通过AI技术解决自营领域业务链路复杂、场景繁多带来的技术痛点。文章详细阐述了AI智能体的整体架构设计、核心能力(如工具调度、数据查找、链路诊断等)、具体实施方案及其应用效果,并展望了未来在AI赋能质量技术领域的规划与发展方向。

前⾔
关于⾃营技 术,业 务域覆盖了 C 端(猫超交 易、营销&导购、直播&⽤户)与 B 端(供 给、供应链、物 流履 约、计费)等核⼼业 务领域,且 细 分出众多 业 务⼦域。这 些⼦域 紧 密 围绕 业 务质量保障体 系,因 各⾃特性呈现出 显著 的差异化。同 时 业 务链路冗⻓,业 务 场景繁杂 多 样,致使技 术⼈员 在⽇常⼯作中⾼频⾯临诸多 棘⼿痛点:不 知 业 务背 景,不 知该如何操作,不 知 有 什么⼯具,不 会⽤⼯具,不 会 构造测 试数 据,异常排 查 耗 时等等。
随着 A I⼤模型 的 迅 猛发展,已 经 具备⾜够的"智 能"并 且 可以相对"低成 本 的"去解决⼯作中的各 种 问题 的能⼒,我们看到了为 业 务技 术 同学⽇常⼯作提效的可能性。
概 述
打 造⼀款 业 务 AI 测 试助理⻆⾊,即质量技 术 AI 智 能体的想 法油 然⽽⽣。我们 期望 它成为技 术⼈解决⽇常问题的得⼒助⼿,营 造 出 有系统 功能问题找 AI、有 数据诉 求 找 AI、有⼯具诉 求 找 AI 的⾼效⼯作 氛围。
痛 点问题 的 思 考:
在⼀个 全链路项⽬中,可能会 涉 及 20 多 个 技 术团 队,系统 链路⻓,不 同 业 务域的 业 务 场景 差异 较⼤,⼯具平台 种类繁 多、⼯具 繁 多 且 分散,规则复 杂。⼈⼯⽅式 管 理调度⼯具具 有较⼤的理解和使⽤成 本。
在 AI+⽅向,⾯对 不 同 业 务特性,如何能够 统⼀⼊⼝,沉淀 通⽤能⼒赋能到开发、测 试、产品同学。
解决 是私 域问题,如 果 减少 模型 环境和 不 可解释性,让 输 出 更稳 定&准 确
AI 智 能体如何具备可 迭 代扩展、可低成 本 接⼊和 运维、可复⽤的 系统 能⼒
专 项⽬标:
抽象 通⽤能⼒(所 有 业 务域 均 可使⽤),优先完成 通⽤能⼒Agent 建设,其 次 解决领域特 有场 景
沉淀 解决⽅案 和实施 细 节,打 通 链路,成可复⽤的 智 能 测 试解决⽅案框架,减少⼤家 在 AI 实践 过 程 由于踩 坑 产⽣的 沉默 成 本
⽅案 的 创 新:
提出基 于 流程 任务 编 排引擎+RAG 的解决⽅案,流程 任务 编 排引擎作为 业 务 系统 与⼤模型 之间的交互 桥梁,承担执⾏层的能⼒。
任务能⼒划分:
静态数据 通过 知识库 管 理–⽤于⼤模型 交互意 图 识别任务推理 等 环 节
动态数据配置 或任务 通过流程 任务引擎 管 理–⽤于 场景配置 化接⼊、⼤模型 与 外界 系统 交互 的执⾏媒介
整 体⽅案
基于 流程 任务 编 排引擎+RAG 架构 开发 垂 直领域 场景 agent,实现集⼯具 查 找、⼯具调度、数据 查找、数据 答 疑、业 务 答 疑、⽇志链路异常诊断,扩展 业 务 垂 直 Agent 于⼀体的⾃营质量技 术 AI 智 能体。
整体⽅案架构图 如 下
▐核⼼能⼒
RAG 架构选型 采⽤的 是淘 天 Ai Studio 平台,⽀持快 速 搭建⼀个 灵 活、快捷、稳 定的 RAG 系统。
通过 动态任务 配置模块,⽀持 通⽤场景配置 化快 速 接⼊,⽆需开发,⽆需调优。
通过流程编 排任务引擎 进⾏领域交互解耦、拆解⽤户任务,提供灵 活、稳 定、定制化的 RAG⽅案。
当⽤户 输⼊问题,通过 定制化拆分多 个"查 找、检索、增强、⽣成"⼦任务完成⼀个 复 杂 的 agent 功能
▐流程任 务 编排 引 擎能⼒
通过 动态 配置 化 模型,⽀持对任务 进⾏管 理&调度能⼒。任务之间具备 上下⽂管 理,具备 流程 任务 编排调度能⼒
任务 管 理:⽀持任务 编 排 管 理,具 有 调度、修改、重试 等 功能,便于排 查 调度 过程,提⾼复 杂场景 调度 稳 定性
多协议接⼊:⽀持 HSF、HTTP、BEAN、THUB 等 多 种通⽤或平台协议快 速 接⼊原⼦服 务能⼒
动态 配置 化:⽀持⼯具 服 务 配置、参数 模板配置、数据中⼼基础信息 配置、链路诊断 配置 项 等 等
详 细⽅案▐⼯具 调 度 Agent
解决⽤户对⼯具诉 求 的意 图。如 查 找⼯具、⼯具⽤法介 绍、执⾏⼯具。
### 详细设计⽅案
常⻅有2种接⼊⽅式,⽅案1⽆法做到通⽤,本⽂重点介绍⽅案2的实现。
⽅案 1:将⼯具通过 http、hsf 协议配置到 Ai Studio 平台,通过⼤模 型 的 function_call 回 调。
限制:
配置繁 琐,新增删除⼯具 还 需增加提 示 词 需要发布 agent。仅 有 functionCall 的 模型⽀持;
⼯具的调⽤完全依赖 模型 的推理能⼒,⽆法 保证 不 稳 定;
⼯具太多,幻觉 更⼤难以控 制
仅 有 调度,⽆法进⾏⽇常 查 找、答 疑 等 能⼒
应⽤:部 分 业 务⼦域可参考 此⽅案,如:交 易⼦域的 造 单⼯具
⽅案 2:通过 RAG+重 构 function_call 回 调流程任 务
1.⼯具特征知识库设计,结构 化⼯具介 绍、使⽤说 明、参数说 明等结构
a.可考 虑结构 化 json 格 式展 示
2.⽂档 切⽚,控制单⼯具信息切⽚在 同⼀个 chunk⾥
3.召 回,通过 双路召 回(基于语义向量和关键字 进⾏知识召 回)
4.提 示 词⼯程 和⼤模型选型 调优(核⼼)
5.回 调 流程 任务引擎,根 据⼤模型输 出 构 建 流程 任务并 进⾏调度。
详细系统流程 如 下:
### ⽅案优势
结果稳 定。不 会 因 为⼯具数量增多,导致出现幻觉或 不 稳 定调⽤
易 于调优。幻觉 通 常出现 在 语义相似⼯具之间,可 通过 优化知识库⼯具特征、增加⽤户问题的提 示 词可减少幻觉。
可扩展。针对⼯具增加 默 认参数 模板、trace、⾃定义 输 出 结构等 扩展能⼒
多协议。不 仅⽀持 http、hsf 协议的调⽤,还⽀持 thub、数据 源等⽅式 查 询
可异 步。针对⼯具执⾏时 间⻓的 场景,可异 步 执⾏返回。
### 场景接⼊
⽀持 http、hsf、thub 等 多 种通⽤平台协议的⼯具 配置 化接⼊
接⼊注 意事项:
注意⼯具语义描述,⼯具的基础信息能够准确⽀持⽤户查找、使⽤他的所有场景,并且能够区别其他相似⼯具。
### 效果与演示
⼯具答 疑
⼯具使⽤提 示
⼯具调 度
▐数据查 找 agent
解决⼤家总 是有 找 商 品、找供应 商、找指定 商 品的信息、找指定供应 商 账号密码、找……
静态数据查找可通过答疑agent实现,该agent主要实现动态数据查找
### 详细设计⽅案
不 同于⼯具 agent,数据 查 找 不 是 静态的知识库 RAG⽅案 可实现,⽽是 动态的 进⾏数据 查 找。整体可以⽤户诉 求 抽象成以 下两个 步 骤:
1.查资 料
a.资料从 哪⾥来
i.接⼝
ii.数据 源:ADB、ODPS
2.⼤模 型 总结 回 答
a.不 同 场景 如何定制化 回答—动态 prompt 实现
详细系统流程
## ⽅案优 势
1.动态 RAG 链路,接⼊成 本 低。调试后仅需 配置 化接⼊
2.⽀持灵 活 的 流程 任务 配置,适 合 明 确 流程 的 场景 应⽤
## 如何 接⼊
1.数据 源查 找⽅式,⽀持 配置 化接⼊,详 细 参考⽂档
2.接⼝查 找⽅式,如需定制化 prompt,需动态调试。调试⽅法 参考⽂档。
效 果&演 示
效 果
⽬前已接⼊全链路 商 品数据 池 动态 查 找 测 试数据、查 找供应 商 相关信息、商 品 不 可 售 规则 查 询诊 断、交 易 订单特征 查 询 答 疑 场景
演 示
查 找全链路数据 池(odps)商 品
查 找指定供应 商 信 息
查 指定交 易 订单特 征
查商 品 在 区域 是 否可 售
▐链路诊断 Agent
通过 对关键字、问题 进⾏链路数据 查 找,⽇志 查 找获取相关信息后,由⼤模型进⾏分 析 总 结。
详细设计⽅案
1.数据 来 源
a.链路数据依赖阿拉 丁 链路诊断和 鹰 眼数 据
b.⽇志诊断依赖集 团⽇志 运维 平 台
2.任务拆分,根 据⽤户指定拆分 查 找链路任务 or 查 找⽇志任 务
a.⽇志 查 找任务⽀持多 种维 度数据 筛查,⽬的 是 为了 精 准捞取⽬标⽇志,去除⽆⽤⽇志,减少⼲扰
i.关键字 追 加 筛选 项
ii.配置 化 查 询⽇志必要字 段
iii.⽀持动态前 置过 滤和排除的 正 则规 则
3.动态 prompt 进⾏异常诊断、⽇志分 析等 定制化任 务
4.后 置 扩展:如 查 询异常的 git 提交信息 详细系统流程
详细系统流程
⽅案优势
1.⽀持多 种维 度规则 配置,控制捞取 更 准确的⽬标 数 据
2.⽀持链路巡 检、⽇志巡 检、链路+⽇志巡 检 三 种⽅式
3.⽀持 不 同数据 源 对 接
4.⽀持后 置 能⼒扩展,如 查 代码、查 变 更、通 知 等
效 果&演 示
效 果:
⽬前 mmc 所 有 应⽤均 已接⼊,⽀持相关应⽤的链路和⽇志异常诊断。演示:
演示:
▐答疑 Agent
基于知识库 图 谱,进⾏兜底 答 疑。
实现⽅案
通过 对知识⽂档 向量库的 构 建,根 据⽤户问题对相关⽂档进⾏召 回,⼤模型 交互 输 出 答案 和参考⽂献。
知识库⽂档构 建,将⼤家 核⼼的 测 试⽂档通过 A I 进⾏标 准化为知识 图 谱的⽅式 进⾏管 理。提⾼⽂档 的召 回 准确度
召 回 基于语义向量和关键字的知识 查 询,将 最 相关的 topN⽂档 召 回
定制化域⼤模型 交互的 prompt,通过模型选型 和 prompt 调优,得到 答 疑 结果
效 果展 示
AI 智 能 体 整 体 效 果
⾃营技 术 质量 AI 智 能体 经过 能⼒的 迭 代的发展,⽬前处于功能优化&推⼴试⽤阶 段。
截⽌当前:
为 100+同学提供 过服 务,涉 及开发、测 试、产品、业 务。
使⽤次 数 达 8k+次
其中数据查找、⼯具调⽤在 项⽬提效效 果明 显
链路诊断⽀持 系统 异常分 析,⽬前仅 部 分 业 务接⼊,待推⼴
⽀持其他⽇常 答 疑
随着测试语料库的持 续 完 善 和新增,AI 质量技 术智 能体⽀持解决问题的能⼒也会新增。在 整 个 过程 中,如何持 续 调整优化、保障 稳 定性和准确性 是 接 下 来 的挑战。
总结 与 展 望
综 合成 本、技 术⻔槛、未来 的 不 确定性,结 合⼯程 侧+RAG+MCP 构 建质量技 术智 能体,解决 私 域复 杂 场景 仍 是 可⾏的⽅向。
当前:
已初 步 建成具备多 服 务能⼒的质量技 术 A I 智 能体,能够 给 开发、测 试、产品同学⽇常知识库 管 理、数据 构造,数据 查 找,问题排 查 提供 有 效的帮助。
核⼼功能覆盖:
智 能⼯具调度:实现⼯具的 智 能咨询、调度能⼒
数据 查 找 答 疑:⽀持跨 系统 数 智 能 检索 与 关联分 析
业 务链路诊断:提供基于关键字 进⾏智 能 溯源 链路、分 析⽇志的能⼒
知识库 图 谱 答 疑:构 建 答 疑知识库,通过 AI 标 准化知识 图 谱,提供 答 疑能⼒
未来:
能⼒完 善:完 善⾃营质量技 术 AI 智 能体 通⽤模块 agent 的能⼒,打 造测 试、开发、产品 等 通⽤AI 测 试助⼿。
⽅案沉淀:为 未来 A I 完成 测 试分 析 和 测 试执⾏的愿 景 提供⽅案 建设和 沉淀 原⼦能⼒,形成 可复⽤的 智 能 测 试解决⽅案框架。
⽣态共建:持 续 挖掘 垂 直 场景 的 agent,推动⼤家参考相关⽅案 和 系统 能⼒并能够 有 效 场景 落 地。
场景 攻 坚:考 虑通过 推理 模型 解决复 杂场景 问 题





