项目是今年 4 月份开始的,我以小版本迭代+AB 灰度的方式推进,耗时 3 个月,期间我们重点关注问答体验、以及AI 解决问题的能力。大概而言,一共经历了 3 个产品阶段:
阶段一:RAG+贴合业务的意图识别分类+AI 路径规划
-
实现基本功能 -
意图识别、追问逻辑、上下文联系、知识库管理、支持多语言问答 等 -
基于 RAG 的问答
阶段二:支持多模态问答+AI 介入处理复杂问题
-
实现复杂功能: -
文字、图片问答(图片理解、文字提取、自动检测语言并翻译) -
AI 查询接口数据、与 API 交互(商品推荐、套餐查询、登录状态判定) -
多步骤的技术故障处理(AI 引导用户进行多个步骤的排障流程)
阶段三:技术人员介入,工作流以代码+提示词为组合形态
-
缘由:特定业务场景需要更稳定的服务,这与 AI 的灵动创新性和自主性是存在冲突的 -
因此: -
我们增加代码节点,适合需要稳定服务的场景( 允许那种死板或者严肃的回复),舍弃 AI 的创新和灵活性 -
我们保留 AI 提示词节点,解决模型层面难点(例如图片理解、语义理解、跨语言问答),让 AI 在正确的场景中发挥他的优势和价值
先介绍几个概念:
基于 RAG 的 AI 问答服务
RAG 技术可以解决知识库的信息过于陈旧的问题,同时减少 AI 在回复中编造不存在的事实(即幻觉)。新技术的典型应用场景包含了“AI 客服”、“法律咨询”等,例如:
-
AI 客服能够快速检索产品手册,回复客户咨询 -
AI 助手快速检索法条案例,提供法律咨询
但是它也存在不足之处:复杂问题的处理能力弱,面对需要多步骤逻辑分支的任务,表现得不给力。但是即便如此,新技术依旧能满足人们快速检索知识的需求(不管是企业资料还是平时工作中积累的知识),而且市面上现存很多 AI 应用开发平台,大部分人都可以上手去打造一款基于 RAG 的 AI 问答服务。你可以前往任一个 AI 应用开发平台,然后按如下步骤:
-
第一步:选择一个大模型 -
第二步:上传导入一份文件 -
第三步:打开会话界面,向 AI 输入第一个提问
大部分 AI 平台都是这种体验步骤,几乎无门槛,也不需要懂技术。
对话产品需要保证哪些基础的用户体验
-
AI 主动追问与自主改写
聊一下 AI 的追问逻辑、和自动改写用户提问。 首先我认为做一款 AI 产品,是需要去提升用户对 AI 的第一印象,AI 不能显得太笨,不可以“答非所问”、也不可以让用户失去提问的耐性。所以这是一个效率的问题:最好是 AI 越快了解我的意图/需求,越快越好,并快速为我解决眼下问题。
这需要你去决定:什么时候让AI去自主改写用户的提问,而不是跟着用户屁股后面不断追问。但是我也不能由着 AI 胡乱改写用户提问,也需要你去决定:什么时候一定不能让AI自主改写提问。这需要去平衡用户体验与问答效率。
1. 什么情况下,需要 AI 主动追问用户
用户意图不明确的时候,假如用户输入的内容不知所云,或者 AI 不理解,那么就指令 AI 去追问用户“你需要什么帮助吗?”,直到 AI 完全理解用户的意图需求。这属于开放式追问,做得更好一点则要考虑历史对话,联系上下文、避免同样的意图做重复追问。
另一种是选择性追问,假如用户的意图明确,但是也有可能会同时命中 2 个意图类型,出现了多意图重叠现象,可以指令 AI 去追问用户“你是需要 XXX 服务还是 YYY 服务呢?”
此外还有一种场景是一定要追问用户的:业务关键信息缺失的情形,假如用户提出让 AI 帮他购买一张车票时(未明确订票日期、起点和终点),这是一定要追问的,不然订错票就很麻烦了~
2. 什么情况下,允许 AI 自主改写用户提问
-
在用户提问中出现明显的错别字时,允许改写/修正 -
商品推荐场景:把用户提问“你们产品覆盖日本地区吗”改写成“为我推荐一下日本相关产品” -
联系上下文改写:(问 1:杭州天气如何?问 2:上海呢?)针对问 2,AI 就可以改写成“上海的天气如何?”
这些都属于低风险的安全改写,按照标准流程处理,能够提升问答效率。
核心模块
一. 意图识别与分类
核心业务流程
-
支持文本输入 -
支持图片输入(多模态)
-
分词 -
错词修正、同样含义词改写
-
跨语言意图识别 -
联系上下文、基于对话历史改写意图 -
提问 1:日本天气如何? -
提问 2:韩国呢?(改写成“韩国天气如何?”),改写是为了避免意图识别服务。 -
支持人工标注意图(主意图+子意图+问答示例)
示例:产品咨询-价格咨询-“日本上网套餐多少钱?”
-
槽位 Slot 提取 -
槽位示例:订单号、时间、产品名称、国家 -
槽位可以理解成 关键参数信息,也可以理解成实体
意图回答“用户想做什么”槽位回答“涉及哪些关键要素/信息”示例:意图=查询订单,槽位=订单号(若槽位不完整,则需要AI主动追问用户)
-
意图类别 -
意图置信度 -
槽位信息
二. AI路径规划
定义:根据意图识别结果,规划AI处理路径
-
不同意图,对应不同的AI处理路径, -
示例:商品推荐,处理路径包含了AI与API之间交互 -
示例:产品咨询,处理路径包含了AI与知识库/FAQ之间交互
三. 知识库/FAQ管理
AI回复用户提问之间,需要先检索知识库/FAQ中信息,以解决用户提问中涉及的业务问题
四. 跨系统之间协作
当用户提问中出现“转人工”时,
-
AI需要给出人工客服的链接 -
AI需要把用户信息传给人工客服系统


