直接答案
AI 客服应在上线前定义可回答范围、禁止承诺事项和人工接管条件。接管时只传递解决问题所需的摘要、用户已提供的信息和已尝试步骤，避免让用户重复描述，同时遵守最小必要的数据原则。
先定义 AI 可以做什么
将问题分为可直接回答、需要补充信息、必须人工处理三类。知识库有明确依据、答案低风险且可以核验的问题可由 AI 处理；涉及合同、退款争议、敏感个人信息、重大承诺或知识缺失时，应转人工。
人工接管的常见触发条件
- 用户明确要求人工服务。
- 连续多轮未解决或重复同一答案。
- 模型置信不足、来源冲突或工具调用失败。
- 投诉、退款、合同、付款、安全和其他高影响事项。
- 检测到需要处理的敏感信息。
触发条件应能记录和复盘，不能只依赖客服个人判断。
交接上下文应该包含什么
建议传递问题摘要、用户目标、已确认事实、已尝试步骤、失败原因和建议下一步。聊天全文不是默认必需；手机号、微信号、姓名等信息也不应进入流量统计事件。
人工接管后，要明确告诉用户当前由谁处理，并避免 AI 与人工同时给出冲突答复。
同时看解决率和风险
| 指标 | 用途 |
|---|---|
| 一次解决率 | 判断标准问题是否真正解决 |
| 转人工率与原因 | 识别知识缺口和边界是否合理 |
| 重复提问率 | 发现答案不清或没有解决问题 |
| 严重错误数 | 监测错误承诺、隐私或安全事件 |
| 人工节省时间 | 衡量摘要和预处理是否有效 |
常见问题
转人工率越低越好吗？
不一定。高风险问题及时转人工是正确行为；应结合转人工原因、解决率和严重错误判断。
接管时必须传完整聊天记录吗？
不必须。优先传递解决问题所需的结构化摘要，并根据业务和合规要求决定是否提供更多上下文。
AI 客服可以直接承诺价格或退款吗？
只有在规则明确、权限受控、信息可核验且业务明确授权时才可以；其他情况应转人工确认。
参考来源与延伸阅读
- NIST Generative AI Profile
生成式 AI 的风险识别、测量和管理参考。
- DeftGlow 隐私与统计说明
本站对流量统计与客服信息边界的说明。