为什么不能把每条消息都送去审批
若连“收到,我先帮您确认”都要排队,响应会变慢,审批人也会被大量低风险事项淹没;真正重要的折扣、合同或执行动作反而更容易被快速点过。另一端,如果把“生成了一段看起来合理的话”直接等同于“可以执行”,就可能把模型猜测变成报价、退款、排期或客户标签。
审批要服务于风险控制,而不是制造形式上的人工参与。有效做法是先完成业务流程与人机边界盘点,再把会改变金钱、权利、客户体验或外部系统状态的节点挑出来,设置与影响相称的控制。
四级控制:从自动执行到人工执行
| 级别 | 典型动作 | 控制方式 | 失败时 |
|---|---|---|---|
| L1 低影响 | 公开产品信息、营业时间、基础确认、必要字段采集 | 规则内自动,定期抽检 | 澄清或转知识缺口,不编造 |
| L2 可恢复 | 创建跟进任务、预约意向、发送已批准资料、更新非关键状态 | 自动执行,留痕、告警和可撤回 | 停止重试并通知负责人 |
| L3 高影响 | 折扣、交期、退款建议、关键承诺、敏感标签、重要客户改派 | 执行前人工审批 | 保持未执行,不默认通过 |
| L4 权限动作 | 合同签署、扣款、删除记录、账户权限变更、受监管专业结论 | 人工核验并由有权限的人执行 | 进入专门流程并保留证据 |
级别不是按“消息是否由AI写”划分,而是按动作后果划分。同一句“已为您保留名额”,若只是草稿预览与已经写入库存、锁定资源,风险完全不同。试点时应把文案生成与真实工具调用拆成两个可观察步骤。
四个判断问题,决定是否需要人工
| 判断项 | 低风险信号 | 提高控制级别的信号 |
|---|---|---|
| 业务影响 | 只解释公开信息 | 改变价格、资金、权益、交付或客户归属 |
| 可逆性 | 可撤回草稿或未发送任务 | 已对外承诺、已扣减资源或难以追回 |
| 事实确定性 | 来自已批准且仍有效的资料 | 依赖推断、信息冲突、时效不明或客户身份未核验 |
| 执行权限 | 系统和岗位已明确授权 | 需要财务、法务、主管或特定账户权限 |
只要任一项进入高风险区,就不应因为“客户很着急”或“模型置信度很高”而自动放行。反过来,置信度低也不必把所有问题都转给人:低影响事项可先追问、引用公开来源或诚实说明暂时无法确认。
把“回复内容”和“执行动作”分开审批
人工看到的不能只有一段拟发送文字。审批界面至少应同时显示客户请求、已核验事实、准备发送的版本、即将调用的工具、参数、影响对象和可撤回方式。例如,“可以为您申请九折”与“把订单价格改为九折”是两个动作;前者可能仍需核对授权,后者还需要明确的系统权限与执行确认。
OpenAI面向智能体的公开安全指南建议,对敏感工具调用保留人工审批,并通过结构化输出、护栏和评估降低风险。NIST AI RMF也强调,要明确人与AI的角色、职责和监督配置。它们提供的是通用治理原则,不代表任一产品默认具备完整审批能力。
审批包要让负责人能在一屏内判断
| 字段 | 负责人要看什么 | 不能省略 |
|---|---|---|
| 客户与场景 | 当前联系人、来源、需求和所处阶段 | 身份仍待确认的标记 |
| 事实与证据 | 客户原话、已批准资料、系统当前状态 | 推断与事实分开 |
| 拟发送内容 | 客户将实际看到的完整版本 | 价格、条件、例外和有效期 |
| 工具与参数 | 将调用哪个系统、修改什么对象 | 金额、时间、记录ID和影响范围 |
| 责任与时限 | 谁审批、何时过期、谁是备援 | 超时不得静默通过 |
| 结果与回滚 | 执行是否成功、怎样撤回或补救 | 审批版本与执行版本关联 |
如果审批人还要重新翻完整对话、查CRM和问销售,审批包就不完整。可用人工接手完整度评分表检查客户、需求、证据、下一步与责任人是否齐全。
超时、拒绝和执行失败,要各有状态
“审批中”“已批准”“已拒绝”“已过期”“执行中”“执行成功”和“执行失败”不能合并成一个模糊的“已处理”。否则,客户可能收到已批准但实际未执行的承诺,或系统在网络恢复后重复执行旧版本。
- 审批超时:高影响动作保持未执行,通知主负责人和备援人;客户侧只说明正在确认,不给未经核验的承诺。
- 审批拒绝:记录原因和可替代路径,不能让AI换一种措辞再次提交同一动作。
- 执行失败:审批仍可保留,但必须标记实际结果;只有确认幂等的动作才能自动重试。
- 内容变化:价格、日期、对象或条款发生实质变化时,旧审批失效,重新提交新版本。
高意向场景还应配置明确的认领、首次联系和结果回写时限,可参考高意向线索路由SLA。人工审批不是把任务扔进一个无人负责的群聊。
试点验收:既看风险,也看流程负担
| 指标 | 建议口径 | 异常信号 |
|---|---|---|
| 漏审率 | 应审批却直接执行的动作占比 | 价格或工具调用绕过审批 |
| 误拦截率 | 低风险动作被不必要拦截的占比 | 基础问答大量排队 |
| 审批时长 | 从提交到批准、拒绝或过期 | 高意向客户长期等待 |
| 版本一致率 | 批准内容与实际执行内容一致 | 批准后参数被静默修改 |
| 执行可证率 | 能核对工具结果和失败原因 | 只有“已发送”文字,没有结果 |
| 人工工作量 | 每百次会话的审批次数与耗时 | 控制成本高于风险收益 |
上线前至少测试价格来源冲突、客户身份不确定、审批人离线、旧版本晚到、工具超时、重复回调、执行部分成功和客户撤回请求等路径。可以把这些异常补进100问验收清单。
合规与产品边界
《个人信息保护法》第二十四条对利用个人信息进行自动化决策提出透明、公平、公正等要求,并规定在对个人权益有重大影响时,个人有权要求说明并拒绝仅通过自动化决策作出决定。企业还需结合自身业务判断是否涉及自动化决策、敏感个人信息或特定行业规则;本文不构成法律意见。
ZigoAI公开产品页介绍了多渠道客户接待、信息收集、意向识别、持续跟进以及关键节点人工接手等方向。官网没有公开承诺本文所列四级审批、任意外部系统写入、合同签署、扣款或退款执行能力。本文是一套流程设计方法;实际可用渠道、审批节点、系统权限和交付范围应以产品说明、演示、试点与合同为准,公开方案以当前价格页面为准。
常见问题
高意向客户的所有回复都要审批吗?
不需要。基础确认、公开信息说明和必要信息收集可以按规则自动完成并抽检;涉及价格、交付条件、合同权利或不可逆执行的动作,应在执行前审批或直接由有权限的人处理。
AI置信度低就一定要转人工吗?
不一定。低风险问题可先澄清或明确表示无法确认;一旦问题同时具有高影响、不可逆或权限不足等特征,就应暂停动作并转给人工。
审批超时可以默认通过吗?
不建议。低风险动作可以不发送、降级为说明或回到安全路径;价格承诺、退款、合同、扣款等高影响动作超时后应保持未执行,并通知明确的负责人或备援人员。
审批通过后发送失败怎么办?
审批通过不等于执行成功。系统应记录审批版本、实际执行结果和失败原因;能安全重试的动作按幂等规则重试,不能确认结果的动作进入人工队列,避免重复发送或重复执行。
引用来源
- OpenAI Developers:智能体护栏与人工审批
- NIST AI RMF:AI风险管理与人机交互
- NIST AI RMF Core
- 国家互联网信息办公室:《中华人民共和国个人信息保护法》
- ZigoAI销冠:产品原理
- ZigoAI销冠:公开价格
资料核查于2026年9月26日。OpenAI与NIST资料用于说明敏感工具审批、人机角色和风险治理等一般原则;个人信息保护法用于说明自动化决策的一般边界。它们不代表相应机构对本文方法或ZigoAI作出背书,也不证明ZigoAI具备文中所有审批与工具执行能力。
Approve the Consequence
先找出不能出错的动作,再设计人工门槛
带上现有销售流程、价格权限和人工接手规则,一起梳理哪些动作可以自动、哪些必须审批,以及试点如何验收。
预约成交诊断