人工接管 Human in the Loop
AI 与信任之间，缺失的那一层
执行摘要
AI 越来越强——能回答、能建议、能分析、能执行。但仅有能力并不产生信任。信任，来自组织始终保持掌控。
Human in the Loop（HITL，人工接管）是 Entrust BCT 的框架：在让 AI 高效、规模化运行的同时，把关键决策保留在人工监督之下。
目标不是「取代人」，而是「把人放在正确的决策点上」。HITL 把 AI 从一个自治系统，变成一个可治理的系统。
HITL 系统决定
- AI 何时可独立行动
- AI 何时应请求批准
- AI 何时必须升级
- 人何时覆写决策
1全自治 AI 的迷思
行业很多人在追求完全自治：去掉人、降成本、全自动。
但最重要的场景，恰恰也是最不容错的场景。信任无法外包给一个模型——人工监督仍然不可或缺。
- 政务服务
- 医疗
- 金融运营
- 企业客服
- 公共基础设施
2什么是人工接管
HITL 把人的判断融入 AI 驱动的流程。目标不是审核一切，而是审核「对的那些」，在效率与可问责之间取得平衡。
- AI 何时可独立行动
- AI 何时应请求批准
- AI 何时必须升级
- 人何时覆写决策
3为什么人工接管重要
组织不怕聪明的 AI，怕的是失控的 AI。把人的判断保留在关键点上，组织才有信心把 AI 放进真实运营。
- AI 错了怎么办？
- 情况变了怎么办？
- 政策不清怎么办？
- 谁来负责？
4Entrust 人工接管模型
Entrust 用四个运营层级定义人工接管。
Level 0 · 纯人工
全部人工，无 AI。掌控最强，但效率低、难规模化。
- 掌控最强
- 效率低
- 难扩展
Level 1 · AI 辅助
AI 建议，人决策。始终需要人工批准。
- 草拟回复
- 知识检索
- 研究辅助
Level 2 · AI 主导
AI 处理常规，风险升高时人介入。多数组织今天所处的阶段。
- 服务升级
- 政策解读
- 流程路由
Level 3 · 受治理自治
AI 独立执行已批准的流程，人通过治理机制监督。自治是受治理的，不是无限的。
- 自动化运营
- 常规审批
- 受控执行
5人应该何时介入
介入不应随机，而应由政策驱动。Entrust 定义四类升级触发条件。
风险
潜在影响很高。
- 投诉
- 医疗决策
- 监管事项
不确定
置信度低于设定阈值。
- 问题含糊
- 信息缺失
政策
规则要求人工批准。
- 资格判定
- 金融审批
例外
超出常规运营边界的情形。
- 异常请求
- 全新场景
6人工升级架构
每一次升级都成为治理记录的一部分。没有东西消失，一切都可复核。
7人工接管与决策溯源
决策溯源回答「这个决策为什么做」，人工接管回答「谁审核了它」，二者共同构成可问责。
没有溯源，人工决策难以解释；没有人工监督，AI 决策难以被信任。组织两者都需要。
8人工接管与 AI 治理
AI 治理定义规则，人工接管执行规则。治理问「应该发生什么」，人工监督确保「实际发生了什么」。二者协同工作。
9人工接管在实践中
企业 AI
PPG 智能客服
政务 AI
JAJD 政务助手
智慧城市 AI
KTBX 城市智能
数字生物学
BAIRI · AI 辅助医生，而非取代医生
10人工接管不是过渡阶段
很多人以为 HITL 只是「AI 变强之前」的临时措施。Entrust 的看法不同：人工监督是一层永久的治理。
AI 越强，治理越重要，而不是越不重要。目标不是去掉人，而是把人放在判断最有价值的地方。
11Entrust 信任模型
人工接管，是智能与信任之间的桥梁。
- 零幻觉
- 人工接管
- 决策溯源
- AI 治理
- 可审计
- 责任归属
结语
AI 能生成答案、能给建议、能执行流程。但信任需要判断。
人工接管确保组织对真正重要的决策保持可问责。未来不属于 AI 独行，而属于人与 AI 之间受治理的协作。
在 Entrust BCT：AI 参与工作，人对结果负责。这正是可信 AI 的基础。Building Trusted AI for Real-World Operations。
人工接管 · 信任中心