人在回路
也叫:Human-in-the-loop · HITL · 人工在环
人在回路让智能体在高风险动作前暂停,保存运行状态,并在人工批准、修改或拒绝后继续。
他们说
在智能体执行敏感工具调用前插入人工审核与恢复节点
老白翻译
AI 要发、删、改之前先停一下,让人看清动作再决定。
它到底是什么
人在回路是一种运行流程。智能体准备执行敏感动作时先暂停,把工具名称和参数交给人审核,收到决定后再继续原来的任务。
生活里的例子
智能体可以自动整理退款资料,真正提交退款前停下来,让负责人核对订单、金额与收款账户。负责人可以批准、改金额或拒绝。
常见误解
- 误解:加一个批准按钮就完成了。 审批人还要看到真实参数,系统也要保存可恢复的运行状态。
- 误解:所有动作都要人工批准。 只读和可撤销动作可以自动运行,高风险动作再停。
- 误解:拒绝以后任务直接结束。 系统可以把拒绝原因交回智能体,让它修改方案或安全停止。
普通人怎么用
先挑发送、删除、付款或改权限中的一类动作。测试批准、修改、拒绝和服务重启四条路径,并记录最终执行参数、决定人和结果。