首页
学习
活动
专区
圈层
工具
发布
技术百科首页 >Agent 开发 >Agent 开发如何实现人工介入机制?

Agent 开发如何实现人工介入机制?

词条归属:Agent 开发

1. 人工介入(HITL)的定义

人工介入(HITL)指在 Agent 自主运行流程中,为高风险或不可逆动作设置人类审批 / 确认节点,使人在关键决策上"在岗",而非完全放手。

2. 需要 HITL 的典型环节

需要 HITL 的典型环节包括:资金交易与退款、发送对外邮件或消息、删除 / 修改生产数据、部署代码、以及任何可能造成法律或声誉影响的动作。

3. 两种落地形式

落地形式有"人工确认后执行(Human-in-the-Loop)"与"先自动运行、人仅监控(Human-on-the-Loop)"两种;随 Agent 可靠性提升,可由前者逐步过渡到后者。

4. 在编排框架中的实现

在图式编排框架中,可在任意节点插入人工断点(Interrupt),等待审批后再继续,从而兼顾自动化效率与可控性。审批与编辑结果应回流为评测数据,成为下一轮改进的依据。

相关文章
DeepAgents 人工介入实战|LangGraph 实现 Agent 高危工具人工审批
之前一篇文章里,我使用 Spring AI Alibaba 演示了智能体执行过程中的人工介入能力。那篇文章的核心思路是:当 Agent 准备执行某些高风险动作时,不要让它直接执行,而是先暂停下来,把待执行动作交给人工审批,审批通过后再继续执行。感兴趣的小伙伴可以通过下面链接回顾一下:https://www.lucaju.cn/index.php/archives/165/
Luca Ju
2026-04-30
1.5K0
中间件机制:PII 过滤、摘要压缩与人工介入
很多团队把 PII 脱敏、历史压缩、人工确认这些逻辑全塞进一个超长 system prompt,或者散落在业务函数里。结果代码改不动、测不了,顺序一乱就出 bug。这篇聊中间件(middleware)——一类在请求进入模型前、响应离开模型后做横切处理的机制。它不是 prompt 里的杂烩,而是有顺序、可组合的管道。我们讲透三个典型中间件:PII 过滤、对话摘要压缩、人工介入(HITL)。
老周聊架构
2026-10-21
1250
Agent开发-Arthas MCP Client通信机制
以 arthas 为例,探索一下Spring AI 中 MCP Client端通信机制的实现。
码农戏码
2026-06-25
3660
如何开发AI Agent?
上一篇文章已详细分析: 未来的必备技能, 要么会写AI Agent, 要么会用AI Agent!
用户4035096
2026-07-09
4120
门店质检报告审核Agent方案:AI如何用分级审核机制替代80%人工重复判断
巡店照片、自检记录、整改凭证持续汇集。人工逐份核验、逐图比对、逐项判定的传统审核模式,面临的挑战不止是人力成本的线性增长,更关键的是:核心经营异常往往被淹没在海量常规信息中,管理注意力被持续稀释。
智睿视界
2026-08-13
2170
点击加载更多
词条知识树 27个知识点
更多
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
领券