Goal 在长程任务推进中如何防止 Agent 行为漂移?

考查重点:目标持久化与执行方向。持久保存独立目标/约束和验收,阶段结果对照检查,计划可改、目标变更需用户新要求,不让历史噪声带偏

本题目录

参考答案

核心回答

Goal防止长程Agent漂移,需要把目标保存为独立于聊天历史的任务状态,再用阶段结果持续校对。目标中应包含要交付什么、作用范围、重要约束和完成依据;计划只描述当前怎么推进,可以调整,目标不能被一次工具结果或压缩摘要悄悄改写。

每轮恢复时加载目标、当前步骤、已完成证据和未解决项。行动前判断它服务于哪个未完成目标;行动后根据文件、测试、查询结果等外部证据更新进度。发现路径无效就改局部计划,发现需求变化就更新目标版本。预算耗尽或长期无进展属于停止原因,不能算目标已经完成。

目标、计划与证据分开保存

例如“给订单列表增加退款状态筛选”,目标是筛选能按状态正确返回结果,并保持原分页行为;计划可能是先定位接口、补查询条件、连接UI、验证。执行中发现现有接口已经支持该条件,可以删掉后端修改步骤,但不能因此把“完成整个筛选”缩成“接口能查询”。

状态中至少保留目标版本、范围、子任务依赖、每步产物引用、验证结果及阻塞项。摘要只负责帮助快速理解,详细日志和代码仍保存在可回查位置。这样上下文重置或容器迁移后,可以按真实状态续接,而不是根据模型印象猜测进展。

怎样发现正在偏离

漂移往往表现为不断研究无关方案、重复执行没有新证据的动作,或者局部优化挤掉了原交付。可以在步骤结束、计划变化和上下文压缩后检查目标覆盖:当前产物解决了什么,剩余差距是什么,下一步为什么能缩小差距。

确定性约束由程序检查,例如允许修改的目录、预算、必需交付文件;业务语义和体验质量再结合规则、独立评审或人工判断。验证器同样可能不完备,不能把“模型说相关”当成硬保证。重复失败时先定位前提或工具环境,再决定重规划,避免仅换一种措辞继续同一路径。

长任务的接力方式

把大任务拆成可验证的增量交付,在每次接力留下当前状态、产物和未完成事项。新一轮先核实环境及最近结果,再选择下一项。Anthropic的长任务实践采用功能清单和进度记录解决跨窗口衔接;适合借鉴的是外部状态与增量验证,不是机械复制它的文件名或每轮提交方式。

常见追问

反复把Goal放在Prompt开头是否够用? 有助于提醒,但无法证明动作相关、结果正确或任务完成。可靠性来自目标状态、可观察反馈和恢复机制一起工作。

对应教程

参考资料

相关面经

4 篇

百度

AI智能体算法
一面、二面、三面
查看原面经 →
在长上下文对话中,模型过早遗忘用户最初的硬性要求,你会怎样解决?

虾皮

Agent 应用开发工程师
秋招一面
查看原面经 →
项目追问
goal在长程任务推进过程中怎么防止agent行为漂移

腾讯

软件开发工程师
秋招一面
查看原面经 →
goal这里怎么做任务持续推进而不行为漂移

腾讯 WXG

Agent
社招面委会
查看原面经 →
他们在长流程的开发中是如何做到上下文一致的,你说这个feat185他们开发了五天,这过程中他们是如何目标不偏移?

收录题集

3 个来源,共4 份题集

Agent 与自主系统

AMIT SHEKHAR · ai-engineering-interview-questions · 1 条原题

查看题集 →

百度高频面试题

Rocky Ding · AIGC-Interview-Book · 1 条原题

查看题集 →

架构选型:ReAct、Plan-and-Execute 与 ToT 怎么选

Onefly · zero2Agent · 1 条原题

查看题集 →

容错与鲁棒性面试题

Onefly · zero2Agent · 1 条原题

查看题集 →

相关题目

4 题