ARTICLE DETAIL

资讯详情

深耕网站建设、视觉设计与SEO优化的一线实战洞察。

VBL验证‑回退循环:面向长视界语言智能体的结构化前置条件恢复框架

VBL验证‑回退循环:面向长视界语言智能体的结构化前置条件恢复框架

VBL验证‑回退循环:面向长视界语言智能体的结构化前置条件恢复框架

arXiv编号:arXiv:2610.41564v1 [cs.(\mathcal{A})I]

摘要
语言智能体越来越多地在交互式环境下执行长视界任务,任务动作往往依赖潜在前置条件。长视界任务的核心难点并非轨迹本身长度,而是故障恢复能力:当必要前置条件缺失、或者早期任务分解失效时,简单替换另一个看似合理的动作几乎无法解决问题。Re(\mathcal{A})ct以及后续的反思、自适应规划类方法虽然支持局部修正,但恢复逻辑采用自由文本形式,不存在显式控制状态来关联终端目标、当前激活目标以及故障根源。
本文提出VBL(Verify‑Backtrack Loop,验证‑回退循环),无需训练,作为Re(\mathcal{A})ct的扩展框架。该框架将前置条件发现与故障诊断转化为对规划状态的结构化更新。VBL使用有界目标栈维护不断演化的任务分解;每当需要就绪性检查时,会同时做双重视界校验:当前激活目标是否对终端目标有贡献、在当前环境状态下该目标是否具备可执行可行性。触发校验时机包括目标激活时、执行失败后、环境发生实质性状态变更之后。结合类型化故障归因,触发显式栈操作:PU(\mathcal{S})H入栈、P(\mathcal{O})P出栈、重试、B(\mathcal{A})CK(\mathcal{T})R(\mathcal{A})CK(\mathcal{T})(\mathcal{O})回退至父目标。
本文使用Qwen3.5‑9B、GP(\mathcal{T})‑4o、Deep(\mathcal{S})eek‑V3.2三款基座模型,在(\mathcal{A})ppWorld、(\mathcal{A})LFWorld、(\mathcal{S})cienceWorld三套公开基准开展评测。在每一组基座‑基准组合上,VBL均优于Re(\mathcal{A})ct与基于反思的控制基线。在难度较高的(\mathcal{A})ppWorld任务上,相比Re(\mathcal{A})ct任务成功率最高提升22.07个百分点;在(\mathcal{S})cienceWorld提升14.21pp,(\mathcal{A})LFWorld提升10.45pp。消融实验表明:移除验证模块或者移除诊断模块都会造成性能下降,部分设置下性能甚至低于Re(\mathcal{A})ct基线;验证与诊断二者是互补关系而非冗余。实验证明:可靠的长视界交互,需要对规划状态本身进行修订,而不只是修改下一个待执行动作。

关键词
语言智能体;长视界交互;前置条件恢复;Re(\mathcal{A})ct;目标栈;验证‑回退循环

目录

  1. 引言
  2. 相关工作
  3. VBL方法框架
    • 3.1 问题形式化
    • 3.2 双重视界控制状态
    • 3.3 目标栈与四类栈原语操作
    • 3.4 完整控制循环算法
  4. 实验设置
  5. 实验结果与消融分析
  6. 讨论与局限性
  7. 结论
  8. 附录简要说明

1 引言

大语言模型借助工具、网页接口、软件环境、具身系统完成交互式任务。很多这类任务属于长视界场景:动作改变外部环境状态,动作效果不断累积,后续决策依赖早期执行结果。可靠执行要求智能体在保持终端目标不变的同时,能够自适应调整中间层规划。

长视界任务真正的难点不在于轨迹步数多少。很多中间子目标之间存在依赖关系,这些依赖不会写在初始指令里,只有执行过程中才会暴露。当某一项前置条件被遗漏,后续一连串动作都会失败;仅仅换一个看起来合理的动作往往于事无补,智能体必须定位故障根源,并且在对应层级修订任务分解方案。

Re(\mathcal{A})ct范式通过推理‑动作‑观测交替循环实现交互式智能体。它可以根据新证据调整下一步决策,但不会对目标施加显式层级结构。交互历史只记录发生过的事件,并不记录哪一个是当前激活子目标、该子目标如何服务于终端目标、发生多次失败之后应该回到哪一层规划重新开始。

自适应规划、搜索型规划会修订计划、探索备选路径;反思类方法依靠批判、目标条件反馈修订输出与动作。但是以上方法的故障恢复大多依靠自由文本描述,缺少紧凑的规划状态,同时表达终端目标、激活子目标、故障因果来源。

因此核心挑战不只是修订下一个动作,而是在恰当层级修订规划状态。修订过程需要两套视界判断:

  1. 终端目标对齐:当前激活目标是否服务于最终任务;
  2. 激活目标就绪性:在当前环境状态下该子目标是否具备执行可行性。

执行失败之后,智能体需要判断:是插入缺失前置条件、本地重试,还是回退到更早的分解层级。

基于以上分析,本文提出VBL验证‑回退循环,无需训练,作为Re(\mathcal{A})ct的扩展组件。
VBL用有界目标栈表示不断演化的任务分解,栈根为终端任务,栈顶为当前激活目标。在目标激活时刻、执行失败之后、环境发生实质性状态变更之后,双重视界校验器同时评估:子目标和终端目标是否对齐、子目标在当前状态下是否就绪。
类型化故障归因将反复失败映射为显式栈操作:PU(\mathcal{S})H插入缺失前置条件,B(\mathcal{A})CK(\mathcal{T})R(\mathcal{A})CK(\mathcal{T})(\mathcal{O})回退至父目标;目标确认完成则执行P(\mathcal{O})P弹出。每一次栈更新会重新触发校验;回退操作只修改规划状态,不会撤销环境已经发生的动作,因此适用于动作不可逆的有状态环境。

本文主要贡献

  1. 将长视界智能体控制形式化为双重视界问题,区分「终端目标对齐」与「激活目标就绪性」,允许未对齐、被阻塞的目标触发不同规划决策。
  2. 提出VBL验证‑回退循环,无需训练,扩展Re(\mathcal{A})ct;将验证、类型化故障归因映射到有界目标栈的显式状态迁移。
  3. 在三套公开交互式基准、三款基座模型开展评测;固定基座、交互预算、环境接口,VBL在全部基座‑基准组合上优于基线;消融证明验证模块、诊断模块为互补组件,缺一不可。

2 相关工作

2.1 推理、动作与反思

思维链Co(\mathcal{T})提示为多步问题生成中间推理;Re(\mathcal{A})ct将该思想拓展到交互场景,交替执行推理、动作、观测。
反馈增强变体依靠批判反思修订输出或动作:(\mathcal{S})elf‑Refine迭代优化模型输出;Reflexion跨回合保存文本经验;Refl(\mathcal{A})ct基于当前状态与任务目标的关系条件化下一步动作。
上述反思方法可以提升自适应能力,但故障恢复依旧是自由文本,没有显式控制状态。VBL把终端目标对齐、激活目标就绪性分开建模,将校验与故障归因映射到目标栈的状态迁移。本文和Re(\mathcal{A})ct、Refl(\mathcal{A})ct使用同一套执行器做公平对比;VBL属于单episode协议,不在本工作研究多试次记忆、多阶段元认知控制器。

2.2 规划、任务分解与搜索

提示驱动任务分解、自适应/搜索型规划可以修订显式计划,探索备选推理与动作路径。VBL聚焦单episode内部问题:当一条执行路径被阻塞时,应该修改分解树的哪一层。
VBL维护单条有界目标栈,而不是完整搜索树;当目标对齐但是不可行时插入缺失前置条件;当前分解失效时回退到父节点。重点是显式恢复点与定向规划状态修订,而不是大规模多路径搜索。

2.3 层级控制与智能体记忆

层级智能体围绕子目标组织长轨迹,例如Hi(\mathcal{A})gent把子目标视作工作记忆单元,对完成的子目标做观测摘要。VBL的层级载体是有界目标栈,表达当前任务分解与恢复点;执行器只读取根任务文本以及栈顶激活目标,不读取完整栈。VBL的episode局部摘要仅用于限制上下文窗口,任务结束即丢弃,不属于独立记忆贡献。

VBL的核心创新不是单独某一个模块,而是通过统一控制表示把三者耦合:终端目标对齐、局部可行性判断、故障归因、后续执行。

3 VBL方法框架

VBL在Re(\mathcal{A})ct执行器之上增加显式规划状态。核心思想:把自由轨迹中经常混在一起的两件事拆开判断:①当前激活目标是否相关且可行;②执行失败之后如何变更任务分解。有界目标栈将这些判断转化为控制原语操作。

3.1 问题形式化

智能体接收自然语言指令,在有状态环境中执行动作。任务建模为目标条件部分可观测序贯决策过程:
KaTeX parse error: Can't use function '\(' in math mode at position 28: …\left(\mathcal{\̲(̲\mathcal{S}\)},…

  • KaTeX parse error: Can't use function '\(' in math mode at position 10: \mathcal{\̲(̲\mathcal{S}\)}环境状态空间;KaTeX parse error: Can't use function '\(' in math mode at position 10: \mathcal{\̲(̲\mathcal{A}\)}动作空间;KaTeX parse error: Can't use function '\(' in math mode at position 10: \mathcal{\̲(̲\mathcal{O}\)}观测空间
  • KaTeX parse error: Can't use function '\(' in math mode at position 10: \mathcal{\̲(̲\mathcal{T}\)}状态转移函数;KaTeX parse error: Can't use function '\)' in math mode at position 15: \\(\mathcal{O}\̲)̲mega动作后生成观测;
  • I II用户指令;g ∗ g^{*}g∗终端目标谓词;B BB交互步数预算。

真实环境状态s t s_ts

返回列表