Zetta ζ: An Efficient Closed-Loop Embodied Harness for Self-Evolving Physical Intelligence
作者: Xin Ding, Liang Mi, Mingzhe Huang, Zixuan Wang, Chao Zhang, Zixu Hao, Fu Chen, Xiangyu Li, Yikai Zheng, Yaoyu Guo, Weijun Wang, Kun Li, Hao Wu, Yunxin Liu, Ting Cao · arXiv 2026
许可协议
- 开放获取
- 论文: CC BY 4.0
以下内容均依据论文全文,按其 CC BY 4.0 许可协议使用;其中的图已注明作者。
一句话总结
将冻结的 VLA 包裹在基于代码的评判器和恢复技能中,由智能体根据失败的仿真 rollout 进行诊断、修复和验证,使 RoboCasa 成功率从 73.6% 提高到 93.6%。
为何重要
它展示了一种无需重新训练权重即可提高预训练操作策略可靠性的方法:用代码检测抓取丢失或搬运停滞等物理失败状态,并执行有针对性的恢复。习得的评判器-恢复对是基于物体相对几何和接触谓词定义的,因此可以延用到相关任务上,而论文把 rollout 吞吐量视为这种改进的速率上限。
问题
VLA 和世界-动作策略在推理时以开环方式运行,因此一次打滑或轻微碰撞就可能连锁导致任务失败。语言模型智能体执行框架只在回合结束后才进行反思,因为大型模型无法以动作频率做出决策,而事后反思既不能测试替代方案,也看不到确切的失败状态。从自我探索中学习还受到 rollout 生成速度的进一步限制。
提出的方法
基础策略(π0.5 或 GR00T N1.5)和一个编排智能体保持固定,而由基于代码的运行时评判器、恢复预案和工具组成的执行框架不断进化。评判器以动作频率运行,并提出由编排智能体批准的干预;离线智能体按第一个未达成的里程碑以及与成功运行最早出现分歧之处对失败的 rollout 进行聚类,自上而下地从评估逻辑到控制参数诊断根本原因,编写一个附带交还控制权的重入约定的最小补丁,并且只有在它修复了其所在簇中的每个种子、并在留出种子上依然成立后才予以采纳。基于 Ray 构建的 Z-Infra 将环境工作进程与 GPU 模型工作进程分离,并支持批量推理、VLM/动作专家划分和可选的量化。
关键见解
- 基于代码的评判器可以按动作频率监控执行,让缓慢的语言模型智能体负责批准干预和进行离线诊断。
- 自上而下地诊断失败(评估、评判器、状态、规划、恢复,然后是参数),并在能修复故障的最高层打补丁,可以避免让底层参数对单一失败过拟合。
- 在早期针对表面症状的修复停滞之后,一旦智能体找到真正的物理瓶颈(例如抓取保持或接近几何),提升往往会突然到来。
- 基于物体相对几何和通用接触谓词定义的评判器-恢复对可以零样本迁移到相关任务。
- 在每个决策点都调用 LLM 的智能体在环基线速度很慢;只在离线时调用智能体、在线运行评判器,可以降低每个回合的延迟。
主要结果
- RoboCasa,18 个 Atomic-Seen 任务,以 GR00T N1.5 为冻结基础:宏平均成功率经过四轮修复从 73.56% 提高到 93.56%(78.71%、84.85%、90.54%、93.56%),每个任务在 50 个留出种子上评估。
- LIBERO-Pro,以 π0.5 为冻结基础:Goal (T) 从 31.0% 提高到 92.5%,Goal (S) 从 38.0% 提高到 89.0%;摘要中的 90.8% 是这两个 Goal 设置的平均值,而表 3 中包含 LIBERO-10 的总体平均为 71.13%(原为 32.00%),其中 LIBERO-10 (T) 从 50.0% 提高到 63.0%,(S) 从 9.0% 提高到 40.0%。
- 在 PnP-Stove 上习得的技能的零样本迁移:PnP-Sink 从 58% 提高到 82%,PnP-Cabinet 从 62% 提高到 80%,PnP-Toaster 从 72% 提高到 90%;来自 TurnOffStove 的技能使三个铰接物体任务的平均值从 64% 提高到 80%。
- 突然的提升:Goal-T2(把酒瓶放进碗里)在早期修复后从 10% 升至 15%,在加入抓取保持评判器后升至 95%;Goal-S6(奶油奶酪)从 5% 升至 90%。
- 与 RPent 智能体基线的速度对比:摘要给出推理加速 11.1×(延迟降低 91%),而第 4.6 节给出每回合延迟降低 11.9×,图 14 显示并发数为 16 时为 12.0×。
- Z-Infra 在 8 块 A100 GPU 上的吞吐量:并发数 16 时为 22.09 回合/分钟,是不使用 Z-Infra 的执行框架(2.88)的 7.7×、RPent(1.72)的 12.8×,并发数 64 时达到 35.1 回合/分钟;引言中的 20.6× 是将这一 35.1 与 RPent 的 1.7 相比较得出的。
局限
- 所有实验都在仿真中进行(基于 MuJoCo/robosuite 的 LIBERO-Pro 和 RoboCasa);作者将扩展到真实机器人以及 Sim2Real 差距留待未来工作。
- 作者表示,这些结果是在他们当前的 rollout 预算下成立的,并且自我进化是把成功率推向冻结策略的能力上限,而不是超越它。
- 基准表格只与冻结的基础策略进行比较;唯一的具身智能体基线是 RPent,仅用于延迟和吞吐量比较,并且论文没有说明编排智能体和进化智能体使用的是哪个语言模型。
- 标题性数字取决于报告方式:LIBERO-Pro 上的 90.8% 涵盖的是 Goal 套件,而包含 LIBERO-10 的 LIBERO-Pro 总体平均为 71.13%。
- 诊断依赖于仿真器内部信息,例如接触力、内部状态和官方任务谓词,而实际部署可能不会以相同的形式提供这些信息。
对领域的影响
Hugging Face 每日论文:140 个赞,位列该平台过去六个月机器人论文的前 5%。论文给出了项目页面;未说明是否发布代码。
摘要
具身智能体越来越多地被用来弥补端到端策略模型留下的差距。然而,智能体路线尚未在物理执行中实现闭环学习:现有的执行框架(harness)在很大程度上仍是开环的,在执行过程中遵循固定的技能,并且只在一个回合结束后才进行反思。这种事后反思无法在执行展开时对其加以控制,因为物理交互要求决策以超出当今大型智能体模型能力的频率跟踪快速变化的机器人-环境状态。我们提出 Zetta,一种闭环具身执行框架,它在保持基础策略冻结的同时,在线进化基于代码的运行时评判器和恢复技能。通过三个时间尺度分离的循环,Zetta 提供动作频率级的执行控制、执行轮次(rollout)级的评判器-恢复方案提议,以及以验证为门槛的技能更新。结合 Z-Infra(一种将智能体逻辑与异构执行资源解耦的 rollout 基础设施),Zetta 在我们当前的 rollout 预算下于 LIBERO-Pro 和 RoboCasa 上取得了最先进的成功率,分别达到 90.8% 和 93.6%,推理加速 11.1×;成功率随自我探索经验的增加而持续提升;习得的技能可以零样本迁移,并且出现了明显的机器人“顿悟时刻”(Aha Moments)。这些结果表明,闭环执行框架的自我进化为可靠的物理智能开辟了一条扩展路径。
链接
- arXiv 2608.16590: https://arxiv.org/abs/2608.16590
- PDF: https://arxiv.org/pdf/2608.16590v1
- 项目主页: https://air-embodied-brain.github.io/zetta