SuperMimic: Scaling Humanoid Whole-Body Control with One Differentiable World Model
作者: Qiayuan Liao, Yiyang Shao, Junfeng Long, Kevin Zakka, Roberto Horowitz, Pieter Abbeel, Koushil Sreenath · CoRL 2026
许可协议
根据 arXiv 的许可协议,以下内容仅依据摘要撰写。
为何重要
跟踪大规模人体动作数据集是实现通用人形机器人全身控制的主要途径,但扩大规模一直意味着对逐动作专家策略进行有损蒸馏,或需要集群级算力。作者报告,该方法在单块 GPU 上训练 3 小时后,便超越了在 128 块 GPU 上训练 7 天的最先进跟踪器,所需 GPU 小时减少 1000 倍以上,在 129,514 个基准动作上仅失败 25 次,而基线为 179 次。
提出的方法
SuperMimic 从记录下来的刚体仿真器状态转移中,为所有动作的共享动力学拟合一个可微世界模型,并在同一个循环中与跟踪策略一起训练,利用对短时想象展开的随时间反向传播,为策略提供解析梯度。
摘要
跟踪大规模人类动作数据集已成为实现通用、富有表现力的人形机器人全身控制的主流途径,但扩展到大量动作的代价很高。当前的流程使用无模型强化学习,要么通过有损蒸馏合并针对单个动作的专家策略,要么用集群规模的算力强行训练单一策略。SuperMimic 用一个描述所有动作共享动力学的可微分世界模型在所有动作之间摊销学习成本,该模型由标准刚体仿真器记录的状态转移拟合而成。世界模型与跟踪策略在同一个循环中共同训练,在短时想象轨迹上进行时间反向传播,为策略提供解析梯度。快速的想象轨迹和解析梯度使策略学习更高效。在单块 GPU 上训练 3 小时,SuperMimic 的回报即超过一个在 128 块 GPU 上训练 7 天的最先进动作跟踪基线。它将 GPU 时数减少 1000× 以上,在 129,514 个基准动作中仅失败 25 个,而基线失败 179 个。在两块 GPU 上训练 9.8 小时后,SuperMimic 实现零失败。从 1 小时到 264 小时的动作数据,世界模型的预测误差保持稳定,达到目标回报所需的 GPU 时数增长缓慢。我们的策略可迁移到实体 Unitree G1 上,完成多样且具有杂技性的动作。SuperMimic 消除了算力对扩展人形机器人全身控制的瓶颈,使测量动作跟踪的缩放定律变得可行。
链接
- arXiv 2610.28480: https://arxiv.org/abs/2610.28480
- PDF: https://arxiv.org/pdf/2610.28480
- 代码: https://github.com/HybridRobotics/supermimic
- 项目主页: https://supermimic.github.io/