LeRobot 0.7.0 新增世界动作模型和远程推理,并重建训练栈
- 来源: Hugging Face (LeRobot team)
- 作者: Open Source Robotics
- 发布日期: 2026-11-05
- 类别: research
Hugging Face 于 11 月 5 日发布 LeRobot v0.7.0。这一版本将交互式 rollout 纳入正式发布,新增支持四个世界动作模型和四个视觉-语言-动作(VLA)模型,为数十亿参数的模型重建了训练流程,并让机器人可以在远程 GPU 上运行策略。从 0.6 升级会改变安装方式、实验跟踪和电机驱动。
Hugging Face 的开源机器人学习库 LeRobot 于 11 月 5 日发布了 v0.7.0,距 v0.6.1 已有三个月。团队的发布文章称,这一版本兼顾了策略生命周期的两端:无需先下载即可在数 TB 的示范数据上训练,以及在策略运行后与机器人对话。它还重构了安装、训练、推理和硬件层,因此从 0.6 升级需要做一些改动(见最后一节)。
与运行中的策略对话
交互式部署在进入主分支时我们曾报道过,如今已正式发布。给 lerobot-rollout 加上 --interactive=true,机器人、策略和处理器就会保持加载状态:/subtask 可以在机械臂运动时更改指令,/vqa 可以询问策略看到了什么,/autosteer 则给它一个目标,让它自行选择子任务。后两者需要能输出文本的策略,例如 FineART-VLA(在 FineART 数据集上训练)、Wall-OSS-0.5,或者通过 OpenAI 兼容 API 接入的外部视觉语言模型。
新模型
四个同时预测未来视频和下一步动作的世界动作模型加入了该库:
- Cosmos 3,来自 NVIDIA,有 16.5B 的 Nano 和 4.6B 的 Edge 两种规模。团队报告其在 LIBERO 上的平均成功率分别为 97.90% 和 97.95%,两者都可以全量微调或用 LoRA 微调。 - FLUX 3 Action,来自 Black Forest Labs。LeRobot 支持推理和 LoRA 微调;训练新的本体则需使用 Black Forest Labs 自己的 flux-action 仓库。 - LaWAM,来自 RLinf 团队,在潜空间中学习动力学。 - Long-WAM,来自 NVIDIA 的 LongLive 团队,专为长上下文设计。
另有四个视觉-语言-动作模型加入:OpenGalaxea 的 G0.5,它会先写出当前子任务再输出动作;Robbyant 的 LingBot-VLA 2.0;Dexmal 的 DM0.5,移植自 OpenDM;以及 X Square Robot 的 Wall-OSS-0.5。
大规模训练与数据
- FSDP1 被 FSDP2 和 HSDP 分片、梯度累积和分布式检查点取代。在一台 8×H200 节点上训练 6B 模型时,团队测得检查点保存速度提高 3 倍,恢复训练时的内存峰值从每块 GPU 143 GB 降至 42 GB(多 GPU 文档)。 - 训练新增 FP16 混合精度、可选的权重滑动平均(EMA),以及 Hugging Face 的开源实验跟踪工具 Trackio,后者完全取代了 Weights & Biases。 - 图像增强可以在 GPU 上运行;团队测得 ACT 训练在 H100 上快 2.8 倍,在 A100 上快 3.3 倍。 - 无需下载直接从 Hub 训练(我们的报道)以及从 LanceDB 表训练(我们的报道)均已包含在本次发布中。
远程推理、仿真与硬件
- lerobot-policy-server 在 GPU 机器上运行模型,而机器人旁边的笔记本电脑或单板计算机负责摄像头、电机和录制。服务器计算下一段动作块时,机器人执行缓冲中的动作,通信基于 Zenoh(文档)。 - 所有仿真器现在都通过同一个核心运行,可以在进程内,也可以在 lerobot-env-server 后面各自的 Docker 镜像中运行,因此仿真器之间不再争抢依赖版本。基于它的第一个基准测试是 NVIDIA 的 RoboLab,包含 120 个桌面任务,面向 Isaac Lab 上的 DROID Franka 配置。lerobot-eval 现在会为每个成功率给出 95% 置信区间。 - 硬件:一台或两台 I2RT YAM 机械臂;使用 RobStride 和 Damiao 电机的 reBot B601;运行 NVIDIA SONIC 全身控制器解码器的 Unitree G1(我们此前报道过),以及 23 自由度的 G1。
升级之前
- 在 Linux 上,torch 现在从 PyPI 获取 CUDA 13 版本,需要 NVIDIA 驱动 580.65 或更新版本;如果驱动较旧,请先从 CUDA 12 索引安装 torch(安装指南)。macOS 需要 14 或更高版本。 - --wandb. 选项改为 --trackio.,并且检查点默认不再作为 artifact 上传。 - 用 0.6 或更早版本保存的 FSDP 检查点无法恢复训练,但其权重仍可加载。 - lerobot[async] 和 lerobot.async_inference 已移除;请改为安装 lerobot[remote]。 - Feetech 和 Dynamixel 电机现在共用一条基于 rustypot 的总线。旧的类名仍可作为已弃用的别名使用,标定文件保持不变。 - --policy.use_peft=true 现在会训练 LoRA;此前它会悄无声息地执行全量微调。
为何重要
LeRobot 是许多开源机器人策略、数据集和机械臂的汇聚之处,它支持什么,决定了大多数爱好者和实验室的环境不写额外胶水代码就能尝试什么。这一版本让最新的模型家族,包括世界动作模型,使用与旧策略相同的训练和 rollout 命令;远程推理也让机器人上的小型计算机不再限制它能运行的模型。不兼容的变更同样重要:已有可用 0.6 环境的人,更新前应先阅读升级说明。
要点
- LeRobot v0.7.0 于 11 月 5 日发布,距 v0.6.1 三个月。
- 交互式 rollout 已进入正式版本:可以更改运行中策略的指令、询问它看到了什么,或给它一个目标。
- 支持四个世界动作模型(Cosmos 3、FLUX 3 Action、LaWAM、Long-WAM)和四个 VLA(G0.5、LingBot-VLA 2.0、DM0.5、Wall-OSS-0.5)。
- lerobot-policy-server 在 GPU 机器上运行模型,机器人自己的计算机负责摄像头和电机。
- 升级会改变安装方式(CUDA 13 版本),用 Trackio 取代 Weights & Biases,并把 Feetech 和 Dynamixel 电机迁移到同一条 rustypot 总线。
开源视角
LeRobot 本身采用 Apache-2.0,但它现在能加载的模型条款各不相同:LingBot-VLA 2.0 是 Apache-2.0,Cosmos 3 检查点采用 OpenMDW 1.1 许可证;而 G0.5 仅限非商业使用,DM0.5 和 FineART-VLA 遵循 Gemma 的使用条款,FLUX 3 Action 需要按 Black Forest Labs 自己的 FLUX Kommunity License 申请访问。在基于某个检查点开发之前,请先查看模型卡。
相关技术
- World action models
- Vision-language-action models
- FSDP2
- Remote inference
- Zenoh
相关项目
链接
- 来源: https://huggingface.co/blog/lerobot/lerobot-release-v070