FACTR 2: Learning External Force Sensing for Commodity Robot Arms Improves Policy Learning

作者: Steven Oh, Jason Jingzhou Liu, Tony Tao, Philip Han, Kenneth Shaw, Satoshi Funabashi, Ruslan Salakhutdinov, Deepak Pathak · CoRL 2026 2026

为何重要

力反馈和利用力信息的策略过去大多只能用于带关节力矩传感器或腕部力传感器的机械臂，例如约 30,000 美元的 Franka，而许多实验室和爱好者购买的低成本机械臂只能报告电机电流。FACTR 2 给出了一条跨越这一差距的低成本途径：录制大约十分钟的自由运动，用大约一分钟训练一个小型循环神经网络，机械臂报告的外力矩就足以支撑力反馈遥操作，并改进接触密集型策略。在有传感器提供真值的 Franka 上，学习得到的估计对接触的跟踪远比基于模型的基线准确。作者在 AgileX Piper（约 2,500 美元）、YAM 机械臂和一台 Nero 上运行了该方法，公开的代码采用 Apache-2.0 许可，包含基于 ROS 2 的录制、训练、推理流程和一个带力反馈的 Piper 遥操作演示。CoRL 2026 将该论文选为 21 篇口头报告之一。FIRST 的训练思路是给接触前那一秒更大的权重，很容易加入任何行为克隆流程。

问题

插入、拧紧和处理柔软物体都依赖于感知接触，而仅靠相机很难可靠地推断接触。专用的力/力矩感知通常只出现在 Franka、Flexiv 或 KUKA 等昂贵的机械臂上，而一个腕部力传感器的价格可能超过一台低成本机械臂。原理上可以从电机电流估计外力矩，即减去机械臂自由运动所需的力矩，但这需要精确的动力学模型。在低成本机械臂上，摩擦、静摩擦、齿隙、迟滞、力矩波动和死区都会让这类模型不可靠，而且其中许多效应取决于最近的运动历史。没有干净的力信号，遥操作者得不到反馈，策略也无法判断自己何时碰到了物体。模仿学习还有第二个问题：失败集中在短暂的接触前对准阶段和接触阶段，但这些阶段只占每条演示的一小部分，训练中很少被采样到。

提出的方法

NEXT 用学习得到的模型取代解析动力学模型。作者录制大约十分钟的无接触运动：先让每个关节走完其运动范围，再以慢速和快速进行类似笛卡尔空间的运动。一个两层 LSTM 读取 50 步的历史，包括关节位置、关节速度以及指令位置与测量位置之差，预测机械臂在自由空间中所需的电机力矩。运行时，用测得的电机力矩（电机电流乘以力矩常数）减去这一预测，就得到外力矩。训练在一块 RTX 3090 上约需一分钟，一次前向计算在单个 CPU 线程上耗时 1.76 ms。在遥操作中，这一估计取代了 FACTR 主从控制器中的力矩传感器。随后，FIRST 对估计的力矩做带迟滞的阈值判断，把演示中的每个时间步标为接触、接触前（接触开始前的一秒）或自由运动，并在构建训练批次时更频繁地采样接触前和接触步，在大多数任务中接触前步的采样频率是原来的五倍。策略的输入是相机图像、关节位置和估计的力矩。

关键见解

外力可以在没有任何力传感器的情况下学到：只用自由运动训练的网络预测机械臂运动所需的力矩，测得的电机力矩中剩下的部分就是接触
对廉价执行器来说历史信息很重要：使用 50 步历史的循环模型优于 MLP 和 GRU 变体，加入指令位置与测量位置之差作为输入还能进一步降低误差
学习得到的估计可以同时胜过动力学模型和出厂信号：在 Franka 自由运动时，NEXT 的估计比机械臂自身的外力矩估计更接近零
策略失败发生在接触附近，而不是自由空间：把训练批次向接触前和接触步重新采样，恰好降低了这些阶段的验证损失
接触前的一秒是最有价值的数据：平均而言，对接触前步上采样比对接触步上采样帮助更大，单独对接触步上采样得分最低

主要结果

在接触状态下的 Franka 上，NEXT 的外力矩估计与机械臂内置传感器估计的各关节平均偏差为 0.547 Nm，比 FILIC（4.395 Nm）低 87.6%，比扰动观测器（1.471 Nm）低 62.8%
在 Franka 自由运动时，NEXT 与真实零值的偏差为 0.414 Nm，而 Franka 自身外力矩传感器信号为 0.449 Nm，扰动观测器和 FILIC 分别为 2.429 和 2.460 Nm
在没有力矩传感器的 AgileX Piper 上，NEXT 的自由运动误差为 0.018 Nm，扰动观测器为 0.248 Nm，FILIC 为 0.435 Nm
在一项有 20 人参加、在 Franka 上完成擦拭任务的遥操作用户研究中，参与者认为基于 NEXT 的力反馈比各基线更容易使用，施加的力与使用专用力矩传感器的 FACTR Teleop 相当
在双臂 Piper 装置上的五个接触密集型长时程任务中（每个任务 250 条演示、20 次评估运行），FIRST 的任务进度最高，比以往利用力信息的策略高出 17% 以上
对接触前步上采样，在五个任务上的平均任务进度为 0.818，接触前加接触为 0.811，仅接触为 0.670
使用 ACT 策略时，以估计外力矩为条件在 NIST 插入任务上得分 0.567，在拧瓶盖任务上得分 0.525；使用原始电机电流时分别为 0.431 和 0.440，两者都不用时为 0.220 和 0.440

局限

论文指出两项局限：力矩的绝对尺度取决于电机的力矩常数，常数不准确时需要用外部力传感器校准；NEXT 针对具体机器人，每台机械臂可能都需要单独录制和训练
公开内容只包括 NEXT 和遥操作演示：代码仓库（Apache-2.0）提供用于录制、训练、推理和可视化的 ROS 2 节点，以及一个带力反馈的 Piper 与 GELLO 遥操作演示，但没有 FIRST 的训练代码、策略检查点或演示数据；演示中的接触门控和斜坡滤波器并未用于论文实验
只有在 Franka 上才以真值衡量精度；Piper 没有力矩传感器，因此只报告自由运动误差，接触下的表现依靠用户研究；YAM 和 Nero 只出现在定性的图和视频中
所有策略结果都由作者自己测得，只用了一套双臂 Piper 装置，每个任务 20 次运行，任务进度按部分完成计分；上采样比例按各任务的任务进度选定，而上采样幅度的消融因算力有限，只在三个任务上用 ACT、在一个任务上用流匹配策略进行

对领域的影响

FACTR 2 把力感知从硬件采购变成了一个软件步骤：任何能报告电机电流和关节状态的机械臂，原则上都可以通过一次简短的录制获得外力矩估计。这对如今在机器人学习中很常见的低成本机械臂尤其重要，过去它们在遥操作中的力反馈和策略中的力输入基本无从实现。与原始电机电流的比较对其他研究者也有参考价值：把电流直接输入策略，在一个任务上有帮助，在另一个任务上没有；而估计的外力矩在两个任务上都有帮助。FIRST 的消融实验还给出一条实用准则：接触前的那一秒比接触本身更值得在训练中加权。两部分结果都是作者在自己的装置上测得的，因此方法在其他机械臂上能走多远，还要看独立复现。

摘要

接触密集型操作需要对力的感知，但许多机械臂因成本高昂而没有专用力传感器。我们提出 Neural External Torque Estimation（NEXT），一种数据驱动的方法，无需任何专用力传感器即可估计关节外力矩。NEXT 仅用 10 分钟的自由运动数据、1 分钟即可完成训练，而估计效果可与专用关节力矩传感器相当。NEXT 使低成本机械臂能够进行力反馈遥操作，并通过 Force-Informed Re-Sampling Training（FIRST）改进策略学习：FIRST 在行为克隆过程中对接触前和接触片段进行上采样。在五个长时程任务上，FIRST 的任务进度比以往利用力信息的策略高出 17% 以上。NEXT 与 FIRST 结合，让现成机器人无需额外传感硬件即可实现利用力信息的遥操作和策略学习。视频结果和代码见 https://jasonjzliu.com/factr2

链接

arXiv 2606.12406: https://arxiv.org/abs/2606.12406
PDF: https://arxiv.org/pdf/2606.12406
代码: https://github.com/philiphan0109/factr2_next
项目主页: https://jasonjzliu.com/factr2/