FACTR 2: Learning External Force Sensing for Commodity Robot Arms Improves Policy Learning

作者: Steven Oh, Jason Jingzhou Liu, Tony Tao, Philip Han, Kenneth Shaw, Satoshi Funabashi, Ruslan Salakhutdinov, Deepak Pathak · CoRL 2026 2026

為何重要

力回饋與考慮力資訊的策略，過去大多只能用在配備關節扭矩感測器或腕部力感測器的手臂上，例如約 30,000 美元的 Franka；而許多實驗室與愛好者購買的低價手臂只會回報馬達電流。FACTR 2 提出一條跨越這道落差的低成本做法：錄下約十分鐘的自由動作，花約一分鐘訓練一個小型遞迴神經網路，手臂回報的外部扭矩就足以驅動力回饋遠端操作，並改善接觸密集的策略。在有感測器提供真值的 Franka 上，學習得到的估計追蹤接觸的準確度遠高於以模型為基礎的基準方法。作者在 AgileX Piper（約 2,500 美元）、YAM 手臂與一台 Nero 上執行這個方法，公開的程式碼採 Apache-2.0 授權，內含以 ROS 2 為基礎的錄製、訓練、推論流程，以及一個具力回饋的 Piper 遠端操作展示。CoRL 2026 將這篇論文選為 21 篇口頭報告之一。FIRST 的訓練概念是給接觸前那一秒更高的權重，很容易加進任何行為複製的設定。

問題

插入、鎖緊與處理柔軟物體都仰賴感受接觸，而只靠攝影機很難推斷接觸。專用的力與扭矩感測通常只出現在 Franka、Flexiv 或 KUKA 等昂貴手臂上，而一個腕部力感測器的價格可能比一支低價手臂還高。原則上可以從馬達電流估計外部扭矩，也就是扣掉手臂自由移動所需的扭矩，但這需要精確的動力學模型。在低價手臂上，摩擦、靜摩擦、背隙、遲滯、扭矩漣波與死區都讓這類模型不可靠，而且其中許多效應取決於最近的動作歷程。沒有乾淨的力訊號，遠端操作者得不到回饋，策略也無法判斷自己何時碰到東西。模仿學習還有第二個問題：失敗集中在短暫的接觸前對位階段與接觸階段，但這些階段只占每筆示範的一小部分，訓練時很少被取樣到。

提出的方法

NEXT 以學習得到的模型取代解析式動力學模型。作者錄下約十分鐘的無接觸動作：先讓每個關節走完活動範圍，再以慢速與快速做類似笛卡兒空間的動作。一個兩層的 LSTM 讀取 50 步的歷程，包含關節位置、關節速度，以及命令位置與量測位置之差，預測手臂在自由空間中所需的馬達扭矩。執行時，量測到的馬達扭矩（馬達電流乘以扭矩常數）減去這個預測值，就是外部扭矩。訓練在一張 RTX 3090 上約需一分鐘，一次前向運算在單一 CPU 執行緒上需 1.76 ms。在遠端操作中，這個估計取代了 FACTR 主從控制器中的扭矩感測器。接著，FIRST 對估計扭矩套用具遲滯的門檻，把示範中的每個時間步標記為接觸、接觸前（接觸開始前的一秒）或自由動作，並在組成訓練批次時更常取樣接觸前與接觸的步驟，多數任務中接觸前步驟的取樣頻率是五倍。策略的輸入是攝影機影像、關節位置與估計扭矩。

關鍵見解

外力可以在完全沒有力感測器的情況下學到：只用自由動作訓練的網路預測手臂移動所需的扭矩，量測到的馬達扭矩中剩下的部分就是接觸
對便宜的致動器來說歷程很重要：使用 50 步歷程的遞迴模型勝過 MLP 與 GRU 變體，加入命令位置與量測位置之差作為輸入後誤差又進一步降低
學習得到的估計可以同時勝過動力學模型與原廠訊號：在 Franka 自由動作時，NEXT 的估計比手臂本身的外部扭矩估計更貼近零
策略失敗發生在接觸附近，而不是自由空間：把訓練批次往接觸前與接觸步驟重新取樣，正好降低了這些階段的驗證損失
接觸前的一秒是最有價值的資料：平均而言，對接觸前步驟上取樣比對接觸步驟上取樣更有幫助，只對接觸步驟上取樣的分數最低

主要結果

在接觸中的 Franka 上，NEXT 的外部扭矩估計與手臂內建感測器估計的各關節平均差距為 0.547 Nm，比 FILIC（4.395 Nm）低 87.6%，比干擾觀測器（1.471 Nm）低 62.8%
在 Franka 自由動作時，NEXT 與真正的零值相差 0.414 Nm，Franka 自身外部扭矩感測器訊號為 0.449 Nm，干擾觀測器與 FILIC 分別為 2.429 與 2.460 Nm
在沒有扭矩感測器的 AgileX Piper 上，NEXT 的自由動作誤差為 0.018 Nm，干擾觀測器為 0.248 Nm，FILIC 為 0.435 Nm
在一項 20 人參與、以 Franka 執行擦拭任務的遠端操作使用者研究中，參與者認為以 NEXT 為基礎的力回饋比各基準方法更容易使用，施加的力也與使用專用扭矩感測器的 FACTR Teleop 相當
在雙臂 Piper 設備上的五項接觸密集長時程任務中（每項任務 250 筆示範與 20 次評估執行），FIRST 取得最高的任務進度，比先前考慮力資訊的策略高出 17% 以上
對接觸前步驟上取樣，在五項任務上的平均任務進度為 0.818，接觸前加接觸為 0.811，只有接觸為 0.670
使用 ACT 策略時，以估計外部扭矩為條件，在 NIST 插入任務得到 0.567、在旋緊瓶蓋任務得到 0.525；使用原始馬達電流時分別為 0.431 與 0.440，兩者都不用時為 0.220 與 0.440

限制

論文提出兩項限制：扭矩的絕對尺度取決於馬達的扭矩常數，常數不準時需要用外部力感測器校正；NEXT 針對特定機器人，每支手臂可能都需要各自錄製與訓練
公開內容只有 NEXT 與遠端操作展示：程式碼庫（Apache-2.0）提供錄製、訓練、推論與視覺化用的 ROS 2 節點，以及具力回饋的 Piper 與 GELLO 遠端操作展示，但沒有 FIRST 的訓練程式碼、策略檢查點或示範資料；展示中的接觸閘控與斜坡濾波器並未用於論文實驗
只有在 Franka 上才以真值衡量精度；Piper 沒有扭矩感測器，因此只回報自由動作誤差，接觸時的表現仰賴使用者研究；YAM 與 Nero 只出現在定性的圖表與影片中
所有策略結果都由作者自行量測，只用了一套雙臂 Piper 設備，每項任務 20 次執行，任務進度採部分計分；上取樣比例依各任務的任務進度選定，而上取樣強度的消融實驗因運算資源不足，只在三項任務上用 ACT、在一項任務上用流匹配策略進行

對領域的影響

FACTR 2 把力感測從硬體採購變成一個軟體步驟：任何能回報馬達電流與關節狀態的手臂，原則上都能透過一次簡短的錄製取得外部扭矩估計。這對如今在機器人學習中相當普遍的低價手臂特別重要，過去它們在遠端操作中的力回饋和策略中的力輸入幾乎無法實現。與原始馬達電流的比較對其他研究者也很有用：把電流直接輸入策略，在一項任務有幫助、另一項則沒有，而估計的外部扭矩在兩項任務都有幫助。FIRST 的消融實驗再提供一條實用準則：接觸前那一秒比接觸本身更值得在訓練中加權。兩部分結果都是作者在自己的設備上量測的，因此這個方法在其他手臂上能走多遠，仍有待獨立重現。

摘要

接觸密集的操作需要對力的感知，但許多機器手臂因成本高昂而沒有專用的力感測器。我們提出 Neural External Torque Estimation（NEXT），一種資料驅動的方法，不需要任何專用力感測器就能估計關節外部扭矩。NEXT 只用 10 分鐘的自由動作資料、1 分鐘即可完成訓練，估計結果卻能與專用關節扭矩感測器相當。NEXT 讓低價手臂能進行力回饋遠端操作，並透過 Force-Informed Re-Sampling Training（FIRST）改善策略學習：FIRST 在行為複製時對接觸前與接觸片段進行上取樣。在五項長時程任務中，FIRST 的任務進度比先前考慮力資訊的策略高出 17% 以上。結合 NEXT 與 FIRST，現成的機器人不需額外感測硬體，就能做到考慮力資訊的遠端操作與策略學習。影片結果與程式碼見 https://jasonjzliu.com/factr2

連結

arXiv 2606.12406: https://arxiv.org/abs/2606.12406
PDF: https://arxiv.org/pdf/2606.12406
程式碼: https://github.com/philiphan0109/factr2_next
專案頁面: https://jasonjzliu.com/factr2/