FACTR 2: Learning External Force Sensing for Commodity Robot Arms Improves Policy Learning

저자: Steven Oh, Jason Jingzhou Liu, Tony Tao, Philip Han, Kenneth Shaw, Satoshi Funabashi, Ruslan Salakhutdinov, Deepak Pathak · CoRL 2026 2026

중요한 이유

힘 피드백과 힘 인식 정책은 그동안 주로 관절 토크 센서나 손목 힘 센서를 갖춘 암, 예를 들어 약 30,000달러의 Franka에서만 가능했고, 많은 연구실과 취미가가 사는 저가형 암은 모터 전류만 알려 준다. FACTR 2는 이 간극을 싸게 메우는 방법을 보여 준다. 약 십 분의 자유 동작을 녹화하고 작은 순환 신경망을 약 일 분 학습시키면, 암이 힘 피드백 원격 조작을 구동하고 접촉이 많은 정책을 개선할 만큼 외부 토크를 잘 알려 준다. 센서가 정답값을 주는 Franka에서 학습된 추정치는 모델 기반 베이스라인보다 훨씬 가깝게 접촉을 따라갔다. 저자들은 이 방법을 AgileX Piper(약 2,500달러), YAM 암, Nero 한 대에서 실행했고, 공개 코드에는 녹화, 학습, 추론을 위한 ROS 2 파이프라인과 힘 피드백이 있는 Piper 원격 조작 데모가 Apache-2.0으로 들어 있다. CoRL 2026은 이 논문을 21편의 구두 발표 중 하나로 선정했다. 접촉 직전의 일 초에 더 큰 가중치를 주는 FIRST의 학습 아이디어는 어떤 행동 복제 구성에도 쉽게 더할 수 있다.

문제

삽입, 체결, 부드러운 물체 다루기는 접촉을 느끼는 데 달려 있지만, 카메라만으로는 이를 추론하기 어렵다. 전용 힘·토크 센싱은 보통 Franka, Flexiv, KUKA 같은 고가 암에만 있고, 손목 힘 센서 하나가 저가형 암보다 비쌀 수도 있다. 원리적으로는 암이 자유롭게 움직이는 데 필요한 토크를 빼서 모터 전류로부터 외부 토크를 추정할 수 있지만, 그러려면 정확한 동역학 모델이 필요하다. 저가형 암에서는 마찰, 정지 마찰, 백래시, 히스테리시스, 토크 리플, 데드존 때문에 그런 모델을 믿기 어렵고, 이 효과들 상당수는 최근 동작 이력에 따라 달라진다. 깨끗한 힘 신호가 없으면 원격 조작자는 피드백을 받지 못하고, 정책은 무엇인가에 닿았는지 알 수 없다. 모방 학습에는 두 번째 문제도 있다. 실패는 짧은 접촉 전 정렬 단계와 접촉 단계에 몰리지만, 이 단계들은 각 시연의 작은 부분에 불과해 학습 중 거의 샘플링되지 않는다.

제안 방법

NEXT는 해석적 동역학 모델을 학습된 모델로 대체한다. 저자들은 약 십 분의 비접촉 동작을 녹화한다. 먼저 각 관절을 가동 범위 끝까지 움직이고, 이어서 데카르트 공간과 비슷한 동작을 느린 속도와 빠른 속도로 수행한다. 두 층짜리 LSTM이 관절 위치, 관절 속도, 지령 위치와 측정 위치의 차이로 이루어진 50스텝 이력을 읽고, 자유 공간에서 암에 필요한 모터 토크를 예측한다. 실행 시에는 측정한 모터 토크, 즉 모터 전류에 토크 상수를 곱한 값에서 이 예측을 뺀 것이 외부 토크다. 학습은 RTX 3090 한 장에서 약 일 분, 순전파는 CPU 스레드 하나에서 1.76 ms가 걸린다. 원격 조작에서는 이 추정치가 FACTR 리더-팔로워 컨트롤러의 토크 센서를 대신한다. 그다음 FIRST는 추정 토크에 히스테리시스가 있는 임곗값을 적용해 시연의 각 타임스텝을 접촉, 접촉 전(접촉 시작 전 일 초), 자유 동작으로 분류하고, 학습 배치를 만들 때 접촉 전과 접촉 스텝을 더 자주 샘플링한다. 대부분의 과제에서 접촉 전 스텝은 다섯 배 더 자주 뽑는다. 정책의 입력은 카메라 이미지, 관절 위치, 추정 토크다.

핵심 통찰

• 외력은 힘 센서 없이도 학습할 수 있다. 자유 동작만으로 학습한 신경망이 암이 움직이는 데 필요한 토크를 예측하고, 측정한 모터 토크에서 남는 부분이 접촉이다
• 저가형 액추에이터에서는 이력이 중요하다. 50스텝 이력을 쓰는 순환 모델이 MLP와 GRU 변형보다 나았고, 지령 위치와 측정 위치의 차이를 입력에 더하자 오차가 더 줄었다
• 학습된 추정은 동역학 모델과 공장 출하 신호를 모두 이길 수 있다. Franka의 자유 동작에서 NEXT의 추정치는 암 자체의 외부 토크 추정치보다 영점에 더 가깝게 유지되었다
• 정책은 자유 공간이 아니라 접촉 근처에서 실패한다. 학습 배치를 접촉 전과 접촉 스텝 쪽으로 다시 샘플링하면 바로 그 단계들의 검증 손실이 낮아진다
• 접촉 직전 일 초가 가장 가치 있는 데이터다. 접촉 전 스텝을 업샘플링하는 것이 평균적으로 접촉 스텝을 업샘플링하는 것보다 효과가 컸고, 접촉 스텝만 업샘플링하면 점수가 가장 낮았다

주요 결과

• 접촉 중인 Franka에서 NEXT의 외부 토크 추정치는 암 내장 센서의 추정치와 관절 평균 0.547 Nm 차이로, FILIC(4.395 Nm)보다 87.6%, 외란 관측기(1.471 Nm)보다 62.8% 낮다
• Franka의 자유 동작에서 NEXT는 실제 영점에서 0.414 Nm 떨어져 있었고, Franka 자체 외부 토크 센서 신호는 0.449 Nm, 외란 관측기와 FILIC는 각각 2.429와 2.460 Nm였다
• 토크 센서가 없는 AgileX Piper에서 NEXT의 자유 동작 오차는 0.018 Nm로, 외란 관측기의 0.248 Nm와 FILIC의 0.435 Nm보다 낮았다
• Franka로 닦기 과제를 수행한 20명 대상 원격 조작 사용자 연구에서, 참가자들은 NEXT 기반 힘 피드백이 베이스라인보다 사용하기 쉽다고 평가했고, 가한 힘은 전용 토크 센서를 쓰는 FACTR Teleop과 비슷했다
• 양팔 Piper 구성에서 접촉이 많은 다섯 가지 장기 과제(과제당 시연 250개와 평가 실행 20회)에 대해 FIRST가 가장 높은 과제 진행도를 기록했고, 기존 힘 인식 정책보다 17% 이상 높았다
• 접촉 전 스텝 업샘플링은 다섯 과제에서 평균 0.818의 과제 진행도를 냈고, 접촉 전과 접촉을 함께 업샘플링하면 0.811, 접촉만 하면 0.670이었다
• ACT 정책에서 추정 외부 토크를 조건으로 주면 NIST 삽입에서 0.567, 뚜껑 돌려 닫기에서 0.525를 얻었고, 원시 모터 전류를 쓰면 각각 0.431과 0.440, 둘 다 쓰지 않으면 0.220과 0.440이었다

한계

• 논문은 두 가지 한계를 밝힌다. 토크의 절대 스케일이 모터의 토크 상수에 달려 있어 상수가 부정확하면 외부 힘 센서로 보정해야 하고, NEXT는 로봇마다 고유해 암마다 별도의 녹화와 학습이 필요할 수 있다
• 공개 범위는 NEXT와 원격 조작 데모뿐이다. 저장소(Apache-2.0)에는 녹화, 학습, 추론, 시각화를 위한 ROS 2 노드와 힘 피드백이 있는 Piper·GELLO 원격 조작 데모가 있지만, FIRST 학습 코드, 정책 체크포인트, 시연 데이터는 없다. 데모의 접촉 게이팅과 램프 필터는 논문 실험에 쓰이지 않았다
• 정답값 대비 정확도는 Franka에서만 측정되었다. Piper는 토크 센서가 없어 자유 동작 오차만 보고되며, 접촉 시 성능은 사용자 연구에 의존한다. YAM과 Nero는 정성적인 그림과 영상에만 나온다
• 정책 결과는 모두 저자들이 직접 측정한 것으로, 양팔 Piper 구성 하나에서 과제당 20회 실행과 부분 점수를 주는 과제 진행도를 기준으로 한다. 업샘플링 비율은 과제별로 과제 진행도에 따라 골랐고, 업샘플링 강도에 대한 어블레이션은 연산 자원이 부족해 ACT로 세 과제, 플로 매칭 정책으로 한 과제에서만 수행했다

분야에 미친 영향

FACTR 2는 힘 센싱을 하드웨어 구매가 아니라 소프트웨어 단계로 바꾼다. 모터 전류와 관절 상태를 알려 주는 암이라면 원리적으로 짧은 녹화 세션만으로 외부 토크 추정치를 얻을 수 있다. 이는 이제 로봇 학습에서 흔해진 저가형 암에 특히 중요하다. 그동안 이런 암에서는 원격 조작의 힘 피드백과 정책의 힘 입력이 거의 불가능했다. 원시 모터 전류와의 비교는 다른 연구자에게도 쓸모 있는 결과다. 전류를 정책에 바로 넣으면 한 과제에서는 도움이 되었고 다른 과제에서는 그렇지 않았지만, 추정한 외부 토크는 두 과제 모두에서 도움이 되었다. FIRST의 어블레이션은 실용적인 지침도 더한다. 접촉 직전의 일 초가 접촉 자체보다 학습에서 더 큰 가중치를 받을 가치가 있다는 것이다. 두 부분 모두 저자들이 자신의 장비에서 직접 측정한 결과이므로, 다른 암에서 이 방법이 얼마나 통할지는 독립적인 재현으로 확인해야 한다.

초록

접촉이 많은 매니퓰레이션에는 힘에 대한 민감도가 필요하지만, 많은 로봇 암은 높은 비용 때문에 전용 힘 센서가 없다. 우리는 전용 힘 센서 없이 관절의 외부 토크를 추정하는 데이터 기반 방법인 Neural External Torque Estimation(NEXT)을 제안한다. NEXT는 단 10분의 자유 동작 데이터로 1분 만에 학습하면서도 전용 관절 토크 센서에 견줄 만한 추정치를 낸다. NEXT는 저가형 암에서 힘 피드백 원격 조작을 가능하게 하고, Force-Informed Re-Sampling Training(FIRST)을 통해 정책 학습을 개선한다. FIRST는 행동 복제 과정에서 접촉 전과 접촉 구간을 업샘플링한다. 다섯 가지 장기 과제에서 FIRST는 과제 진행도에서 기존의 힘 인식 정책보다 17% 이상 앞섰다. NEXT와 FIRST를 함께 쓰면 추가 센싱 하드웨어 없이 시판 로봇에서 힘을 고려한 원격 조작과 정책 학습이 가능하다. 영상 결과와 코드는 https://jasonjzliu.com/factr2 에서 볼 수 있다

링크

• arXiv 2606.12406: https://arxiv.org/abs/2606.12406
• PDF: https://arxiv.org/pdf/2606.12406
• 코드: https://github.com/philiphan0109/factr2_next
• 프로젝트 페이지: https://jasonjzliu.com/factr2/