FACTR 2: Learning External Force Sensing for Commodity Robot Arms Improves Policy Learning

Autores: Steven Oh, Jason Jingzhou Liu, Tony Tao, Philip Han, Kenneth Shaw, Satoshi Funabashi, Ruslan Salakhutdinov, Deepak Pathak · CoRL 2026 2026

Por que importa

O retorno de força e as políticas com informação de força ficaram quase sempre restritos a braços com sensores de torque nas juntas ou de força no punho, como o Franka, de cerca de 30.000 dólares, enquanto os braços de baixo custo que muitos laboratórios e entusiastas compram informam apenas a corrente do motor. O FACTR 2 mostra um caminho barato para superar essa lacuna: gravar cerca de dez minutos de movimento livre, treinar uma pequena rede recorrente por cerca de um minuto, e o braço passa a informar o torque externo bem o bastante para conduzir teleoperação com retorno de força e melhorar políticas ricas em contato. No Franka, onde um sensor fornece a referência real, a estimativa aprendida acompanhou o contato muito mais de perto do que as linhas de base baseadas em modelo. Os autores aplicam o método ao AgileX Piper (cerca de 2.500 dólares), a braços YAM e a um Nero, e o código publicado inclui um pipeline em ROS 2 para gravação, treinamento, inferência e uma demo de teleoperação do Piper com retorno de força, sob Apache-2.0. A CoRL 2026 escolheu o artigo como uma de suas 21 apresentações orais. A ideia de treinamento do FIRST, dar mais peso ao segundo anterior ao contato, é simples de acrescentar a qualquer configuração de behavior cloning.

Problema

Inserir, apertar e manipular objetos macios depende de sentir o contato, algo difícil de inferir apenas com câmeras. O sensoriamento dedicado de força e torque costuma vir só em braços caros como Franka, Flexiv ou KUKA, e um sensor de força no punho pode custar mais do que um braço de baixo custo. Estimar o torque externo a partir da corrente do motor é possível em princípio, subtraindo o torque de que o braço precisa para se mover livremente, mas isso exige um modelo dinâmico preciso. Em braços de baixo custo, atrito, atrito estático, folga, histerese, ondulação de torque e zonas mortas tornam esses modelos pouco confiáveis, e muitos desses efeitos dependem do histórico recente de movimento. Sem um sinal de força limpo, os teleoperadores não recebem retorno e as políticas não percebem quando tocaram algo. O aprendizado por imitação tem um segundo problema: as falhas se concentram nas curtas fases de alinhamento antes do contato e de contato, mas elas são uma parte pequena de cada demonstração e raramente são amostradas no treinamento.

Solução proposta

O NEXT substitui o modelo dinâmico analítico por um modelo aprendido. Os autores gravam cerca de dez minutos de movimento sem contato: cada junta percorre sua faixa, e depois vêm movimentos do tipo cartesiano em velocidade lenta e rápida. Uma LSTM de duas camadas lê um histórico de 50 passos de posição da junta, velocidade da junta e diferença entre a posição comandada e a medida, e prevê o torque de motor de que o braço precisa no espaço livre. Na execução, o torque de motor medido, isto é, a corrente do motor vezes a constante de torque, menos essa previsão é o torque externo. O treinamento leva cerca de um minuto em uma RTX 3090, e uma passagem direta leva 1,76 ms em uma única thread de CPU. Na teleoperação, a estimativa substitui o sensor de torque no controlador líder-seguidor do FACTR. Em seguida, o FIRST aplica um limiar com histerese ao torque estimado para rotular cada passo de uma demonstração como contato, pré-contato (o segundo antes do início do contato) ou movimento livre, e amostra os passos de pré-contato e contato com mais frequência ao montar os lotes de treinamento, cinco vezes mais o pré-contato na maioria das tarefas. As políticas recebem como entrada imagens de câmera, posições das juntas e o torque estimado.

Principais ideias

A força externa pode ser aprendida sem nenhum sensor de força: uma rede treinada só com movimento livre prevê o torque de que o braço precisa para se mover, e o que sobra do torque de motor medido é o contato
O histórico importa em atuadores baratos: um modelo recorrente com histórico de 50 passos superou as variantes MLP e GRU, e acrescentar como entrada a diferença entre a posição comandada e a medida reduziu ainda mais o erro
A estimativa aprendida pode superar tanto o modelo dinâmico quanto o sinal de fábrica: no Franka, em movimento livre, a estimativa do NEXT ficou mais perto de zero do que a própria estimativa de torque externo do braço
As políticas falham perto do contato, não no espaço livre: reamostrar os lotes de treinamento em favor dos passos de pré-contato e contato reduz a perda de validação justamente nessas fases
O segundo antes do contato é o dado mais valioso: sobreamostrar os passos de pré-contato ajudou mais, em média, do que sobreamostrar os de contato, que sozinhos deram a menor pontuação

Principais resultados

Em um Franka sob contato, a estimativa de torque externo do NEXT difere da do sensor integrado do braço em 0,547 Nm em média nas juntas, 87,6% menos que o FILIC (4,395 Nm) e 62,8% menos que um observador de perturbações (1,471 Nm)
Em movimento livre no Franka, o NEXT fica a 0,414 Nm do zero real, contra 0,449 Nm do sinal do próprio sensor de torque externo do Franka e 2,429 e 2,460 Nm do observador de perturbações e do FILIC
No AgileX Piper, que não tem sensor de torque, o erro do NEXT em movimento livre é de 0,018 Nm, contra 0,248 Nm do observador de perturbações e 0,435 Nm do FILIC
Em um estudo de usuários de teleoperação com 20 pessoas em uma tarefa de limpeza com um Franka, os participantes avaliaram o retorno de força baseado no NEXT como mais fácil de usar do que as linhas de base, e a força que aplicaram foi comparável à do FACTR Teleop com sensores de torque dedicados
Em cinco tarefas de horizonte longo ricas em contato em uma montagem bimanual de Piper (250 demonstrações e 20 execuções de avaliação por tarefa), o FIRST alcançou o maior progresso na tarefa, mais de 17% acima das políticas anteriores com informação de força
Sobreamostrar os passos de pré-contato deu em média 0,818 de progresso nas cinco tarefas, contra 0,811 para pré-contato mais contato e 0,670 só para contato
Com uma política ACT, condicionar no torque externo estimado obteve 0,567 na inserção NIST e 0,525 no rosqueamento de tampa, contra 0,431 e 0,440 com a corrente bruta do motor e 0,220 e 0,440 sem nenhum dos dois

Limitações

O artigo aponta dois limites: a escala absoluta do torque depende da constante de torque do motor, então uma constante imprecisa exige calibração com um sensor de força externo, e o NEXT é específico de cada robô, então cada braço pode precisar de gravação e treinamento próprios
A publicação cobre apenas o NEXT e a demo de teleoperação: o repositório (Apache-2.0) traz os nós de ROS 2 para gravação, treinamento, inferência e visualização, além de uma demo de teleoperação com Piper e GELLO com retorno de força, mas não traz o código de treinamento do FIRST, checkpoints de políticas nem dados de demonstração; o bloqueio por contato e o filtro de rampa da demo não foram usados nos experimentos do artigo
A precisão só é medida contra uma referência real no Franka; no Piper só se informa o erro em movimento livre, porque o braço não tem sensor de torque, e o desempenho sob contato ali se apoia em um estudo de usuários; YAM e Nero aparecem apenas em figuras e vídeos qualitativos
Todos os resultados de políticas são dos próprios autores, em uma única montagem bimanual de Piper com 20 execuções por tarefa e progresso na tarefa com pontuação parcial; a proporção de sobreamostragem foi escolhida por tarefa com base no progresso na tarefa, e a ablação da intensidade da sobreamostragem rodou só em três tarefas com ACT e em uma com a política de flow matching, por falta de computação

Impacto na área

O FACTR 2 transforma o sensoriamento de força em uma etapa de software, e não em uma compra de hardware: qualquer braço que informe a corrente do motor e o estado das juntas pode, em princípio, receber uma estimativa de torque externo a partir de uma curta sessão de gravação. Isso importa sobretudo para os braços de baixo custo hoje comuns no aprendizado de robôs, em que o retorno de força na teleoperação e a entrada de força nas políticas estavam em grande parte fora de alcance. A comparação com a corrente bruta do motor é um resultado útil para outros: passar a corrente diretamente para a política ajudou em uma tarefa e não na outra, enquanto o torque externo estimado ajudou nas duas. As ablações do FIRST acrescentam uma regra prática: o segundo anterior ao contato merece mais peso no treinamento do que o próprio contato. As duas partes são medições dos próprios autores em suas próprias montagens, então só a replicação independente em outros braços mostrará até onde a abordagem chega.

Resumo

A manipulação rica em contato exige sensibilidade à força, mas muitos braços robóticos não têm sensores de força dedicados por causa do alto custo. Apresentamos o Neural External Torque Estimation (NEXT), um método baseado em dados que estima os torques externos nas juntas sem precisar de nenhum sensor de força dedicado. O NEXT treina em 1 minuto com apenas 10 minutos de dados de movimento livre e, ainda assim, alcança estimativas comparáveis às de sensores de torque de junta dedicados. O NEXT permite teleoperação com retorno de força em braços de baixo custo e melhora o aprendizado de políticas por meio do Force-Informed Re-Sampling Training (FIRST), que sobreamostra os segmentos de pré-contato e de contato durante o behavior cloning. Em cinco tarefas de horizonte longo, o FIRST supera políticas anteriores com informação de força em mais de 17% no progresso da tarefa. Juntos, NEXT e FIRST levam a teleoperação e o aprendizado de políticas com informação de força a robôs comerciais sem hardware de sensoriamento adicional. Vídeos e código estão disponíveis em https://jasonjzliu.com/factr2

Open Source Robotics