FACTR 2: Learning External Force Sensing for Commodity Robot Arms Improves Policy Learning

Auteurs: Steven Oh, Jason Jingzhou Liu, Tony Tao, Philip Han, Kenneth Shaw, Satoshi Funabashi, Ruslan Salakhutdinov, Deepak Pathak · CoRL 2026 2026

Pourquoi c'est important

Le retour d'effort et les politiques tenant compte de la force étaient surtout réservés aux bras dotés de capteurs de couple articulaire ou de force au poignet, comme le Franka à environ 30 000 dollars, alors que les bras bon marché qu'achètent beaucoup de laboratoires et d'amateurs ne rapportent que le courant moteur. FACTR 2 montre un moyen peu coûteux de combler cet écart : enregistrer une dizaine de minutes de mouvement libre, entraîner un petit réseau récurrent pendant environ une minute, et le bras rapporte le couple externe assez bien pour piloter une téléopération à retour d'effort et améliorer des politiques riches en contacts. Sur le Franka, où un capteur fournit la vérité terrain, l'estimation apprise a suivi le contact bien plus fidèlement que les références fondées sur un modèle. Les auteurs appliquent la méthode à l'AgileX Piper (environ 2 500 dollars), à des bras YAM et à un Nero, et le code publié comprend une chaîne ROS 2 pour l'enregistrement, l'entraînement, l'inférence et une démo de téléopération du Piper avec retour d'effort, sous Apache-2.0. CoRL 2026 a retenu l'article parmi ses 21 présentations orales. L'idée d'entraînement de FIRST, donner plus de poids à la seconde qui précède le contact, s'ajoute facilement à n'importe quelle configuration de behavior cloning.

Problème

Insérer, visser et manipuler des objets souples demande de sentir le contact, ce qu'il est difficile de déduire des seules caméras. La mesure dédiée de force et de couple n'existe en général que sur des bras coûteux comme Franka, Flexiv ou KUKA, et un capteur de force au poignet peut coûter plus cher qu'un bras bon marché. Estimer le couple externe à partir du courant moteur est possible en principe, en soustrayant le couple nécessaire au mouvement libre, mais cela demande un modèle dynamique précis. Sur les bras bon marché, le frottement, l'adhérence, le jeu, l'hystérésis, l'ondulation de couple et les zones mortes rendent ces modèles peu fiables, et beaucoup de ces effets dépendent de l'historique récent du mouvement. Sans signal de force propre, les téléopérateurs n'ont aucun retour et les politiques ne savent pas quand elles ont touché quelque chose. L'apprentissage par imitation pose un second problème : les échecs se concentrent dans les courtes phases d'alignement avant le contact et de contact, alors qu'elles ne représentent qu'une petite part de chaque démonstration et sont rarement tirées pendant l'entraînement.

Solution proposée

NEXT remplace le modèle dynamique analytique par un modèle appris. Les auteurs enregistrent une dizaine de minutes de mouvement sans contact : chaque articulation parcourt sa plage, puis viennent des mouvements de type cartésien, lents et rapides. Un LSTM à deux couches lit un historique de 50 pas de position articulaire, de vitesse articulaire et d'écart entre position commandée et position mesurée, et prédit le couple moteur dont le bras a besoin en espace libre. À l'exécution, le couple moteur mesuré, c'est-à-dire le courant moteur multiplié par la constante de couple, moins cette prédiction donne le couple externe. L'entraînement prend environ une minute sur une RTX 3090, et une passe avant 1,76 ms sur un seul fil de CPU. Pour la téléopération, l'estimation remplace le capteur de couple dans le contrôleur leader-follower de FACTR. FIRST applique ensuite un seuil avec hystérésis au couple estimé pour étiqueter chaque pas d'une démonstration comme contact, pré-contact (la seconde avant le début du contact) ou mouvement libre, et tire plus souvent les pas de pré-contact et de contact lors de la constitution des lots d'entraînement, cinq fois plus souvent le pré-contact dans la plupart des tâches. Les politiques reçoivent en entrée les images des caméras, les positions articulaires et le couple estimé.

Idées clés

La force externe peut s'apprendre sans aucun capteur de force : un réseau entraîné uniquement sur du mouvement libre prédit le couple dont le bras a besoin pour bouger, et ce qui reste du couple moteur mesuré correspond au contact
L'historique compte pour les actionneurs bon marché : un modèle récurrent avec un historique de 50 pas a battu les variantes MLP et GRU, et ajouter en entrée l'écart entre position commandée et position mesurée a encore réduit l'erreur
L'estimation apprise peut battre à la fois le modèle dynamique et le signal d'usine : sur le Franka en mouvement libre, l'estimation de NEXT est restée plus proche de zéro que la propre estimation du couple externe du bras
Les politiques échouent près du contact, pas dans l'espace libre : retirer les lots d'entraînement en faveur des pas de pré-contact et de contact réduit la perte de validation précisément sur ces phases
La seconde avant le contact fournit les données les plus précieuses : suréchantillonner les pas de pré-contact a aidé davantage en moyenne que suréchantillonner les pas de contact, qui seuls ont donné le score le plus bas

Principaux résultats

Sur un Franka en contact, l'estimation de couple externe de NEXT s'écarte de celle du capteur intégré du bras de 0,547 Nm en moyenne sur les articulations, 87,6 % de moins que FILIC (4,395 Nm) et 62,8 % de moins qu'un observateur de perturbations (1,471 Nm)
En mouvement libre sur le Franka, NEXT reste à 0,414 Nm du vrai zéro, contre 0,449 Nm pour le signal du propre capteur de couple externe du Franka et 2,429 et 2,460 Nm pour l'observateur de perturbations et FILIC
Sur l'AgileX Piper, qui n'a pas de capteur de couple, l'erreur de NEXT en mouvement libre est de 0,018 Nm, contre 0,248 Nm pour l'observateur de perturbations et 0,435 Nm pour FILIC
Dans une étude utilisateur de téléopération avec 20 personnes sur une tâche d'essuyage avec un Franka, les participants ont jugé le retour d'effort fondé sur NEXT plus facile à utiliser que les références, et la force qu'ils ont appliquée était comparable à celle de FACTR Teleop avec capteurs de couple dédiés
Sur cinq tâches à long horizon riches en contacts sur un montage bimanuel de Piper (250 démonstrations et 20 essais d'évaluation par tâche), FIRST a obtenu la meilleure progression de tâche, plus de 17 % au-dessus des politiques antérieures tenant compte de la force
Suréchantillonner les pas de pré-contact a donné en moyenne 0,818 de progression sur les cinq tâches, contre 0,811 pour pré-contact plus contact et 0,670 pour le contact seul
Avec une politique ACT, le conditionnement sur le couple externe estimé a obtenu 0,567 en insertion NIST et 0,525 en vissage de bouchon, contre 0,431 et 0,440 avec le courant moteur brut et 0,220 et 0,440 sans l'un ni l'autre

Limites

L'article cite deux limites : l'échelle absolue du couple dépend de la constante de couple du moteur, si bien qu'une constante imprécise exige un étalonnage avec un capteur de force externe, et NEXT est propre à chaque robot, si bien que chaque bras peut nécessiter son propre enregistrement et son propre entraînement
La publication ne couvre que NEXT et la démo de téléopération : le dépôt (Apache-2.0) contient les nœuds ROS 2 d'enregistrement, d'entraînement, d'inférence et de visualisation, ainsi qu'une démo de téléopération Piper et GELLO avec retour d'effort, mais ni le code d'entraînement de FIRST, ni des checkpoints de politiques, ni des données de démonstration ; le déclenchement sur contact et le filtre en rampe de la démo n'ont pas servi dans les expériences de l'article
La précision n'est mesurée par rapport à une vérité terrain que sur le Franka ; pour le Piper, seule l'erreur en mouvement libre est rapportée, faute de capteur de couple sur ce bras, et les performances en contact y reposent sur une étude utilisateur ; YAM et Nero n'apparaissent que dans des figures et vidéos qualitatives
Tous les résultats de politiques viennent des auteurs eux-mêmes, sur un seul montage bimanuel de Piper avec 20 essais par tâche et une progression de tâche à crédit partiel ; le rapport de suréchantillonnage a été choisi par tâche d'après la progression de tâche, et l'ablation sur l'ampleur du suréchantillonnage n'a porté que sur trois tâches avec ACT et une avec la politique de flow matching, faute de calcul

Impact sur le domaine

FACTR 2 fait de la mesure de force une étape logicielle plutôt qu'un achat de matériel : tout bras qui rapporte son courant moteur et l'état de ses articulations peut, en principe, obtenir une estimation du couple externe à partir d'une courte session d'enregistrement. Cela compte surtout pour les bras bon marché désormais courants en apprentissage robotique, où le retour d'effort en téléopération et l'entrée de force dans les politiques restaient largement hors de portée. La comparaison avec le courant moteur brut est un résultat utile pour d'autres : donner directement le courant à la politique a aidé sur une tâche et pas sur l'autre, tandis que le couple externe estimé a aidé sur les deux. Les ablations de FIRST ajoutent une règle pratique : la seconde qui précède le contact mérite plus de poids à l'entraînement que le contact lui-même. Les deux parties reposent sur les propres mesures des auteurs sur leurs propres montages, et seule une réplication indépendante sur d'autres bras montrera jusqu'où l'approche se généralise.

Résumé

La manipulation riche en contacts exige une sensibilité à la force, mais beaucoup de bras robotiques n'ont pas de capteurs de force dédiés en raison de leur coût élevé. Nous présentons Neural External Torque Estimation (NEXT), une méthode fondée sur les données qui estime les couples externes aux articulations sans aucun capteur de force dédié. NEXT s'entraîne en 1 minute sur seulement 10 minutes de données de mouvement libre, et obtient pourtant des estimations comparables à celles de capteurs de couple articulaire dédiés. NEXT permet la téléopération à retour d'effort sur des bras bon marché et améliore l'apprentissage de politiques grâce à Force-Informed Re-Sampling Training (FIRST), qui suréchantillonne les segments de pré-contact et de contact pendant le behavior cloning. Sur cinq tâches à long horizon, FIRST dépasse les politiques antérieures tenant compte de la force de plus de 17 % en progression de tâche. Ensemble, NEXT et FIRST apportent la téléopération et l'apprentissage de politiques tenant compte de la force à des robots du commerce, sans matériel de mesure supplémentaire. Les vidéos et le code sont disponibles sur https://jasonjzliu.com/factr2

Liens

arXiv 2606.12406: https://arxiv.org/abs/2606.12406
PDF: https://arxiv.org/pdf/2606.12406
Code: https://github.com/philiphan0109/factr2_next
Page du projet: https://jasonjzliu.com/factr2/