Cross-Embodiment
- Detto anche: cross-embodiment learning, cross-embodiment transfer, embodiment-agnostic learning, multi-embodiment
- Categoria: Learning & autonomy › Foundation models
- Tag: cross-embodiment, foundation-model, transfer-learning
Addestrare una singola policy di apprendimento robotico che funzioni su più tipi di corpo robotico, trasferendo conoscenza tra piattaforme hardware diverse.
Definizione
Il cross-embodiment indica la capacità di un sistema di apprendimento robotico di addestrare una singola policy o un singolo modello che funzioni su più tipi di corpo robotico (embodiment), con configurazioni di sensori, disposizioni dei giunti e capacità fisiche diverse. Invece di addestrare un modello separato per ogni robot, l'apprendimento cross-embodiment produce policy generalizzabili che possono controllare un braccio Franka, un UR5, un manipolatore mobile o un umanoide a partire dalla stessa rappresentazione appresa.
Il concetto è nato da un collo di bottiglia fondamentale dell'apprendimento robotico: raccogliere dati di dimostrazione è costoso, e ogni piattaforma robotica ha storicamente richiesto un proprio dataset e un proprio modello. L'apprendimento cross-embodiment supera questo vincolo trovando rappresentazioni condivise delle abilità di manipolazione e locomozione che astraggono dalle differenze hardware.
Dal punto di vista tecnico, il cross-embodiment si ottiene con diversi approcci. La tokenizzazione delle azioni mappa le configurazioni dei giunti di robot diversi in un vocabolario di token comune che un Transformer può elaborare in modo uniforme. Gli spazi di osservazione indipendenti dall'embodiment usano viste da telecamere in terza persona o formati standardizzati di nuvole di punti anziché dati propriocettivi specifici del robot. I livelli adattatori aggiungono piccoli moduli specifici per il robot a una backbone condivisa, in modo simile a come gli adattatori dei modelli linguistici specializzano un modello di base per compiti diversi.
Il progetto di riferimento Open X-Embodiment di Google DeepMind ha dimostrato questo approccio su larga scala: ha aggregato dati di dimostrazione da 22 diverse piattaforme robotiche di 21 istituti di ricerca, e ha poi addestrato la famiglia di modelli RT-X su questo dataset combinato. Sorprendentemente, il modello cross-embodiment ha superato i modelli specialistici addestrati solo sui dati di ciascun robot, suggerendo che la diversità dei dati di addestramento, anche da robot fisicamente diversi, porta un beneficio netto.
Il cross-embodiment è strettamente legato al paradigma dei foundation model in robotica. Così come un modello linguistico addestrato su testi diversi generalizza a nuovi argomenti, ci si aspetta che un foundation model per robot addestrato su embodiment diversi generalizzi a nuovi robot con un adattamento minimo o zero-shot. Questo ridurrebbe drasticamente il costo di mettere in funzione abilità apprese su nuovo hardware.
Perché è importante
Il cross-embodiment è la chiave per rendere economicamente sostenibile l'apprendimento robotico. Oggi ogni nuova piattaforma robotica parte da quasi zero in termini di abilità apprese e richiede costose campagne di raccolta dati. Se le policy potessero trasferirsi tra embodiment, gli sforzi di raccolta dati dell'intera comunità robotica si sommerebbero anziché frammentarsi. Un'abilità di manipolazione appresa su un braccio robotico potrebbe giovare subito a ogni altro braccio. È questa la visione alla base del progetto Open X-Embodiment e di iniziative commerciali come pi0 di Physical Intelligence: costruire una base condivisa che renda più intelligenti tutti i robot, non solo una piattaforma specifica.
Applicazioni principali
- Foundation model per robot: addestrare una singola policy generalista su dati di decine di piattaforme robotiche che si trasferisca a nuovo hardware
- Impiego in flotta: mettere in funzione le stesse abilità apprese su una flotta eterogenea di robot con fattori di forma diversi
- Prototipazione rapida: testare nuovo hardware robotico con policy cross-embodiment preaddestrate invece di raccogliere da zero dati specifici per il compito
- Sim-to-real verso un altro robot reale: addestrare in simulazione su un modello di robot e mettere in funzione su un robot reale fisicamente diverso
- Collaborazione accademica: condividere e combinare dataset robotici tra laboratori con hardware diverso in insiemi di addestramento unificati
- Robotica di consumo: permettere a robot domestici di design diversi di beneficiare di comportamenti appresi condivisi
In pratica
Il progetto Open X-Embodiment ha aggregato oltre 1 milione di traiettorie robotiche da 22 diversi embodiment, tra cui bracci Franka Panda, bracci UR5, i manipolatori mobili di Everyday Robots, bracci KUKA iiwa e sistemi bimanuali. L'addestramento di una policy basata su Transformer su questo dataset combinato ha prodotto i modelli RT-X: nel regime con pochi dati RT-1-X ha superato del 50% i modelli addestrati su singoli dataset, e RT-2-X è risultato tre volte migliore di RT-2 sulle abilità emergenti. L'ingrediente tecnico chiave è stato standardizzare le osservazioni (usando come input principale le immagini delle telecamere anziché gli stati dei giunti specifici del robot) e le azioni (usando delta dell'end effector normalizzati sull'area di lavoro di ciascun robot). I laboratori che hanno fornito dati non hanno dovuto cambiare il proprio hardware né le procedure di raccolta: l'architettura cross-embodiment ha gestito la diversità.
Idee sbagliate comuni
- Cross-embodiment significa che una policy funziona perfettamente su qualsiasi robot: i sistemi attuali mostrano un trasferimento positivo ma beneficiano ancora di un fine-tuning specifico per il robot; il trasferimento zero-shot tra embodiment molto diversi resta limitato
- I robot devono essere fisicamente simili perché il cross-embodiment funzioni: il progetto Open X-Embodiment ha mostrato benefici combinando dati di bracci, robot mobili e sistemi bimanuali nonostante grandi differenze fisiche
- Il cross-embodiment elimina la necessità di dati specifici per il robot: ne riduce la quantità necessaria, ma di solito servono ancora dati di adattamento per prestazioni ottimali su una nuova piattaforma
- Il cross-embodiment è solo transfer learning: pur essendo correlato, il cross-embodiment affronta specificamente il trasferimento tra differenze dell'hardware fisico, non solo tra differenze di compito o di dominio
Chi dovrebbe saperlo
- Ricercatori di apprendimento robotico che costruiscono foundation model per la robotica
- Aziende di robotica che sviluppano sistemi di manipolazione generici
- Responsabili di laboratori di ricerca che pianificano campagne di raccolta dati multi-robot
- Ingegneri che valutano se investire in IA specifica per il robot o generalizzabile
- Ricercatori di IA che studiano transfer learning e adattamento di dominio
Tecnologie correlate
- Dataset Open X-Embodiment
- RT-X
- Octo
- Tokenizzazione delle azioni
- Pi0
- Dataset DROID
- Adattatori di embodiment
Progetti correlati
- GENESIS: World's fastest physics engine: 43M FPS for embodied AI learning
- LingBot-Map: Streaming 3D reconstruction from one camera: pose and depth for every frame, live
- OpenPI: Physical Intelligence VLA foundation models for general robot control
- NVIDIA Cosmos 3: NVIDIA's open world models that reason, generate video and predict robot actions
- NVIDIA Isaac GR00T: NVIDIA open foundation model for humanoid robot reasoning and skills
- OpenVLA: 7B-parameter Vision-Language-Action model for robotic manipulation
Video
- Princeton Robotics Seminar - Jeannette Bohg - Enabling Cross-Embodiment Robot Learning: Princeton University Robotics