orcs
Adatta il controller per umanoidi SONIC di NVIDIA a nuovi compiti con LoRA, su un G1 simulato
Licenza
- code and documentation: BSD 3-Clause
- EgoHTR data: CC BY 4.0
Licenza suddivisa. Il codice e la documentazione di orcs sono BSD-3-Clause. I checkpoint rilasciati su Hugging Face (lkrajan/orcs) sono soggetti alla NVIDIA Open Model License, perché si basano sui pesi SONIC di NVIDIA. I file del modello del corpo SMPL-X, necessari solo per i compiti SMPL, non sono inclusi e sono concessi in licenza separatamente dal Max Planck Institute previa registrazione. I dati EgoHTR sono CC BY 4.0. Verificato il 2026-10-30.
Panoramica
orcs è un toolkit di addestramento per controller di robot umanoidi di Lokesh Krishna del Dynamic Robotics and Control Laboratory della University of Southern California (DRCL). Invece di addestrare un nuovo controller per ogni compito, prende il controller del corpo intero SONIC di NVIDIA per l'Unitree G1, lo mantiene congelato e addestra sopra di esso, con l'apprendimento per rinforzo, solo un piccolo adattatore a basso rango (LoRA). I compiti forniti sono camminare su cordoli e terreno accidentato usando una scansione delle altezze, schivare una palla lanciata e trasportare oggetti in movimento. Esegue anche il retargeting di registrazioni di movimento umano sul robot, e la sua release v0.1.1 del 29 ottobre 2026 aggiunge l'arrampicata su roccia e l'attraversamento di una finestra da registrazioni umane reali, più uno strumento di revisione in cui si lasciano note su singoli frame e un agente di programmazione rivede il movimento. L'addestramento avviene in mjlab su MuJoCo Warp. Il codice è su GitHub con licenza BSD-3-Clause e i checkpoint addestrati sono su Hugging Face. orcs è stato scritto per l'articolo ViBe degli autori.
Ogni compito di orcs segue un unico schema. Il controller SONIC, che già segue il movimento umano su un Unitree G1, resta congelato. Gli viene collegato un adattatore LoRA inizializzato a zero, così prima dell'addestramento la policy si comporta esattamente come SONIC, e poi PPO modifica solo l'adattatore. L'adattatore riceve informazioni sul compito che il controller di base non ha mai avuto: una scansione delle altezze del terreno per la locomozione percettiva (PerLoco), lo stato della palla per Dodge e lo stato dell'oggetto per la loco-manipolazione omni-oggetto (UOLM). Il critic vede lo stato completo del simulatore.
Si tratta di policy privilegiate, od «oracolo»: leggono il ground truth direttamente dal simulatore, cosa che un robot reale non può fare. È una scelta voluta. Le note del progetto dicono che prima si addestra l'oracolo e che distillarlo in una policy che funzioni con i sensori di bordo è il passo successivo, non una funzionalità rilasciata. Le policy qui restano in simulazione.
I movimenti di riferimento provengono da tre fonti: terreni e clip di movimento da GRAIL di NVIDIA, terreni e movimenti da OmniRetarget e, novità della v0.1.1, registrazioni umane dal dataset EgoHTR di persone che attraversano terreni reali. Il movimento umano in formato SMPL viene sottoposto a retargeting in due fasi (guida): un rapido passaggio cinematico fornisce una posa iniziale, poi l'addestramento dell'adattatore la trasforma in un movimento che il robot può eseguire davvero. Per le clip EgoHTR c'è un percorso assistito da agente (guida): un visualizzatore nel browser basato su Viser riproduce la clip sul G1 sul terreno scansionato, si salva una nota su qualsiasi frame e un agente di programmazione che segue le istruzioni del repository rivede il movimento tramite UMR; poi si confronta la nuova versione con quella accettata e si decide.
L'installazione usa uv e Git LFS su Python 3.11. Una configurazione snella salta i compiti SMPL; quella completa richiede file del modello del corpo da scaricare da sé dopo la registrazione (guida alla locomozione percettiva). Il comando play esegue uno qualsiasi dei cinque checkpoint rilasciati, scaricandolo e verificandolo al primo utilizzo, oppure un adattatore non addestrato per confermare che riproduce SONIC. Il comando train addestra l'adattatore di un compito con migliaia di robot simulati in parallelo.
Perché è importante
I grandi controller di motion tracking come SONIC fanno muovere un umanoide come una persona, ma sono ciechi rispetto all'ambiente circostante e costosi da riaddestrare. orcs mostra un modo economico di aggiungere un'abilità alla volta: lasciare intatto il modello di base e addestrare un piccolo adattatore per il compito, il che preserva il movimento naturale del modello di base. Lo stesso approccio, con una telecamera al posto del ground truth, è quello che l'articolo ViBe ha portato su un G1 reale. È codice aperto con checkpoint rilasciati su un robot che molti laboratori possiedono, e il ciclo di revisione assistito da agente è un esempio precoce e pratico di uso di un agente di programmazione per ripulire dati di movimento sottoposti a retargeting.
Il problema che risolve
Trasformare un controller generico per umanoidi in uno che gestisca un compito specifico, come salire su un cordolo che può percepire, di solito significa addestrare una nuova policy e perdere il movimento simile a quello umano appreso dal modello di base. orcs invece adatta il controller esistente e fornisce gli strumenti di retargeting che trasformano il movimento umano registrato su terreni reali in riferimenti di addestramento per il G1.
Punti chiave
- Adatta il controller del corpo intero SONIC di NVIDIA, congelato, con un adattatore LoRA; PPO addestra solo l'adattatore
- Fornisce locomozione percettiva su cordoli, rocce e una finestra, dodgeball e loco-manipolazione omni-oggetto su un Unitree G1 simulato
- Retargeting in due fasi del movimento umano SMPL, più un ciclo di revisione assistito da agente per le clip EgoHTR in un visualizzatore nel browser
- Le policy sono privilegiate: usano lo stato ground truth del simulatore e non sono ancora pensate per funzionare su un robot reale
- Codice BSD-3-Clause; i cinque checkpoint rilasciati sono soggetti alla NVIDIA Open Model License perché si basano su SONIC
A chi si rivolge
- Ricercatori che adattano grandi controller di motion tracking per umanoidi a nuovi compiti
- Utenti dell'Unitree G1 e laboratori che lavorano con SONIC o mjlab
- Chi lavora al retargeting di motion capture umano su umanoidi su terreni reali
- Ricercatori di apprendimento robotico che addestrano policy insegnanti privilegiate per una successiva distillazione
Limiti
- Solo simulazione: le policy leggono lo stato ground truth, e la loro distillazione in uno studente utilizzabile su robot è nella roadmap, non rilasciata
- Costruito per l'Unitree G1 e legato al checkpoint SONIC; altri robot richiederebbero un controller di base diverso
- I checkpoint rilasciati sono soggetti alla NVIDIA Open Model License, non a BSD-3-Clause, e i compiti SMPL richiedono file del modello del corpo SMPL-X con licenza separata
- Richiede una GPU NVIDIA e versioni bloccate di mjlab, MuJoCo e MuJoCo Warp; le dipendenze vengono scaricate tramite GitHub SSH, quindi serve un account GitHub con una chiave SSH
- Codice di ricerca iniziale, di un solo autore, alla versione 0.1; il retargeting assistito da agente supporta solo clip EgoHTR sul G1