Octo
Policy robotica generalista open source addestrata su 800k traiettorie di Open X-Embodiment
Licenza
MIT
Panoramica
Octo è una delle prime policy robotiche generaliste completamente open source, rilasciata nel 2024. È una diffusion policy basata su Transformer, preaddestrata su 800.000 traiettorie robotiche del dataset Open X-Embodiment. Sono disponibili due checkpoint preaddestrati, Octo-Small (27M parametri) e Octo-Base (93M parametri), entrambi scaricabili da Hugging Face. Il modello accetta comandi in linguaggio naturale o istruzioni tramite immagine obiettivo e supporta più ingressi da telecamera RGB, il che lo rende ampiamente applicabile a embodiment robotici diversi. Octo usa una struttura di attenzione modulare che consente di effettuarne in modo efficiente il fine-tuning su nuovi sensori, spazi delle azioni e morfologie, su GPU consumer e in poche ore.
Octo è una diffusion policy basata su Transformer pensata come «inizializzazione della policy»: un punto di partenza solido e generico su cui i ricercatori fanno il fine-tuning per i propri robot invece di addestrare da zero. È stata una delle prime policy robotiche generaliste completamente open source, precedente di diversi mesi a OpenVLA, e nell'articolo originale di RSS 2024 ha dimostrato il trasferimento cross-embodiment su nove piattaforme robotiche diverse. L'architettura combina un backbone Transformer con una testa di azione a diffusione, che gli autori hanno dimostrato empiricamente superiore alle alternative a regressione e a token discreti per le distribuzioni di azioni multimodali. L'implementazione è in JAX/Flax anziché in PyTorch.
Perché è importante
Octo ha stabilito il modello delle policy robotiche generaliste open source. Rilasciando una baseline solida e modulare su cui chiunque poteva fare il fine-tuning con hardware consumer, ha abbassato la barriera d'ingresso all'apprendimento robotico cross-embodiment e ha spinto il settore verso lo sviluppo collaborativo di foundation model per la manipolazione.
Il problema che risolve
Prima di Octo, ogni laboratorio di robotica addestrava da zero policy specifiche per il compito, un approccio costoso e incapace di generalizzare. I modelli robotici su larga scala esistenti, come RT-2-X, erano closed source. Octo ha offerto una delle prime policy generaliste completamente open source e adattabili con fine-tuning, permettendo ai ricercatori di partire da un checkpoint preaddestrato da 93M parametri invece che da zero.
Punti chiave
- Prima policy robotica generalista completamente open source (RSS 2024)
- Due checkpoint preaddestrati: Octo-Small (27M) e Octo-Base (93M)
- Addestrata su 800k traiettorie del dataset Open X-Embodiment
- Backbone Transformer + testa di azione a diffusione: flessibile rispetto a spazi di osservazione e di azione
- Fine-tuning possibile su una sola GPU consumer in poche ore
- Trasferimento cross-embodiment dimostrato su 9 piattaforme robotiche
A chi si rivolge
- Ricercatori di robotica che sperimentano il trasferimento cross-embodiment
- Ingegneri ML che fanno il fine-tuning di policy generaliste per nuovi bracci robotici
- Studenti che studiano i precursori dei VLA e l'evoluzione verso OpenVLA / pi-0
Limiti
- Il repository non riceve commit da luglio 2024: la codebase è inattiva
- Implementata in JAX/Flax anziché in PyTorch, il che limita l'integrazione con la maggior parte degli strumenti VLA moderni
- Addestrata soprattutto sulla manipolazione da tavolo: copertura limitata di locomozione e compiti di manipolazione fine
- Più piccola (93M) degli sforzi closed source contemporanei (per esempio RT-2-X con 55B), quindi le prestazioni zero-shot sono limitate
- Superata da OpenVLA, pi-0 e altre policy generaliste più recenti per i risultati allo stato dell'arte