Armory
以單一雲端 GPU 為整個機器人車隊提供同一個機器人策略
授權條款
Apache-2.0
概述
Armory 是一套端對端的服務系統,用於在遠端 GPU 上執行機器人策略,並同時提供給多台機器人。它在伺服器端為每台機器人的動作佇列、傳輸中的區塊、執行視野與通訊延遲維護一份鏡像,並用這份鏡像決定下一批要處理哪些機器人:依機器人時間而非請求時間進行排程。儲存庫包含服務引擎、排程器、輕量的單機器人用戶端套件、OpenPI 與 NVIDIA Isaac GR00T 策略轉接器,以及論文中使用的 LIBERO 評估框架、指標與繪圖工具,並提供 Modal、本機與 Slurm 進入點。
Armory 點名的問題是飢餓:沒有剩餘有效動作的機器人會直接停止移動,而這代價有多大完全取決於任務。作者在單一機器人上掃描執行視野與飢餓率,顯示動態的轉盤分類任務會崩潰,而靜態的積木分類任務則平緩退化。因此,一視同仁對待所有機器人的排程器,恰恰會虧待最需要新鮮動作的那些機器人。輪詢(round-robin)公平但看不見緊急程度;最早截止期限優先(earliest-deadline-first)能捕捉即將發生的飢餓,卻把每一次飢餓事件視為同等代價。Lookahead 會列舉候選排程,透過伺服器端鏡像將每個排程向前推演,並派送以推論時間正規化後預測獎勵最佳的批次;另有選用的單機器人權重,讓操作者能保護對延遲敏感的層級。
評估在兩處進行:模擬中的 LIBERO-10,以及由單一 L40S GPU 提供微調後 π0.5 檢查點的十支 AgileX PiPER 手臂組成的車隊。最主要的結果是,在 one-fast 設定中,真實世界的整體吞吐量比最早截止期限優先高出約 18%。執行它需要 Python 3.11、uv 與三個鎖定版本的子模組;GPU 路徑透過 Modal 或自架伺服器部署,而模擬策略後端則能在完全沒有 GPU 的情況下執行整套伺服器與用戶端協定,讓排程行為能在筆電上重現。
為何重要
大多數車隊將以雲端服務的策略來執行前沿模型:機上運算無法容納 VLA,而每台機器人各複製一份檢查點的成本又很高。然而在「一台機器人、一張 GPU」與專有服務軟體堆疊之間,幾乎沒有任何開放方案。Armory 是一份易讀的參考實作,並附有評估框架,它也點出了一個被通用 LLM 式批次處理所掩蓋的失效模式:最常需要動作的機器人,正是以截止期限驅動的排程器會讓它飢餓的那一台。
解決的問題
視覺語言動作(VLA)模型對機上運算而言太過龐大,因此策略被移到遠端 GPU;而為聊天吞吐量打造的批次伺服器,會讓任務最需要新鮮動作的機器人陷入飢餓。Armory 依機器人時間而非請求時間排程,因此它組成的批次,正是能讓最多機器人保持移動的那一批。
重點
- 從遠端 GPU 為多台機器人提供同一個策略,依據伺服器端對每台機器人動作佇列、傳輸中區塊、執行視野與網路延遲的鏡像進行批次處理
- Lookahead 排程將候選批次向前推演,並以每單位推論時間的預測獎勵評分,使真實世界的整體吞吐量比最早截止期限優先最多提高 18%
- 已在由一張 L40S GPU 提供微調後 π0.5 檢查點的十支 AgileX PiPER 手臂上,以及 LIBERO-10 模擬中完成驗證
- 提供 OpenPI 與 NVIDIA Isaac GR00T 後端轉接器,以及在每台機器人上執行的輕量用戶端套件
- 模擬策略後端不需 GPU 就能執行完整的伺服器與用戶端協定,因此排程行為可在筆電上重現
- 研究動機來自一項量測:飢餓代價取決於任務,動態操作在區塊過時時會崩潰,而準靜態操作則能容忍
- 提供 Modal、本機與 Slurm 進入點,以及論文圖表背後的掃描與繪圖腳本
適用對象
- 以共享運算為多台機器人部署 VLA 策略的團隊
- 機器人車隊與雲端機器人基礎設施工程師
- 研究閉迴路推論服務的機器學習系統與排程研究人員
- 評測策略吞吐量的 LIBERO 與 OpenPI 使用者
限制
- 評估涵蓋模擬中的 LIBERO-10 與一支由十支 AgileX PiPER 手臂組成的真實車隊;目前尚無其他機器人、其他策略或更大車隊的證據
- 增益來自異質性:在同質車隊上,輪詢與最早截止期限優先的表現相當,論文也直言這一點
- 單機器人權重是操作者的調整旋鈕,而非免費的好處:在 half-fast 設定中,加權快速層級會將吞吐量從慢速層級移走
- 三個 third_party 子模組指向 LIBERO、OpenPI 與 Isaac-GR00T 的個人分支而非原專案,因此鎖定的相依項目仰賴個人帳號
- 提供真實策略服務需要 GPU 與對應的檢查點;模擬後端重現的是協定與排程,而非策略本身
- 沒有已發布的容器映像或版本標籤:部署須從初始化子模組的 git checkout 進行,並使用 Python 3.11 與 uv