Play2Perfect: What Matters in Dexterous Play Pretraining for Precise Assembly?
作者: Tyler Ga Wei Lum, Kushal Kedia, C. Karen Liu, Jeannette Bohg · CoRL 2026
授權條款
依 arXiv 的授權條款,以下內容僅依據摘要撰寫。
為何重要
多指手的精密組裝一直難以實現:它涉及大量接觸,使示範難以蒐集;獎勵稀疏,又使直接以強化學習進行探索難以處理。作者報告一種經遊玩預訓練的先驗,其樣本效率比從零開始訓練高 33 倍,並在零樣本模擬到現實遷移中,於間隙 0.5 mm 的插入任務上達到 60% 的成功率。
提出的方法
Play2Perfect 透過在多樣的物體與目標上遊玩,預訓練一個與任務無關的策略,學習抓取、手內重新定向與姿態到達等可重複使用的先驗,接著在精密組裝上對其進行微調,使探索集中於最後的高精度接觸。作者將物體多樣性、訓練目標函數、軌跡多樣性與目標精度作為設計選擇加以研究。
摘要
多指機器人可望擁有人手的速度與靈巧,但精密組裝這類難題一直無法做到。這類任務接觸密集,讓模仿學習的資料收集十分困難;獎勵又很稀疏,使得直接以強化學習(RL)探索幾乎不可行。因此,過去的研究是靠專用夾爪、工具附件和環境中的治具來簡化問題,才有所進展。在這項研究中,我們主張機器人在把精密組裝做到完美之前,必須先學會玩。我們進一步提問:在學習玩的過程中,哪些因素對精密組裝真正重要?我們提出 Play2Perfect,這是一套 RL 框架:先透過與多樣物件和目標的把玩,進行與任務無關的預訓練,再於精密組裝上精進。把玩的目的在於取得可重複使用的操作先驗,例如抓取、手內重新定向與到達目標姿態。接著的微調會把這個通用先驗調整到組裝上,把探索集中在成功所需的最後一段接觸密集、高精度的互動。我們系統性地研究把玩預訓練中的關鍵設計選擇,包括物件多樣性、訓練目標、軌跡多樣性與目標精度。結果顯示,即使從頭開始的 RL 訓練拿到稠密的多階段獎勵,我們的先驗在樣本效率上仍高出 33 倍。我們展示了零樣本的模擬到現實(Sim-to-Real)轉移:在接觸間隙僅 0.5 mm 的緊配合插入上達到 60% 成功率,在長時程的多零件組裝與鎖螺絲上成功率超過 50%。
連結
- arXiv 2606.26428: https://arxiv.org/abs/2606.26428
- PDF: https://arxiv.org/pdf/2606.26428
- 程式碼: https://github.com/kushal2000/play2perfect
- 專案頁面: https://play2perfect.github.io/