PAC-MAN
Un Unitree G1 que esquiva pelotas lanzadas usando solo profundidad a bordo
Licencia
MIT
MIT cubre el código. Comprobado el 2026-09-10: los archivos del modelo Unitree G1 y los clips de movimiento AMP reorientados (retargeting) derivan de sus fuentes originales y conservan esos términos; los clips se reorientaron a partir del conjunto de datos de captura de movimiento NVIDIA SEED y se redistribuyen aquí para uso en investigación, por lo que la licencia del conjunto de datos de origen rige cualquier uso comercial de los datos de movimiento.
Resumen
PAC-MAN es la canalización de entrenamiento, el banco de pruebas y la pila de despliegue en hardware de un humanoide Unitree G1 que esquiva pelotas lanzadas usando únicamente una cámara de profundidad montada en la cabeza. La seguridad no la impone un filtro en tiempo de ejecución: se moldea durante el entrenamiento mediante recompensas de funciones barrera de control sobre cada eslabón del cuerpo, y un prior adversarial de movimiento construido con esquivas humanas readaptadas mantiene humanos los reflejos resultantes. La política desplegada solo ve la amenaza como profundidad enmascarada a la pelota, agrupada en una pila dispersa de fotogramas 16×9 —exactamente la representación que produce un segmentador EfficientTAM en el robot real—, de modo que la brecha de simulación a realidad se reduce a la capa de percepción. La transferencia es directa, sin ajuste fino: 19 de 20 lanzamientos a mano esquivados y ninguna caída.
La estructura de barrera aparece en dos formas y el repositorio trata esa diferencia como el hallazgo, no como un detalle de implementación. Link-CBF coloca una barrera de holgura sobre cada eslabón del robot y penaliza la violación de la condición de barrera en el eslabón más comprometido; entra únicamente por la recompensa de entrenamiento, sin nada que imponer en línea, y precisamente por eso el punto de control se despliega tal cual. Joint-CBF proyecta la velocidad articular deseada sobre un semiespacio seguro y es más fuerte cuando los estados de la pelota son precisos, pero se degrada con cámara fija si se usa solo como guía de entrenamiento, y se recupera con una cámara sobre cardán que sigue la pelota o con una proyección privilegiada en ejecución. Ese filtro privilegiado es un techo de simulación, no una configuración de hardware.
El entrenamiento corre sobre mjlab con MuJoCo Warp, con la implementación de AMP adaptada de AMP_mjlab y PPO de rsl_rl, y el repositorio incluye un lanzador por cada celda experimental del artículo, de modo que la tabla de ablaciones se puede reproducir celda a celda. deploy/ es un proyecto uv independiente en Python 3.8 que ejecuta tres procesos sobre UDP local: un nodo de cámara ZED con segmentación EfficientTAM de la pelota, la política de esquiva en ONNX con conmutación automática entre caminar y esquivar, y un puente de hardware Unitree DDS. Ambos puntos de control desplegados están versionados en el repositorio, y hay una batería de pruebas con pytest para los términos CBF, los lanzamientos omnidireccionales y el apuntado del cardán.
Por qué importa
Las capas de seguridad para humanoides suelen demostrarse con estado privilegiado y pierden sus garantías en silencio en cuanto el robot tiene que ver el peligro por sí mismo. PAC-MAN mete la estructura de barrera en la recompensa de entrenamiento, le da a la política solo lo que una cámara a bordo puede producir, y publica el resultado sobre hardware. Es además inusualmente completo para una publicación de aprendizaje por refuerzo humanoide: la mayoría se quedan en el código de entrenamiento, y esta trae el banco de pruebas, los pesos ONNX que se desplegaron de verdad y el puente de cámara y DDS que los ejecutó.
Qué problema resuelve
La seguridad de cuerpo completo en un humanoide es fácil de demostrar cuando al controlador se le entrega la posición del peligro, y difícil de sostener cuando el robot tiene que percibirla. PAC-MAN cierra esa brecha entrenando contra la observación degradada que el robot realmente tendrá, de modo que lo que mide el banco de pruebas es lo que ejecuta el hardware.
Puntos clave
- Desplegado sin ajuste fino en un Unitree G1: 19 de 20 lanzamientos a mano esquivados, ninguna caída y percepción íntegramente a bordo
- La única vista que la política tiene de la amenaza es profundidad enmascarada a la pelota agrupada en una pila dispersa 16×9, igual a lo que EfficientTAM produce en el robot
- Link-CBF moldea la seguridad solo mediante la recompensa de entrenamiento, sin nada que imponer en ejecución, y por eso el punto de control se transfiere sin ajuste
- Joint-CBF es la barrera más fuerte con estados precisos de la pelota, pero se degrada con cámara fija; un cardán de seguimiento o un filtro privilegiado lo recuperan
- Agacharse, desplazarse lateralmente y saltar emergen de las recompensas de barrera y del prior de movimiento: ninguna esquiva está guionizada
- deploy/ es una pila de hardware completa —nodo ZED, segmentación EfficientTAM, política ONNX con conmutación caminar/esquivar, puente Unitree DDS— con los pesos desplegados versionados
- Como la política solo ve profundidad enmascarada por segmentación, los mismos pesos esquivan pelotas que nunca aparecieron en el entrenamiento
Para quién es
- Investigadores en control de cuerpo completo de humanoides y aprendizaje por refuerzo seguro
- Propietarios de un Unitree G1 que buscan una ruta completa de simulación a realidad
- Investigadores en funciones barrera de control que quieran una implementación de referencia del moldeado de recompensa
- Profesionales que estudian políticas basadas solo en profundidad con percepción en el lazo
Limitaciones
- Un único modelo de amenaza: pelotas lanzadas a un robot de pie. Aquí no hay evitación general de obstáculos ni desplazamiento por una escena desordenada
- La configuración +filter necesita estados privilegiados de la pelota y es un techo exclusivo de simulación, no algo que pueda correr en hardware
- El entrenamiento exige Linux x86_64 y una GPU NVIDIA; la ruta de hardware necesita además un Unitree G1, una cámara ZED y el SDK de Unitree compilado
- El prior AMP se apoya en unos 100 segundos de movimiento readaptado, un corpus pequeño para el rango de conductas evasivas que se reivindican
- Los clips de movimiento están readaptados del conjunto de captura NVIDIA SEED, que tiene sus propios términos: el repositorio los redistribuye solo para investigación
- Dos dependencias del despliegue son bifurcaciones del propio autor fijadas como submódulos (RealtimeEfficientTAM, unitree_sdk2_wrapper), así que la ruta de hardware descansa sobre repositorios mantenidos a título personal
- El repositorio se ejecuta desde el código con PYTHONPATH en lugar de instalarse como paquete, lo que complica depender de él desde otro código