FlingBot: The Unreasonable Effectiveness of Dynamic Manipulation for Cloth Unfolding

저자: Huy Ha, Shuran Song · CoRL 2021

라이선스

오픈 액세스
논문: CC BY 4.0

아래 내용은 모두 논문의 라이선스(CC BY 4.0)에 따라 논문 전문을 바탕으로 하며, 그림에는 저자를 표기했습니다.

요약

양팔 로봇이 고정된 집기-당겨 펴기-털기 동작을 위해 구겨진 천의 어디를 잡을지 자기 지도 방식으로 학습하며, 커버리지와 단계 수에서 준정적 pick & place를 능가한다.

중요한 이유

이 논문은 학습된 고속 프리미티브 하나만으로 몇 번의 동작 안에 천을 펼치고, 도달 범위보다 큰 천을 다루며, 직사각형에서 티셔츠로 전이할 수 있음을 보여 준다. 실제 시스템은 힘 센서 대신 두 번째 RGB-D 카메라로 팽팽하게 당겨진 천을 감지하고, 학습 신호는 위에서 내려다보는 카메라의 마스크에서 얻으므로 하드웨어가 단순하게 유지된다.

문제

대부분의 천 펼치기 시스템은 pick & place 같은 단일 팔 준정적 동작을 사용하는데, 이는 심하게 구겨진 천에서 많은 상호작용을 필요로 하고 팔의 도달 범위보다 큰 천을 다루지 못한다. 모서리, 가장자리, 주름에 기반한 휴리스틱 방법은 그러한 키포인트가 가려졌거나 보이지 않거나 정사각형이 아닌 천에서 아예 없을 때 실패한다.

제안 방법

FlingBot은 양팔 모션 프리미티브(두 점에서 위에서 아래로 집는 핀치 파지, 0.30 m로 들어 올려 팽팽하게 당겨 펴기, 1.4 m/s로 앞쪽 0.70 m 털기, 0.50 m 뒤로 당기기, 내려놓기)를 고정하고 어디를 잡을지만 학습한다. 파지는 중심 픽셀, 각도, 폭으로 파라미터화되어 팔 순서 제약과 파지 폭 제약이 선형적이고 독립적으로 유지된다. 가치 네트워크는 위에서 내려다본 이미지에 대해 12개 회전과 8개 스케일에서 픽셀별 델타 커버리지를 예측하며(공간 행동 맵), PyFleX 기반의 맞춤형 시뮬레이터에서 자기 지도 방식으로 학습된 뒤 실제 UR5 팔 두 대에서 미세 조정된다.

핵심 통찰

당겨 펴기와 털기 동작을 고정하면 학습은 두 개의 파지점을 고르는 문제로 줄어든다. 털기 속도까지 학습해도(FlingBot-S) 유의미한 이득이 없었다.
양팔 파지를 중심, [−90°, 90°] 범위의 각도, 폭으로 파라미터화하면 좌우 순서 제약과 팔 사이 거리 제약이 선형적이고 서로 독립적이 된다.
공간 행동 맵(spatial action maps)을 통한 평행 이동, 회전, 스케일 등변성의 활용이 필수적이다. 파지 파라미터를 직접 회귀한 방식(Fling-Reg)은 일반 직사각형에서 델타 커버리지 +0.3%에 그쳤다.
시행착오를 통해 정책은 보이는 모서리와 가장자리를 잡거나, 털어서 그것들이 드러나게 하는 법을 학습했다. 이는 이전의 휴리스틱 방법들이 수작업으로 설계했던 전략이다.
털기는 유효 도달 범위를 넓히므로 팔의 도달 범위보다 큰 천도 펼칠 수 있다.

주요 결과

시뮬레이션, 일반 직사각형(최종 / 델타 커버리지): FlingBot 91.9% / +63.1%, Pick&Place 53.0 / +24.2, Pick&Drag 58.0 / +29.2, Stretch&Drag 77.2 / +48.4.
시뮬레이션에서 처음 보는 일반 직사각형 천에 대해 3번의 동작 안에 80% 이상의 커버리지.
도달 범위를 넘는 큰 직사각형: 최종 커버리지 79.2%, 델타 커버리지 +52.0%로 준정적 기준선(+24.8%, +27.1%, +23.1%)의 약 두 배.
학습에서 보지 못한 티셔츠: 시뮬레이션에서 최종 93.3% / 델타 +46.8% 커버리지.
실제 듀얼 UR5 시스템, 천 종류별 테스트 에피소드 10회: 일반 직사각형, 큰 직사각형, 셔츠에서 최종 커버리지 81.9%, 88.5%, 89.2%로 Pick&Place의 43.2%, 38.4%, 42.7% 대비 높았다. 미세 조정으로 일반 천 커버리지가 69.8%에서 81.9%로 올랐다.
털기 프리미티브 1회당 중앙값 시간은 16.7 s로 pick & place의 8.8 s보다 길며, 여기에 각각 2.5 s와 2.9 s의 오버헤드가 더해진다.

한계

접기와 같은 더 복잡한 목표 조건부 천 작업에는 향후 연구가 필요하며, 저자들은 동적 동작과 준정적 동작을 천 자세 추정과 결합하여 이를 다룰 것을 제안한다.
실험은 쉬운 마스킹을 위해 무늬 없는 검은 작업 공간과 텍스처 없는 단색 천을 사용한다. 임의의 텍스처를 다루려면 분할 또는 배경 차분을 추가해야 한다.
실제 결과는 천 종류별 테스트 에피소드 10회의 평균이며, 실제 환경의 파지 오류는 걸러졌다.
털기는 더 적은 동작만 필요하지만 pick & place보다 시간이 더 걸린다(중앙값 16.7 s 대 8.8 s).
실제 구성은 핀치 파지를 돕기 위해 2인치 고무 매트와 그리퍼 손가락용 고무 커버에 의존했으며, 수렴까지의 학습에는 GTX 1080 Ti에서 약 6일이 걸렸다.

분야에 미친 영향

CoRL 2021 Best System Paper Award 수상작이며, 제시된 기준으로 인용 수는 229회이다. 저자들은 프로젝트 페이지를 통해 코드, 시뮬레이션 환경, 데이터, 실험 영상을 공개했으며, 여기에는 임의의 천 메시를 불러올 수 있는 PyFleX 기반 맞춤형 시뮬레이터가 포함된다.

초록

고속 동적 동작(예: 털기(fling)나 던지기)은 효율을 높이고 물리적 도달 범위를 효과적으로 넓혀 주므로, 우리가 일상에서 변형 가능한 물체와 상호작용할 때 중요한 역할을 한다. 그러나 기존 연구 대부분은 천 조작을 오로지 단일 팔의 준정적 동작으로만 다루어 왔으며, 이는 까다로운 초기 천 형상에서 많은 상호작용을 필요로 하고 로봇의 도달 범위로 인해 최대 천 크기를 엄격히 제한한다. 본 연구에서는 우리가 제안하는 자기 지도 학습 프레임워크 FlingBot을 통해 천 펼치기에서 동적 털기 동작의 효과를 입증한다. 우리의 접근법은 시각 관측으로부터 양팔 구성을 위한 집기, 당겨 펴기, 털기 프리미티브를 사용하여 임의의 초기 형상에서 천 조각을 펼치는 방법을 학습한다. 최종 시스템은 새로운 천에서 3번의 동작 안에 80% 이상의 커버리지를 달성하고, 시스템의 도달 범위보다 큰 천을 펼칠 수 있으며, 직사각형 천으로만 학습했음에도 티셔츠로 일반화된다. 또한 FlingBot을 실제 양팔 로봇 플랫폼에서 미세 조정했으며, 여기서 천 커버리지 증가량이 준정적 기준선의 4배를 넘었다. FlingBot의 단순함과 준정적 기준선 대비 뛰어난 성능은 변형 가능한 물체 조작에서 동적 동작의 효과를 보여 준다.

링크

arXiv 2105.03655: https://arxiv.org/abs/2105.03655
DOI 10.48550/arXiv.2105.03655: https://doi.org/10.48550/arXiv.2105.03655
PDF: https://proceedings.mlr.press/v164/ha22a/ha22a.pdf
코드: https://github.com/columbia-ai-robotics/flingbot
프로젝트 페이지: https://flingbot.cs.columbia.edu/