AK: Attentive Kernel for Information Gathering

저자: Weizhe Chen, Roni Khardon, Lantao Liu · RSS 2022

라이선스

오픈 액세스
논문: CC BY 4.0

아래 내용은 모두 논문의 라이선스(CC BY 4.0)에 따라 논문 전문을 바탕으로 하며, 그림에는 저자를 표기했습니다.

요약

고정된 길이 척도들을 혼합하고 급격한 변화를 가로지르는 상관을 마스킹하는 비정상 GP 커널로, 지도의 불확실성이 실제 오차를 따르게 하여 로봇이 중요한 곳에서 샘플링하게 한다.

중요한 이유

샘플링 로봇의 모델이 오차가 큰 곳에서 높은 불확실성을 내놓으면, 플래너는 공간을 균일하게 덮는 대신 복잡한 영역에 샘플링 예산을 쓴다. 이 커널은 기존의 어떤 기본 커널이든 감쌀 수 있으므로 기존 GP 기반 지도 작성 및 정보 기반 계획 파이프라인에 바로 넣을 수 있으며, 현장 실험은 해저 지형 측량을 수행하는 수상 이동체에서 이것이 동작하는 모습을 보여준다.

문제

로봇 정보 수집은 확률 모델의 불확실성으로부터 로봇이 다음에 샘플링할 위치를 고르며, 이 모델은 보통 RBF 같은 정상 커널을 쓰는 가우시안 프로세스다. 실제 지형은 정상적이지 않아서 어떤 영역은 다른 영역보다 훨씬 크게 변하므로, 정상 모델은 과도하게 평활화하고 오차와 관계없이 단지 방문하지 않은 영역에 높은 불확실성을 부여한다. 기존의 비정상 커널은 유연성이 지나쳐 안정적으로 학습하기 어려운 경우가 많다.

제안 방법

Attentive Kernel은 학습되는 두 가지 입력 의존적 선택을 결합한다. 길이 척도 선택은 길이 척도 함수를 학습하는 대신, 작은 신경망이 내놓는 softmax 가중치로 미리 정한 길이 척도를 가진 고정된 기본 커널 집합을 혼합한다. 인스턴스 선택은 각 입력에 소프트 소속 벡터를 부여하며, 그 내적이 급격한 전이의 반대편에 있는 점들 사이의 상관을 마스킹한다. 모든 파라미터는 GP 주변 우도를 최대화하여 적합되며, 그 결과로 얻은 불확실성이 엔트로피에서 거리를 뺀 값을 쓰는 웨이포인트 플래너를 구동한다.

핵심 통찰

자유로운 길이 척도 함수를 학습하는 대신 미리 정한 길이 척도 중에서 선택하게 하면 비정상 커널을 학습하기 쉬워지고 어떤 기본 커널과도 호환된다.
소프트 소속 벡터로 상관을 마스킹하면 작은 길이 척도만으로는 잘 모델링할 수 없는 급격한 변화를 다룰 수 있다.
정보 기반 계획을 개선하는 데는 더 나은 플래너가 아니라 더 잘 보정된 불확실성으로 충분했다. 같은 단순한 플래너로 AK는 오차가 큰 영역에 샘플을 집중시킨 반면 RBF는 공간을 균일하게 덮었다.
제거 실험에서 길이 척도 선택은 필수적인 것으로 나타났다. 인스턴스 선택은 현재 학습 방식에서 종합 지표상 유의미한 이득을 주지 못했지만, 저자들은 급격한 전이 지점에서는 도움이 될 것으로 예상한다.
입력 정규화 후에는 기본 커널 수(5~10개 권장), 은닉 유닛 수, 길이 척도 범위에 따라 성능이 거의 변하지 않았다.

주요 결과

네 가지 고도 지도 환경과 10개의 무작위 시드에서, 정보 기반 계획 실험에서 AK는 RBF, Gibbs, Deep Kernel Learning에 비해 가장 낮은 SMSE와 MSLL을 기록했다(지표는 샘플링 곡선에 걸쳐 평균).
N17E073에서의 정보 기반 계획: SMSE는 AK 0.114 대 RBF 0.145, Gibbs 0.143, DKL 0.138, MSLL은 −1.27 대 −0.97, −1.16, −1.01.
N43W080에서의 능동 샘플링: SMSE는 AK 0.051 대 RBF 0.078, MSLL은 −1.72 대 −1.41.
N17E073에서의 무작위 샘플링: SMSE는 AK 0.111 대 RBF 0.133, MSLL은 −1.24 대 −0.99.
현장 실험에서 하향 단일 빔 소나를 단 자율 수상 이동체는 고도 변화가 급격한 영역에서 대부분의 샘플을 수집했고 작업 공간 전반에서 예측 불확실성을 줄였다(정성적 결과).

한계

저자들은 비정상 커널을 많은 반복 동안 학습시킬 때 주변 우도의 오컴의 면도날 효과가 과적합을 막지 못한다고 지적하며, 경험칙에 따른 조기 종료 방식을 사용하고 원칙적인 학습 방법은 미해결 문제라고 한다.
이상치와 이분산 잡음은 다루지 않으며 향후 과제로 언급된다.
인스턴스 선택은 현재 학습 방식에서 종합 지표상 측정 가능한 개선을 주지 못했고, 두 개의 네트워크를 쓰는 변형은 한 환경에서 불확실성을 악화시켰다.
벤치마크는 2D 고도 지도만 사용하며, 현장 실험은 수치 오차가 보고되지 않은 단일 정성적 실행이다.
커널 비용은 표준 GP의 확장성 부담에 더해 기본 커널 수에 따라 증가한다(커널 행렬에 대해 O(N²M)).

분야에 미친 영향

이 논문은 RSS 2022 최우수 학생 논문상을 받았으며 인용 수는 22회이다. 재현성을 위한 코드와 로봇 정보 수집 연구용 소프트웨어 라이브러리 PyPolo를 공개한다.

초록

로봇 정보 수집(Robotic Information Gathering, RIG)은 효율적인 데이터 수집을 위한 핵심 영역을 찾는 데 확률 모델의 불확실성에 의존한다. 정상 커널을 쓰는 가우시안 프로세스(GP)는 공간 모델링에 널리 채택되어 왔다. 그러나 실제 공간 데이터는 서로 다른 위치가 같은 정도의 변동성을 가진다고 가정하는 정상성 가정을 대개 만족하지 않는다. 그 결과 예측 불확실성이 예측 오차를 정확히 반영하지 못해 RIG 알고리즘의 성공을 제한한다. 우리는 Attentive Kernel(AK)이라는 새로운 비정상 커널 계열을 제안하는데, 이는 단순하고 강건하며 기존의 어떤 커널이든 비정상 커널로 확장할 수 있다. 새 커널을 고도 지도 작성 작업에서 평가했으며, AK는 흔히 쓰이는 RBF 커널과 다른 대중적인 비정상 커널보다 더 나은 정확도와 불확실성 정량화를 제공한다. 개선된 불확실성 정량화는 후속 RIG 플래너가 오차가 큰 영역 주변에서 더 가치 있는 데이터를 수집하도록 안내하여 예측 정확도를 더욱 높인다. 현장 실험은 제안한 방법이 자율 수상 이동체(ASV)가 공간적 변화가 큰 위치에서 데이터 수집을 우선하도록 안내하여, 모델이 두드러진 환경 특징을 특성화할 수 있게 함을 보여준다.

링크

arXiv 2205.06426: https://arxiv.org/abs/2205.06426
DOI 10.48550/arXiv.2205.06426: https://doi.org/10.48550/arXiv.2205.06426
PDF: https://arxiv.org/pdf/2205.06426v1
코드: https://github.com/weizhe-chen/attentive_kernels
프로젝트 페이지: https://weizhe-chen.github.io/attentive_kernels/