AK: Attentive Kernel for Information Gathering
著者: Weizhe Chen, Roni Khardon, Lantao Liu · RSS 2022
ライセンス
- オープンアクセス
- 論文: CC BY 4.0
以下の内容はすべて、論文のライセンス(CC BY 4.0)に従い論文全文に基づいています。図は著者のクレジットを付けて掲載しています。
要約
固定の長さスケールを混合し、急激な変化をまたぐ相関をマスクする非定常 GP カーネル。地図の不確かさが実際の誤差に従うため、ロボットは重要な場所でサンプリングする。
重要な理由
サンプリングを行うロボットのモデルが、誤差の大きい場所で高い不確かさを示せば、プランナは空間を一様にカバーするのではなく、複雑な領域にサンプリング予算を使う。このカーネルは既存の任意のベースカーネルを包むことができるため、既存の GP ベースのマッピングや情報量に基づく計画のパイプラインにそのまま組み込める。フィールド試験では、水深測量を行う水上艇の上で動作する様子が示されている。
課題
ロボット情報収集は、確率モデルの不確かさに基づいてロボットが次にどこでサンプリングするかを選ぶ。このモデルは通常、RBF などの定常カーネルを用いたガウス過程である。実際の地形は定常ではなく、一部の領域は他よりもはるかに大きく変化するため、定常モデルは過度に平滑化し、誤差に関係なく、単に未訪問であるという理由で高い不確かさを割り当てる。既存の非定常カーネルは柔軟すぎて、安定して学習できないことが多い。
提案手法
Attentive Kernel は、学習される入力依存の 2 つの選択を組み合わせる。長さスケール選択は、長さスケール関数を学習する代わりに、小さなニューラルネットワークが出力する softmax の重みを用いて、あらかじめ設定した長さスケールをもつ固定のベースカーネルの集合を混合する。インスタンス選択は、各入力にソフトな所属ベクトルを与え、その内積によって急激な遷移の反対側にある点どうしの相関をマスクする。すべてのパラメータは GP の周辺尤度を最大化することで当てはめられ、得られた不確かさが、エントロピーから距離を引いた値に基づくウェイポイントプランナを駆動する。
主な知見
- 自由な長さスケール関数を学習するのではなく、あらかじめ設定した長さスケールの中から選択することで、非定常カーネルが学習しやすくなり、任意のベースカーネルと互換になる。
- ソフトな所属ベクトルで相関をマスクすることで、小さな長さスケールだけではうまくモデル化できない急激な変化に対処できる。
- 情報量に基づく計画を改善するには、より良いプランナではなく、より良く較正された不確かさで十分であった。同じ単純なプランナを用いると、AK は誤差の大きい領域にサンプルを集中させ、RBF は空間を一様にカバーした。
- アブレーションにより長さスケール選択が必要であることが示された。インスタンス選択は、現在の学習方式では集計指標に有意な向上をもたらさなかったが、著者らは急激な遷移部分で役立つと見込んでいる。
- 入力の正規化後は、ベースカーネルの数(5 から 10 を推奨)、隠れユニット、長さスケールの範囲によって性能はほとんど変わらなかった。
主な結果
- 4 つの標高マップ環境と 10 個の乱数シードにわたり、情報量に基づく計画の実験で AK は RBF、Gibbs、Deep Kernel Learning に対して最も低い SMSE と MSLL を示した(指標はサンプリング曲線全体で平均)。
- N17E073 での情報量に基づく計画:SMSE は AK が 0.114、RBF が 0.145、Gibbs が 0.143、DKL が 0.138。MSLL は −1.27 に対し −0.97、−1.16、−1.01。
- N43W080 での能動サンプリング:SMSE は AK が 0.051、RBF が 0.078。MSLL は −1.72 に対し −1.41。
- N17E073 でのランダムサンプリング:SMSE は AK が 0.111、RBF が 0.133。MSLL は −1.24 に対し −0.99。
- フィールド試験では、下向きのシングルビームソナーを備えた自律水上艇が、標高変化の激しい領域でサンプルの大半を収集し、作業領域全体で予測の不確かさを低減した(定性的な結果)。
制限事項
- 著者らは、非定常カーネルを多くの反復で学習すると、周辺尤度のオッカムの剃刀効果では過学習を防げないと指摘している。経験則に基づく早期終了の方式を用いており、原理的な学習方法は未解決の問題だとしている。
- 外れ値と不均一分散ノイズは扱っておらず、今後の課題とされている。
- インスタンス選択は、現在の学習方式では集計指標に測定可能な改善をもたらさず、2 つのネットワークを用いる変種は 1 つの環境で不確かさを悪化させた。
- ベンチマークは 2D の標高マップのみを用いており、フィールド実験は数値誤差の報告がない 1 回の定性的な実行である。
- カーネルの計算コストは、標準的な GP のスケーリングに加えて、ベースカーネルの数とともに増加する(カーネル行列で O(N²M))。
分野への影響
本論文は RSS 2022 Best Student Paper Award を受賞し、被引用数は 22 である。再現性のためのコードと、ロボット情報収集研究のためのソフトウェアライブラリ PyPolo を公開している。
概要
ロボット情報収集(Robotic Information Gathering、RIG)は、効率的なデータ収集のための重要な領域を特定するために、確率モデルの不確かさに依存する。定常カーネルを用いたガウス過程(GP)は、空間モデリングに広く採用されてきた。しかし、実世界の空間データは通常、異なる場所が同じ程度の変動性をもつと仮定する定常性の仮定を満たさない。その結果、予測の不確かさが予測誤差を正確に捉えず、RIG アルゴリズムの成功を制限している。我々は、Attentive Kernel(AK)と名付けた新しい非定常カーネルの族を提案する。これは単純かつロバストで、既存の任意のカーネルを非定常カーネルに拡張できる。新しいカーネルを標高マッピングのタスクで評価し、AK は一般に用いられる RBF カーネルや他の代表的な非定常カーネルよりも優れた精度と不確かさの定量化を示した。改善された不確かさの定量化は、下流の RIG プランナが誤差の大きい領域の周辺でより価値の高いデータを収集するよう導き、予測精度をさらに高める。フィールド実験では、提案手法が自律水上艇(ASV)を導いて空間的な変動の大きい場所でのデータ収集を優先させ、モデルが顕著な環境特徴を捉えられるようにすることを示した。
リンク
- arXiv 2205.06426: https://arxiv.org/abs/2205.06426
- DOI 10.48550/arXiv.2205.06426: https://doi.org/10.48550/arXiv.2205.06426
- PDF: https://arxiv.org/pdf/2205.06426v1
- コード: https://github.com/weizhe-chen/attentive_kernels
- プロジェクトページ: https://weizhe-chen.github.io/attentive_kernels/