AK: Attentive Kernel for Information Gathering

作者: Weizhe Chen, Roni Khardon, Lantao Liu · RSS 2022

授權條款

• 開放取用
• 論文: CC BY 4.0

以下內容皆依據論文全文，依其 CC BY 4.0 授權條款使用；圖表已標示作者。

一句話摘要

一種非平穩 GP 核函數，混合固定的長度尺度，並遮蔽跨越劇烈變化處的相關性，讓地圖的不確定性跟著真實誤差走，機器人就會到重要的地方取樣。

為何重要

當取樣機器人的模型在誤差高的地方給出高不確定性時，規劃器就會把取樣預算花在複雜區域上，而不是平均地涵蓋整個空間。由於這個核函數可以包覆任何現有的基礎核函數，它能直接放進現有以 GP 為基礎的地圖建置與資訊規劃流程中；野外測試展示了它在一艘進行水深測量的水面載具上運作。

問題

機器人資訊蒐集依據機率模型的不確定性來選擇機器人下一步要在哪裡取樣，這個模型通常是採用 RBF 等平穩核函數的高斯過程。真實地形並不平穩：有些區域的變化遠大於其他區域，所以平穩模型會過度平滑，而且只因為某些區域還沒去過，就給它們高不確定性，與誤差無關。現有的非平穩核函數往往太過靈活，難以穩定地訓練。

提出的方法

注意力核結合了兩種經學習且隨輸入而定的選擇。長度尺度選擇利用一個小型神經網路給出的 softmax 權重，混合一組具有預設長度尺度的固定基礎核函數，而不是學習一個長度尺度函數。實例選擇為每個輸入指定一個軟性隸屬向量，其內積會遮蔽位於劇烈轉變兩側的點之間的相關性；所有參數都透過最大化 GP 邊際概似來擬合，所得的不確定性則驅動一個以熵減距離為目標的航點規劃器。

關鍵見解

• 在預設的長度尺度之間做選擇，而不是學習一個自由的長度尺度函數，讓非平穩核函數更容易訓練，也能與任何基礎核函數相容。
• 以軟性隸屬向量遮蔽相關性，可以處理單靠小長度尺度難以妥善建模的突變。
• 要改善資訊規劃，只需要校準得更好的不確定性，而不需要更好的規劃器：使用同一個簡單規劃器時，AK 會把樣本集中在高誤差區域，RBF 則平均地涵蓋空間。
• 消融實驗顯示長度尺度選擇是必要的；在目前的訓練方案下，實例選擇在彙總指標上沒有帶來顯著提升，不過作者預期它在劇烈轉變處會有幫助。
• 在輸入正規化之後，效能隨基礎核函數數量（建議 5 到 10 個）、隱藏單元與長度尺度邊界的變化都很小。

主要結果

• 在四個高程地圖環境與 10 個隨機種子上，AK 在資訊規劃實驗中的 SMSE 與 MSLL 都低於 RBF、Gibbs 與 Deep Kernel Learning（指標在取樣曲線上取平均）。
• 在 N17E073 上的資訊規劃：AK 的 SMSE 為 0.114，RBF 為 0.145、Gibbs 為 0.143、DKL 為 0.138；MSLL 為 −1.27，相較於 −0.97、−1.16 與 −1.01。
• 在 N43W080 上的主動取樣：AK 的 SMSE 為 0.051，RBF 為 0.078；MSLL 為 −1.72，相較於 −1.41。
• 在 N17E073 上的隨機取樣：AK 的 SMSE 為 0.111，RBF 為 0.133；MSLL 為 −1.24，相較於 −0.99。
• 在野外測試中，一艘配備朝下單波束聲納的自主水面載具把大部分樣本蒐集在高程變化劇烈的區域，並降低了整個工作區域的預測不確定性（定性結果）。

限制

• 作者指出，當非平穩核函數訓練很多次迭代時，邊際概似的奧坎剃刀效應並不能防止過度擬合；他們採用一種經驗法則式的提前停止方案，並表示有理論依據的訓練方法仍是未解問題。
• 沒有處理離群值與異質變異雜訊，這被列為未來研究。
• 在目前的訓練方案下，實例選擇在彙總指標上沒有帶來可量測的改善，而一個雙網路變體在一個環境中讓不確定性變差。
• 基準測試只使用 2D 高程地圖，野外實驗也只是一次定性執行，沒有報告數值誤差。
• 核函數的計算成本會隨基礎核函數的數量增加（核矩陣為 O(N²M)），還要再加上標準 GP 本身的規模成本。

對領域的影響

這篇論文獲得 RSS 2022 最佳學生論文獎，被引用 22 次。論文釋出了供重現用的程式碼，以及供機器人資訊蒐集研究使用的軟體函式庫 PyPolo。

摘要

機器人資訊蒐集（Robotic Information Gathering，RIG）仰賴機率模型的不確定性來找出關鍵區域，以有效率地蒐集資料。採用平穩核函數的高斯過程（GP）已廣泛用於空間建模。然而，真實世界的空間資料通常不符合平穩性假設，也就是假設不同位置具有相同程度的變異性。因此，預測的不確定性無法準確反映預測誤差，限制了 RIG 演算法的成效。我們提出一個新的非平穩核函數族，稱為注意力核（Attentive Kernel，AK），它簡單、強健，而且能把任何現有的核函數擴充為非平穩核函數。我們在高程地圖建置任務中評估這個新核函數，相較於常用的 RBF 核與其他常見的非平穩核函數，AK 提供了更好的準確度與不確定性量化。改善後的不確定性量化會引導下游的 RIG 規劃器在高誤差區域周圍蒐集更有價值的資料，進一步提高預測準確度。一項野外實驗顯示，所提出的方法能引導自主水面載具（ASV）優先在空間變化大的位置蒐集資料，讓模型能描繪出顯著的環境特徵。

連結

• arXiv 2205.06426: https://arxiv.org/abs/2205.06426
• DOI 10.48550/arXiv.2205.06426: https://doi.org/10.48550/arXiv.2205.06426
• PDF: https://arxiv.org/pdf/2205.06426v1
• 程式碼: https://github.com/weizhe-chen/attentive_kernels
• 專案頁面: https://weizhe-chen.github.io/attentive_kernels/