Open Source Robotics

高品質なオープンソースロボティクスプロジェクト、ツール、ソフトウェアの厳選コレクション。

Gaussian process regression

  • 別名: GPR, GP regression, kriging
  • カテゴリ: Sensing › Perception outputs
  • タグ: machine-learning, uncertainty, bayesian-methods, mapping, regression

未知の関数をガウス過程としてモデル化し、各クエリ点で予測平均と不確実性の両方を与える、ベイズ的なノンパラメトリック回帰手法。

定義

ガウス過程回帰（Gaussian process regression、GPR）は関数の上に事前分布を置く。任意の有限個の関数値が同時にガウス分布に従うと仮定し、平均関数（多くの場合ゼロ）と、2 つの入力における出力がどれだけ強く相関するかを表すカーネル k(x, x') で与えられる共分散をもつ。この事前分布をノイズを含む観測で条件付けると、事後分布もまたガウス過程となり、任意の新しい入力での予測平均と分散が閉じた形で得られる。分散はデータの近くでは小さく、データから離れるにつれて大きくなる。これこそが、ロボットが自分のモデルがどこで信頼できないかを知る必要があるときに GPR が役立つ理由である。標準的な参考文献は Rasmussen と Williams の Gaussian Processes for Machine Learning（2006）であり、地球統計学では同じ手法がクリギング（kriging）として知られている。

カーネルは、モデルがどのような関数を想定するかを決める。二乗指数（RBF）カーネルは非常に滑らかな関数を生み、Matérn 族はより粗い関数を許す。長さスケール、信号分散、ノイズ分散といったカーネルのハイパーパラメータは、通常データの周辺尤度を最大化することで当てはめられる。標準的なカーネルは定常であり、どこでも同じ滑らかさを仮定する。地形の標高、水温、汚染物質の濃度といった実際の場は、ある場所では急激に、別の場所ではゆっくりと変化することが多く、これが AK 論文の attentive kernel のような非定常カーネルの動機となっている。

実用上の主な制約は計算コストである。厳密な GPR は n × n の共分散行列をもつ線形方程式系を解くため、n 個のデータ点に対して O(n³) の時間と O(n²) のメモリを要する。誘導点に基づくスパース近似、局所 GP モデル、構造化カーネルによって、より大きなデータセットやロボット搭載での実用が可能になる。もう一つの注意点は、ハイパーパラメータを固定すると、予測分散はデータを取得した場所だけに依存し、測定された値には依存しないことである。そのため当てはまりの悪いカーネルは誤解を招く不確実性を与える。ガウスノイズの仮定も、裾の重いセンサ誤差にはうまく合わない。

重要な理由

GPR は小さなデータセットから不確実性付きの予測を与える。ロボットはその不確実性を使って、次にどこでサンプリングするか、学習したダイナミクスモデルをどこまで信頼するか、まばらな測定をどのように補間して連続的な地図にするかを決める。

主な用途

  • 温度、塩分濃度、ガス濃度などの連続的な空間場の地図作成
  • モデルベース制御のための不確実性付きダイナミクスモデルの学習
  • コントローラのゲインやその他のパラメータのベイズ最適化
  • 不確実性の境界によって探索を制約内に保つ安全な学習
  • まばらな距離データからの地形モデリング

実際の使われ方

環境モニタリングのチームが、湖で水温を測定する自律水上艇を運用する。各測定には GPS 位置がタグ付けされて GP モデルに追加され、データが蓄積するにつれてカーネルのハイパーパラメータが定期的に当てはめ直される。事後平均が温度マップを与え、事後分散はどの領域がまだよくわかっていないかを示す。プランナーは残りのバッテリー予算の範囲内で、分散の高い場所、あるいは別の情報量の指標で選んだ場所に艇を向かわせる。データセットが大きくなると、チームは誘導点を用いたスパース GP に切り替え、各更新がオンラインの再計画に間に合う速さを保つようにする。

よくある誤解

  • GP の不確実性は常に信頼できる — その質はカーネルとそのハイパーパラメータ次第であり、長さスケールが誤っていると過信した分散や過度に慎重な分散になる
  • GPR はスケールしない — 厳密な推論はデータ点数の 3 乗の計算量だが、スパース近似や局所近似で大規模なデータセットを扱える
  • ノンパラメトリックとはパラメータがないことである — GP にもカーネルのハイパーパラメータはある。ノンパラメトリックとは、モデルの複雑さが事前に固定されるのではなくデータとともに増えることを意味する

知っておくべき人

  • 情報収集型経路計画と環境モニタリングに取り組む研究者
  • 学習されたダイナミクスモデルを構築するエンジニア
  • チューニングにベイズ最適化を使う制御エンジニア
  • 不確実性の推定を必要とする機械学習の実務者

関連技術

  • GPyTorch
  • GPflow
  • scikit-learn
  • スパース変分ガウス過程（Sparse Variational Gaussian Processes）
  • ベイズ最適化（Bayesian Optimization）

関連用語

  • Conformal Prediction
  • Robotic information gathering
  • Forward Dynamics Model
  • System Identification
  • Elevation Map

関連プロジェクト

  • LeRobot: HuggingFace ML library for real-world robotics in PyTorch
  • LingBot-Map: Streaming 3D reconstruction from one camera: pose and depth for every frame, live
  • Open3D: Modern library for 3D point cloud processing, mesh operations, and 3D machine learning
  • Cartographer: Google's real-time 2D and 3D SLAM system for multi-platform robotics
  • OpenVLA: 7B-parameter Vision-Language-Action model for robotic manipulation
  • OpenDroneMap: Open-source photogrammetry toolkit that turns drone images into maps and 3D models

動画

  • Gaussian Processes: Mutual Information
  • Machine Learning Lecture 26 "Gaussian Processes" -Cornell CS4780 SP17: Kilian Weinberger

ウィキペディア

  • クリギング

このウェブサイトにはJavaScriptが必要です。オープンソースロボティクスプロジェクトを閲覧するにはJavaScriptを有効にしてください。