Open Source Robotics

高品質なオープンソースロボティクスプロジェクト、ツール、ソフトウェアの厳選コレクション。

Robots That Ask For Help: Uncertainty Alignment for Large Language Model Planners

著者: Allen Z. Ren, Anushri Dixit, Alexandra Bodrova, Sumeet Singh, Stephen Tu, Noah Brown, Peng Xu, Leila Takayama, Fei Xia, Jake Varley, Zhenjia Xu, Dorsa Sadigh, Andy Zeng, Anirudha Majumdar · CoRL 2023

ライセンス

  • オープンアクセス
  • 論文: CC BY 4.0

以下の内容はすべて、論文のライセンス（CC BY 4.0）に従い論文全文に基づいています。図は著者のクレジットを付けて掲載しています。

要約

KnowNo は LLM による計画を多肢選択問題として扱い、コンフォーマル予測を適用する。これによりロボットは、ユーザが設定した成功水準のもとで、複数の選択肢が残ったときにだけ助けを求める。

重要な理由

ユーザは目標成功水準 1−ϵ を設定し、本手法は人間の助けが正確であると仮定したうえで、平均予測集合を小さく保ちながら、その水準でのタスク完了を高い確率で保証する。ファインチューニングなしで既製の LLM と使え、カバレッジの保証は LLM の確信度がよく較正されているかどうかにかかわらず成り立つ。

課題

LLM プランナは自信をもってハルシネーションを起こすことがあり、自然言語の指示はしばしば曖昧であるため、誤った計画に従うロボットは、例えば金属のボウルを電子レンジに入れるといった危険な行動をとりうる。従来の LLM プランナは明確化を一切求めないか、大規模なプロンプトに頼っており、助けを求めることで望ましい水準のタスク成功が得られることを保証する方法を提供するものはなかった。

提案手法

LLM はまず A–D とラベル付けした次のステップの候補を生成し、そこに選択肢「E) ここに挙げられていない選択肢」を追加する。続いて LLM は、次トークンの確率を通じて選択肢を多肢選択問題としてスコア付けする。400 個の i.i.d. シナリオで較正したコンフォーマル予測が確信度のしきい値を定め、それを上回る選択肢が予測集合となる。残った選択肢が 1 つならロボットはそれを実行し、そうでなければ人間に選んでもらう。系列レベルの較正により保証は多段階の計画に拡張され、さらなる拡張により許容できる選択肢が複数あるステップも扱える。

主な知見

  • 計画を多肢選択の Q&A として扱うと、生の系列確率の長さによるバイアスがなくなる。生の文スコアやパープレキシティで正規化した文スコアに対するコンフォーマル予測では、3 つのシミュレーションの曖昧さ設定すべてで予測集合が大きくなり、助けを求める回数も増えた。
  • 予測集合に複数の選択肢が含まれるときに必ずロボットが助けを求めるようにすると、コンフォーマル予測のカバレッジ保証はタスク完了の保証に変わる。
  • ステップごとの最低の確信度でスコア付けした系列全体で較正することで、テスト時に予測集合をステップごとに構築しつつ、計画全体に対する保証を保てる。
  • 保証は LLM の較正について何も仮定しない。選択肢 D と E に偏りを示した GPT-3.5 でも、KnowNo は人間の助けをより多く求めることで目標を達成した。
  • アンサンブルのベースラインは少ない助けで高い成功率に達しうるが、推論時間が 20× 必要であり、正しい選択肢に確率ゼロを割り当てることもある。

主な結果

  • シミュレーションとハードウェアの設定全体で、KnowNo はユーザが指定したタスク完了水準を満たしつつ、ベースラインと比べて人間の助けを 10–24% 減らした。
  • PyBullet でのシミュレーションによる卓上の再配置（ϵ = 0.15）：属性、数値、空間の曖昧さのいずれでも、KnowNo は目標成功率からのずれが最も小さく、ある成功水準では Simple Set より最大 24% 少ない助けで済んだ。
  • UR5 でのハードウェアによる多段階の仕分け（ϵ = 0.25、50 試行）：タスク成功率 0.74、集合サイズ 1.72、ステップ単位の助け 0.58、試行単位の助け 0.92。同じ計画成功率 0.76 の Simple Set では 0.72、2.04、0.72、1.00。No Help のタスク成功率は 0.38。
  • オフィスのキッチンでのハードウェアによるモバイルマニピュレーション（ϵ = 0.15）：計画成功率 0.87、タスク成功率 0.76、集合サイズ 2.22、助けを求める率 0.67。Simple Set は 0.75、2.38、0.81。No Help は計画成功率 0.62、タスク成功率 0.51。
  • すべての指示が曖昧な双腕の Kuka IIWA 7 構成（ϵ = 0.15）：計画成功率 84%、助けを求める率 92%。ハードウェアでは、ロボットは 10 試行中 9 回成功し、9 回助けを求めた。
  • UR5 のタスクで Simple Set を同じ ϵ = 0.25 に設定すると過度に保守的になり、ステップ単位で助けを求める率は 87% だった。

制限事項

  • 著者らによる：タスク完了の保証は、環境が LLM へのテキスト入力に完全に反映されており、LLM が提案する行動が成功裏に実行されることを仮定している。
  • 知覚と低レベル方策の不確かさは較正に含まれない。モバイルマニピュレータでは低レベル動作の成功率が約 86% であり、これが計画成功率とタスク成功率の差を生んだ。
  • 本手法には、テストのシナリオと同じ分布から抽出した i.i.d. シナリオのラベル付き較正セット（400 個を使用）が必要である。
  • 保証は人間が正確な助けを与えることを仮定しており、正しい選択肢が予測集合に含まれない場合、ロボットは失敗する。
  • GPT-3.5（text-davinci-003）は多肢選択で強い位置バイアスを示し、これが性能を下げ、必要な助けを増やした。

分野への影響

CoRL 2023 Best Student Paper Award を受賞。被引用数は 515（示された数値どおり）。公式のプロジェクトページから google-research リポジトリのコードにリンクされており、論文はプロジェクトのウェブサイト上のプロンプトを案内している。

概要

大規模言語モデル（LLM）は、段階的な計画から常識推論まで、ロボットにとって有用となりうる幅広い有望な能力を示すが、自信をもってハルシネーションを起こした予測をしがちである。本研究では、LLM ベースのプランナの不確かさを測定し整合させ、自分が知らないことを知り、必要なときに助けを求められるようにするフレームワーク KnowNo を提示する。KnowNo はコンフォーマル予測の理論に基づき、複雑な多段階の計画設定において人間の助けを最小限に抑えつつ、タスク完了に関する統計的保証を与える。さまざまな種類の曖昧さ（例えば空間的な不確かさから数値的な不確かさまで、人間の好みから Winograd スキーマまで）を含むタスクを対象に、シミュレーションと実機のさまざまな構成で行った実験により、KnowNo が形式的な保証を与えつつ、効率と自律性の向上において現代的なベースライン（アンサンブルや大規模なプロンプト調整を伴いうる）よりも良好であることが示された。KnowNo はモデルのファインチューニングなしに LLM でそのまま使うことができ、基盤モデルの能力の向上を補完し、それとともにスケールしうる、不確かさをモデル化するための有望で軽量なアプローチを示唆している。ウェブサイト：https://robot-help.github.io

リンク

  • arXiv 2307.01928: https://arxiv.org/abs/2307.01928
  • DOI 10.48550/arXiv.2307.01928: https://doi.org/10.48550/arXiv.2307.01928
  • PDF: https://arxiv.org/pdf/2307.01928v1
  • コード: https://github.com/google-research/google-research/tree/master/language_model_uncertainty
  • プロジェクトページ: https://robot-help.github.io/

このウェブサイトにはJavaScriptが必要です。オープンソースロボティクスプロジェクトを閲覧するにはJavaScriptを有効にしてください。