Conformal Prediction

• 又稱: CP, conformal inference
• 類別: Learning & autonomy › Foundation models
• 標籤: uncertainty-quantification, statistics, calibration, safety, llm-planning

一種統計方法，以保留資料進行校正，把任何模型的分數轉換成以選定機率包含真實答案的預測集合。

定義

共形預測（Conformal prediction）是一種為任何預測模型的輸出附加統計保證的方法。模型不再回傳單一答案，而是回傳一個預測集合：其中包含每一個夠可信的候選答案。這個集合的建構方式，保證它在新樣本上至少以 1 − ε 的機率包含真實答案，其中 ε 是使用者選定的錯誤率，例如 10%。這個框架由 Vladimir Vovk、Alex Gammerman 與 Glenn Shafer 發展，並在他們的著作 Algorithmic Learning in a Random World 中加以闡述。

最常見的版本是分割共形預測（split conformal prediction）。在一個保留下來、由已標註樣本組成的校正集上執行訓練好的模型，並為每個樣本計算不一致性分數，通常是 1 減去模型對正確標籤的信心值。在這些分數經過些微調整的 (1 − ε) 分位數處取門檻。測試時，分數低於門檻的每個候選答案都會放入預測集合。不論底層模型為何，這個保證都成立，而且只需要一個假設：校正樣本與測試樣本是可交換的，實務上代表它們來自同一個分布。

這個保證是邊際的：它在測試樣本上平均成立，而不是對每個樣本個別成立。集合的大小承載了有用的訊號。模型有把握時，集合很小，常常只有一個答案；模型不確定時，集合就會變大。在機器人領域，這已被用來決定以大型語言模型為基礎的規劃器何時該自行行動、何時該向人求助，也被用來為人與車輛的預測軌跡建立經過校正的不確定性區域，以便安全規劃。

為何重要

機器人中學習所得的模型，從感知網路到語言模型規劃器，常在出錯時仍然信心滿滿。共形預測提供一種簡單、與模型無關的方式，把它們的分數轉成具有明確涵蓋率的集合，讓系統能有原則地決定何時行動、何時放慢，以及何時求助。

主要應用

• 決定語言模型規劃器何時該向人請求澄清
• 用於物體偵測與分類、經過校正的不確定性集合
• 為安全規劃，圍繞行人與車輛的預測軌跡建立預測區域
• 標示出學習模型沒有把握之輸入的執行期監控
• 控制中所用學習動力學模型的不確定性界限

實際應用

一個使用語言模型規劃家事任務的團隊，先蒐集幾百個已知正確動作的範例情境。對每個情境，語言模型為一份簡短的候選下一步清單評分，團隊記錄正確步驟的分數。他們選定一個目標涵蓋率，從這些校正分數計算出門檻，並把它固定下來。在機器人上，每個新指令都會產生一組高於門檻的候選動作。如果只剩一個，機器人就執行它；如果剩下好幾個，例如有兩個碗都符合「put the bowl in the microwave」（把碗放進微波爐），機器人就會詢問使用者指的是哪一個。每當情境分布改變，團隊就會重新執行校正，因為這個保證只對與校正集相似的資料成立。

常見誤解

• 共形預測對每個單獨的輸入都保證涵蓋 — 標準的保證是邊際的，在測試分布上平均成立，而不是對每個情況條件成立
• 它在任何條件下都有效 — 它假設校正資料與測試資料是可交換的；在分布偏移下，若不加以調整，涵蓋保證就不再成立
• 共形預測能讓底層模型更準確 — 它校正的是輸出集合；差的模型仍會產生又大又沒有資訊量的集合
• 含有多個答案的預測集合代表方法失敗了 — 集合大小正是不確定性訊號，它告訴系統要求助或謹慎行事

誰需要了解

• 在硬體上部署學習模型的機器人學習研究人員
• 建立語言模型與視覺語言規劃器的工程師
• 需要從感知取得量化不確定性的安全工程師
• 自駕車與移動機器人規劃工程師

相關技術

• 分割共形預測（Split Conformal Prediction）
• 不確定性量化（Uncertainty Quantification）
• 模型校正（Model Calibration）
• 深度集成（Deep Ensembles）
• 貝氏神經網路（Bayesian Neural Networks）

相關術語

• Foundation Model
• Task Planning
• VLM
• Embodied AI
• VLA

相關專案

• AprilTag: The standard visual fiducial marker system for robot localization and pose estimation
• image_pipeline: The standard ROS camera stack: calibration, rectification, stereo and depth
• NASA Ogma: NASA runtime monitor generator for safe robotics and flight systems

影片

• Emmanuel Candès - A Taste of Conformal Prediction: Institut des Hautes Etudes Scientifiques (IHES)
• Rina Foygel Barber: An introduction to conformal prediction and distribution-free inference: Centre International de Rencontres Mathématiques