Safety Filter

• 類別: Control › Feedback control
• 標籤: safety, safe-control, optimization, learning-based-control, runtime-assurance

一個執行期的層，檢查來自標稱控制器、人或學習策略的每個指令，並以能可證明地讓系統維持在安全集合內、且最接近的指令取代它。

定義

安全濾波器（Safety filter）位於標稱控制器與致動器之間。標稱控制器可能是手動調校的控制律、規劃器、遠端操作員或學習而得的策略，它會提出一個指令 u_nom。濾波器檢查執行此指令能否讓系統維持在一組安全狀態之內；若不能，就以一個安全指令取代它，通常是最接近 u_nom 的那一個。若提出的指令本來就安全，則原封不動地通過。這種分工讓工程師可以在標稱控制器中針對效能設計，並在一個小巧、可分析的元件中確保安全。

常見的構造方式有幾種。控制屏障函數濾波器在每個控制步驟求解一個小型二次規劃：在確保屏障函數不會下降過快的線性約束與致動器限制下，最小化 ‖u − u_nom‖²。Hamilton-Jacobi 可達性濾波器以離線方式計算出能維持安全的狀態集合，並在狀態接近其邊界時切換到或混入一個安全控制器。預測式安全濾波器使用模型預測控制：檢查提出的指令之後能否接上一條在時域內安全的備援軌跡，若不能就加以修改。偏重學習的研究以 shield（防護罩）與安全層（safety layer）等名稱使用密切相關的概念。

安全濾波器的可靠程度，取決於它所仰賴的模型與狀態估測。模型誤差、延遲、致動器飽和與感知誤差都可能破壞其保證，因此強健的變體會依這些誤差的界限收緊約束，例如為了處理由學習式感知所產生的狀態估測。濾波器也可能造成不想要的行為，例如當標稱目標位於障礙物後方時，機器人會停在障礙物附近，因為濾波器只在局部作用、不會重新規劃。控制屏障函數條目描述的是憑證本身；安全濾波器則是在執行期利用這類憑證、可達集合或預測式檢查來修改指令的架構。

為何重要

學習而得的策略與人類操作員都不附帶安全保證，而要重新訓練它們在所有情況下都安全，很少切實可行。安全濾波器加上一個可驗證的層，不論標稱控制器做什麼，都能強制執行避免碰撞、關節極限或地理圍籬等限制，因此成為在實體機器人上部署以學習為基礎之控制的常見模式。

主要應用

• 在學習而得或遠端操作的控制器周圍實現碰撞避免
• 對機器手臂強制執行關節、速度與工作空間限制
• 無人機的地理圍籬與避障
• 在硬體上進行強化學習時的安全探索
• 共享自主，也就是對人類指令做最小幅度的修正

實際應用

一個團隊在有人員走動的實驗室裡，把強化學習策略部署到移動機器人上。他們以一個以 CBF 為基礎的安全濾波器包住策略：對每個鄰近的障礙物，屏障函數取距離減去一個裕度，並以控制頻率執行的二次規劃，找出最接近策略輸出、同時滿足所有屏障約束與機器人速度限制的速度指令。由於障礙物位置來自一個誤差界限已知的學習式偵測器，他們依此界限加大裕度。測試期間，他們記錄濾波器介入的頻率與幅度，藉此看出策略本身哪些地方還需要更多訓練。

常見誤解

• 安全濾波器能讓任何控制器變安全 — 其保證仰賴模型、狀態估測與致動器限制都正確；這些方面的誤差必須有界並納入考量
• 安全濾波器可以取代規劃 — 它只在局部修改指令，可能讓機器人卡住或陷入僵局；要抵達目標仍需要規劃器
• 安全濾波器與控制屏障函數意思相同 — CBF 只是一種憑證；濾波器也能以可達集合或預測式備援軌跡建構

誰需要了解

• 部署以學習為基礎之控制器的控制工程師
• 移動機器人與無人機的安全工程師
• 研究安全探索的強化學習研究人員
• 遠端操作與共享自主的開發者

相關技術

• 二次規劃（Quadratic Programming）
• OSQP
• Hamilton-Jacobi 可達性（Hamilton-Jacobi Reachability）
• 預測式安全濾波器（Predictive Safety Filter）
• 防護罩法（Shielding）

相關術語

• Control Barrier Function
• Hamilton-Jacobi-Bellman Equation (HJB)
• Model Predictive Control
• Region of attraction
• Obstacle Avoidance
• Reinforcement Learning

相關專案

• Drake: MIT robotics toolbox for model-based dynamics, optimization, and control system design
• GTSAM: Factor-graph optimization library powering many modern SLAM backends
• PyPose: PyTorch library for differentiable robotics with deep learning and Lie group optimization
• NeuPAN: Real-time end-to-end planner that maps raw lidar points directly to robot actions
• OpEn (Optimization Engine): Embedded nonconvex optimization solver in Rust for real-time MPC on robots
• ProxSuite: High-performance QP/LP solver for robotics control and optimization