Conformal Prediction

Também chamado: CP, conformal inference
Categoria: Learning & autonomy › Foundation models
Tags: uncertainty-quantification, statistics, calibration, safety, llm-planning

Um método estatístico que transforma os escores de qualquer modelo em conjuntos de predição que contêm a resposta verdadeira com uma probabilidade escolhida, calibrado em dados separados.

Definição

Predição conformal (conformal prediction) é uma forma de associar uma garantia estatística à saída de qualquer modelo preditivo. Em vez de retornar uma única resposta, o modelo retorna um conjunto de predição: todas as respostas candidatas que são plausíveis o suficiente. O conjunto é construído de modo que, em exemplos novos, contenha a resposta verdadeira com probabilidade de pelo menos 1 − ε, em que ε é uma taxa de erro escolhida pelo usuário, por exemplo 10 %. O framework foi desenvolvido por Vladimir Vovk, Alex Gammerman e Glenn Shafer e apresentado no livro deles Algorithmic Learning in a Random World.

A versão mais comum é a predição conformal dividida (split conformal prediction). Um modelo treinado é executado em um conjunto de calibração separado, com exemplos rotulados, e para cada um é calculado um escore de não conformidade, tipicamente um menos a confiança do modelo no rótulo correto. Toma-se um limiar em um quantil (1 − ε) levemente ajustado desses escores. No momento do teste, todo candidato cujo escore fica abaixo do limiar entra no conjunto de predição. A garantia vale qualquer que seja o modelo subjacente, e precisa de apenas uma suposição: que os exemplos de calibração e de teste sejam permutáveis (exchangeable), o que na prática significa que vêm da mesma distribuição.

A garantia é marginal: ela vale em média sobre os exemplos de teste, não separadamente para cada um. O tamanho do conjunto carrega o sinal útil. Quando o modelo está confiante, o conjunto é pequeno, muitas vezes uma única resposta; quando está inseguro, o conjunto cresce. Na robótica, isso tem sido usado para decidir quando um planejador construído sobre um grande modelo de linguagem deve agir sozinho e quando deve pedir ajuda a uma pessoa, e para construir regiões de incerteza calibradas em torno de trajetórias previstas de pessoas e veículos para um planejamento seguro.

Por que importa

Modelos aprendidos em robôs, de redes de percepção a planejadores baseados em modelos de linguagem, muitas vezes estão confiantes quando erram. A predição conformal oferece uma forma simples e agnóstica ao modelo de transformar seus escores em conjuntos com uma taxa de cobertura declarada, o que permite a um sistema decidir de forma fundamentada quando agir, quando desacelerar e quando pedir ajuda.

Principais aplicações

Decidir quando um planejador baseado em modelo de linguagem deve pedir esclarecimentos a uma pessoa
Conjuntos de incerteza calibrados para detecção e classificação de objetos
Regiões de predição em torno de trajetórias previstas de pedestres e veículos para planejamento seguro
Monitoramento em tempo de execução que sinaliza entradas sobre as quais um modelo aprendido está inseguro
Limites de incerteza em modelos de dinâmica aprendidos usados em controle

Na prática

Uma equipe que usa um modelo de linguagem para planejar tarefas domésticas primeiro coleta algumas centenas de cenários de exemplo com ações corretas conhecidas. Para cada cenário, o modelo de linguagem pontua uma lista curta de próximos passos candidatos, e a equipe registra o escore do passo correto. Eles escolhem uma cobertura-alvo, calculam o limiar a partir desses escores de calibração e o fixam. No robô, cada nova instrução produz um conjunto de ações candidatas acima do limiar. Se resta apenas uma, o robô a executa; se restam várias, por exemplo duas tigelas que correspondem a "coloque a tigela no micro-ondas", o robô pergunta ao usuário qual delas é a pretendida. A equipe refaz a calibração sempre que a distribuição de cenários muda, já que a garantia só vale para dados como os do conjunto de calibração.

Equívocos comuns

A predição conformal garante cobertura para cada entrada individual — a garantia padrão é marginal, valendo em média sobre a distribuição de teste, e não condicionalmente para cada caso
Ela funciona em quaisquer condições — ela supõe que os dados de calibração e de teste sejam permutáveis; sob mudança de distribuição, a garantia de cobertura deixa de valer sem ajustes
A predição conformal torna o modelo subjacente mais preciso — ela calibra os conjuntos de saída; um modelo ruim ainda produz conjuntos grandes e pouco informativos
Um conjunto de predição com várias respostas significa que o método falhou — o tamanho do conjunto é o sinal de incerteza, e é ele que diz ao sistema para pedir ajuda ou agir com cautela

Quem deve saber

Pesquisadores de aprendizado robótico que implantam modelos aprendidos em hardware
Engenheiros que constroem planejadores baseados em modelos de linguagem e de visão-linguagem
Engenheiros de segurança que precisam de incerteza quantificada da percepção
Engenheiros de planejamento de veículos autônomos e robôs móveis

Tecnologias relacionadas

Predição conformal dividida (Split Conformal Prediction)
Quantificação de incerteza (Uncertainty Quantification)
Calibração de modelos (Model Calibration)
Deep Ensembles
Redes neurais bayesianas (Bayesian Neural Networks)

Termos relacionados

Projetos relacionados

AprilTag: The standard visual fiducial marker system for robot localization and pose estimation
image_pipeline: The standard ROS camera stack: calibration, rectification, stereo and depth
NASA Ogma: NASA runtime monitor generator for safe robotics and flight systems

Vídeos

Emmanuel Candès - A Taste of Conformal Prediction: Institut des Hautes Etudes Scientifiques (IHES)
Rina Foygel Barber: An introduction to conformal prediction and distribution-free inference: Centre International de Rencontres Mathématiques