AK: Attentive Kernel for Information Gathering
Autores: Weizhe Chen, Roni Khardon, Lantao Liu · RSS 2022
Licenças
- Acesso aberto
- Artigo: CC BY 4.0
Tudo o que segue se baseia no artigo completo sob a licença CC BY 4.0; sua figura é mostrada com crédito aos autores.
Em resumo
Um kernel de GP não estacionário que combina escalas de comprimento fixas e mascara correlações através de mudanças bruscas, de modo que a incerteza do mapa acompanha o erro real e o robô amostra onde importa.
Por que importa
Quando o modelo de um robô de amostragem dá incerteza alta onde o erro é alto, o planejador gasta o orçamento de amostragem nas regiões complexas em vez de cobrir o espaço de maneira uniforme. Como o kernel envolve qualquer kernel base existente, ele pode ser inserido em pipelines existentes de mapeamento baseado em GP e de planejamento informativo, e o teste de campo o mostra rodando em um veículo de superfície fazendo mapeamento batimétrico.
Problema
A coleta robótica de informação escolhe onde o robô amostra em seguida a partir da incerteza de um modelo probabilístico, geralmente um processo gaussiano com um kernel estacionário como o RBF. O terreno real não é estacionário: algumas áreas variam muito mais do que outras, então um modelo estacionário suaviza demais e atribui incerteza alta simplesmente às áreas não visitadas, independentemente do erro. Os kernels não estacionários existentes costumam ser flexíveis demais para serem treinados de forma confiável.
Solução proposta
O Attentive Kernel combina duas seleções aprendidas e dependentes da entrada. A seleção de escala de comprimento mistura um conjunto fixo de kernels base com escalas de comprimento predefinidas usando pesos softmax de uma pequena rede neural, em vez de aprender uma função de escala de comprimento. A seleção de instâncias dá a cada entrada um vetor de pertinência suave cujo produto escalar mascara as correlações entre pontos em lados opostos de transições bruscas; todos os parâmetros são ajustados maximizando a verossimilhança marginal do GP, e a incerteza resultante orienta um planejador de waypoints baseado em entropia menos distância.
Principais ideias
- Escolher entre escalas de comprimento predefinidas, em vez de aprender uma função livre de escala de comprimento, torna um kernel não estacionário mais fácil de treinar e compatível com qualquer kernel base.
- Mascarar correlações com vetores de pertinência suaves lida com mudanças abruptas que uma escala de comprimento pequena sozinha não consegue modelar bem.
- Uma incerteza mais bem calibrada, e não um planejador melhor, bastou para melhorar o planejamento informativo: com o mesmo planejador simples, o AK concentrou as amostras nas regiões de erro alto, enquanto o RBF cobriu o espaço uniformemente.
- A ablação mostrou que a seleção de escala de comprimento é necessária; a seleção de instâncias não trouxe ganho significativo nas métricas agregadas com o esquema de treinamento atual, embora os autores esperem que ajude em transições bruscas.
- O desempenho mudou pouco com o número de kernels base (de 5 a 10 recomendados), as unidades ocultas e os limites da escala de comprimento após a normalização da entrada.
Principais resultados
- Em quatro ambientes de mapas de elevação e 10 sementes aleatórias, o AK teve os menores SMSE e MSLL nos experimentos de planejamento informativo contra RBF, Gibbs e Deep Kernel Learning (métricas médias ao longo da curva de amostragem).
- Planejamento informativo em N17E073: SMSE de 0,114 para o AK contra 0,145 do RBF, 0,143 do Gibbs e 0,138 do DKL; MSLL de −1,27 contra −0,97, −1,16 e −1,01.
- Amostragem ativa em N43W080: SMSE de 0,051 para o AK contra 0,078 para o RBF; MSLL de −1,72 contra −1,41.
- Amostragem aleatória em N17E073: SMSE de 0,111 para o AK contra 0,133 para o RBF; MSLL de −1,24 contra −0,99.
- No teste de campo, um veículo autônomo de superfície com um sonar de feixe único voltado para baixo coletou a maioria das amostras em regiões com mudanças drásticas de elevação e reduziu a incerteza da previsão em todo o espaço de trabalho (resultado qualitativo).
Limitações
- Os autores observam que o efeito navalha de Occam da verossimilhança marginal não impede o sobreajuste quando kernels não estacionários são treinados por muitas iterações; eles usam um esquema empírico de parada antecipada e consideram um treinamento com fundamentação teórica um problema em aberto.
- Outliers e ruído heterocedástico não são tratados e são citados como trabalho futuro.
- A seleção de instâncias não trouxe melhora mensurável nas métricas agregadas com o esquema de treinamento atual, e uma variante com duas redes piorou a incerteza em um ambiente.
- Os benchmarks usam apenas mapas de elevação 2D, e o experimento de campo é uma única execução qualitativa sem erro numérico relatado.
- O custo do kernel cresce com o número de kernels base (O(N²M) para as matrizes de kernel), além da escala padrão dos GP.
Impacto na área
O artigo ganhou o prêmio de melhor artigo de estudante do RSS 2022 (Best Student Paper Award) e tem 22 citações. Ele libera o código para reprodutibilidade e o PyPolo, uma biblioteca de software para pesquisa em coleta robótica de informação.
Resumo
A coleta robótica de informação (Robotic Information Gathering, RIG) se baseia na incerteza de um modelo probabilístico para identificar áreas críticas para uma coleta de dados eficiente. Processos gaussianos (GPs) com kernels estacionários têm sido amplamente adotados para modelagem espacial. No entanto, dados espaciais do mundo real normalmente não satisfazem a hipótese de estacionariedade, em que se supõe que diferentes locais têm o mesmo grau de variabilidade. Como resultado, a incerteza da previsão não captura com precisão o erro de previsão, limitando o sucesso dos algoritmos de RIG. Propomos uma nova família de kernels não estacionários, chamada Attentive Kernel (AK), que é simples, robusta e pode estender qualquer kernel existente para um não estacionário. Avaliamos o novo kernel em tarefas de mapeamento de elevação, nas quais o AK oferece melhor precisão e quantificação de incerteza do que o kernel RBF comumente usado e outros kernels não estacionários populares. A quantificação de incerteza aprimorada orienta o planejador de RIG subsequente a coletar dados mais valiosos em torno da área de erro alto, aumentando ainda mais a precisão da previsão. Um experimento de campo demonstra que o método proposto pode guiar um veículo autônomo de superfície (Autonomous Surface Vehicle, ASV) a priorizar a coleta de dados em locais com grandes variações espaciais, permitindo que o modelo caracterize as feições ambientais salientes.
Links
- arXiv 2205.06426: https://arxiv.org/abs/2205.06426
- DOI 10.48550/arXiv.2205.06426: https://doi.org/10.48550/arXiv.2205.06426
- PDF: https://arxiv.org/pdf/2205.06426v1
- Código: https://github.com/weizhe-chen/attentive_kernels
- Página do projeto: https://weizhe-chen.github.io/attentive_kernels/