AK: Attentive Kernel for Information Gathering

Autores: Weizhe Chen, Roni Khardon, Lantao Liu · RSS 2022

Licencias

• Acceso abierto
• Artículo: CC BY 4.0

Todo lo que sigue se basa en el artículo completo bajo su licencia CC BY 4.0; su figura se muestra con crédito a los autores.

En resumen

Un kernel de GP no estacionario que combina escalas de longitud fijas y enmascara las correlaciones a través de cambios bruscos, de modo que la incertidumbre del mapa sigue al error real y el robot muestrea donde importa.

Por qué importa

Cuando el modelo de un robot de muestreo da una incertidumbre alta donde su error es alto, el planificador gasta el presupuesto de muestreo en las regiones complejas en lugar de cubrir el espacio de manera uniforme. Como el kernel envuelve cualquier kernel base existente, puede incorporarse a los flujos existentes de cartografía basada en GP y de planificación informativa, y la prueba de campo lo muestra funcionando en un vehículo de superficie que hace cartografía batimétrica.

Problema

La recopilación robótica de información elige dónde muestrea el robot a continuación a partir de la incertidumbre de un modelo probabilístico, normalmente un proceso gaussiano con un kernel estacionario como RBF. El terreno real no es estacionario: algunas zonas varían mucho más que otras, por lo que un modelo estacionario suaviza en exceso y asigna una incertidumbre alta simplemente a las zonas no visitadas, con independencia del error. Los kernels no estacionarios existentes suelen ser demasiado flexibles para entrenarse de forma fiable.

Solución propuesta

El Attentive Kernel combina dos selecciones aprendidas que dependen de la entrada. La selección de la escala de longitud mezcla un conjunto fijo de kernels base con escalas de longitud preestablecidas usando pesos softmax de una pequeña red neuronal, en lugar de aprender una función de escala de longitud. La selección de instancias da a cada entrada un vector de pertenencia suave cuyo producto escalar enmascara las correlaciones entre puntos situados a lados opuestos de transiciones bruscas; todos los parámetros se ajustan maximizando la verosimilitud marginal del GP, y la incertidumbre resultante guía un planificador de puntos de paso basado en entropía menos distancia.

Ideas clave

• Elegir entre escalas de longitud preestablecidas, en lugar de aprender una función libre de escala de longitud, hace que un kernel no estacionario sea más fácil de entrenar y compatible con cualquier kernel base.
• Enmascarar las correlaciones con vectores de pertenencia suaves maneja cambios abruptos que una escala de longitud pequeña por sí sola no puede modelar bien.
• Una incertidumbre mejor calibrada, y no un planificador mejor, bastó para mejorar la planificación informativa: con el mismo planificador sencillo, AK concentró las muestras en las regiones de error alto mientras que RBF cubrió el espacio de manera uniforme.
• La ablación mostró que la selección de la escala de longitud es necesaria; la selección de instancias no dio una ganancia significativa en las métricas agregadas con el esquema de entrenamiento actual, aunque los autores esperan que ayude en las transiciones bruscas.
• El rendimiento cambió poco con el número de kernels base (se recomiendan de 5 a 10), las unidades ocultas y los límites de la escala de longitud tras normalizar la entrada.

Resultados principales

• En cuatro entornos de mapas de elevación y 10 semillas aleatorias, AK tuvo los valores más bajos de SMSE y MSLL en los experimentos de planificación informativa frente a RBF, Gibbs y Deep Kernel Learning (métricas promediadas a lo largo de la curva de muestreo).
• Planificación informativa en N17E073: SMSE de 0,114 para AK frente a 0,145 de RBF, 0,143 de Gibbs y 0,138 de DKL; MSLL de −1,27 frente a −0,97, −1,16 y −1,01.
• Muestreo activo en N43W080: SMSE de 0,051 para AK frente a 0,078 para RBF; MSLL de −1,72 frente a −1,41.
• Muestreo aleatorio en N17E073: SMSE de 0,111 para AK frente a 0,133 para RBF; MSLL de −1,24 frente a −0,99.
• En la prueba de campo, un vehículo autónomo de superficie con un sonar monohaz orientado hacia abajo recogió la mayoría de las muestras en regiones con cambios drásticos de elevación y redujo la incertidumbre de la predicción en todo el espacio de trabajo (resultado cualitativo).

Limitaciones

• Los autores señalan que el efecto de navaja de Occam de la verosimilitud marginal no evita el sobreajuste cuando los kernels no estacionarios se entrenan durante muchas iteraciones; usan un esquema empírico de parada temprana y consideran un problema abierto un entrenamiento con fundamento teórico.
• No se tratan los valores atípicos ni el ruido heterocedástico, que se mencionan como trabajo futuro.
• La selección de instancias no dio una mejora medible en las métricas agregadas con el esquema de entrenamiento actual, y una variante con dos redes empeoró la incertidumbre en un entorno.
• Los bancos de pruebas usan solo mapas de elevación 2D, y el experimento de campo es una única ejecución cualitativa sin error numérico informado.
• El coste del kernel crece con el número de kernels base (O(N²M) para las matrices de kernel), además del escalado estándar de los GP.

Impacto en el campo

El artículo ganó el premio al mejor artículo de estudiante de RSS 2022 (Best Student Paper Award) y tiene 22 citas. Publica el código para la reproducibilidad y PyPolo, una biblioteca de software para la investigación en recopilación robótica de información.

Resumen

La recopilación robótica de información (Robotic Information Gathering, RIG) se basa en la incertidumbre de un modelo probabilístico para identificar áreas críticas para una recogida de datos eficiente. Los procesos gaussianos (GPs) con kernels estacionarios se han adoptado ampliamente para el modelado espacial. Sin embargo, los datos espaciales del mundo real no suelen cumplir el supuesto de estacionariedad, según el cual se asume que distintas ubicaciones tienen el mismo grado de variabilidad. Como consecuencia, la incertidumbre de la predicción no refleja con precisión el error de predicción, lo que limita el éxito de los algoritmos de RIG. Proponemos una nueva familia de kernels no estacionarios, denominada Attentive Kernel (AK), que es sencilla, robusta y puede extender cualquier kernel existente a uno no estacionario. Evaluamos el nuevo kernel en tareas de cartografía de elevación, donde AK ofrece mejor precisión y cuantificación de la incertidumbre que el kernel RBF de uso común y otros kernels no estacionarios populares. La mejor cuantificación de la incertidumbre guía al planificador de RIG posterior para recoger datos más valiosos en torno al área de error alto, lo que aumenta aún más la precisión de la predicción. Un experimento de campo demuestra que el método propuesto puede guiar a un vehículo autónomo de superficie (Autonomous Surface Vehicle, ASV) para priorizar la recogida de datos en ubicaciones con altas variaciones espaciales, lo que permite al modelo caracterizar los rasgos ambientales destacados.

Enlaces

• arXiv 2205.06426: https://arxiv.org/abs/2205.06426
• DOI 10.48550/arXiv.2205.06426: https://doi.org/10.48550/arXiv.2205.06426
• PDF: https://arxiv.org/pdf/2205.06426v1
• Código: https://github.com/weizhe-chen/attentive_kernels
• Página del proyecto: https://weizhe-chen.github.io/attentive_kernels/