Inferencia Variacional Gaussiana y sus aplicaciones

Abstract

La inferencia bayesiana proporciona un marco teórico sólido para el análisis de datos inciertos, pero su aplicación práctica se ve limitada por la dificultad de calcular distribuciones posteriores complejas. La inferencia variacional surge como una alternativa eficiente al reformular el problema de inferencia como uno de optimización. Este trabajo se centra en la Inferencia Variacional Gaussiana (IVG), una técnica que restringe la familia de distribuciones aproximantes a las gaussianas multivariadas, permitiendo simplificar el proceso de inferencia sin renunciar a una buena capacidad de aproximación. A lo largo del documento se analizan los fundamentos teóricos de IVG, sus propiedades computacionales y su implementación mediante técnicas modernas como el truco de reparametrización, el gradiente natural y el uso de optimizadores adaptativos. Además, se presentan ejemplos prácticos que ilustran la eficacia de IVG en diversos contextos de modelado probabilístico. El objetivo es ofrecer una visión clara y aplicada de una herramienta clave en la inferencia bayesiana aproximada.

Bayesian inference provides a solid theoretical framework for modeling uncertainty in data analysis. However, its practical application is often hindered by the intractability of compu- ting complex posterior distributions. Variational inference offers an efficient alternative by reformulating the inference task as an optimization problem. This work focuses on Gaussian Variational Inference (GVI), a method that restricts the approximating family to multivariate Gaussian distributions, simplifying the inference process while retaining good approximation capabilities. Throughout this document, we analyze the theoretical foundations of GVI, its computational properties, and its implementation using modern techniques such as the reparameterization trick, natural gradient, and adaptive optimizers. Practical examples are also provided to de- monstrate the effectiveness of GVI in various probabilistic modeling contexts. The aim is to present a clear and applied overview of a key tool in approximate Bayesian inference