Reducción de dimensionalidad y teorema de Johnson-Lindenstrauss

Abstract

En Análisis de Datos y Aprendizaje Automático, donde el manejo de datos de alta dimensión es cada vez más común, la reducción de dimensionalidad es una técnica clave para mejorar la eficiencia computacional y reducir los dañinos efectos de la conocida “maldición de la dimensionalidad”. El teorema de Johnson-Lindenstrauss es un resultado fundamental, que establece que un conjunto de datos en un espacio de alta dimensión puede ser proyectado en un espacio de menor dimensión con una distorsión mínima de las distancias euclídeas. Estas proyecciones permiten preservar relaciones geométricas esenciales, justificando el uso de técnicas de Análisis de Datos en un espacio de dimensión significativamente menor. Este Trabajo Fin de Grado explora las peculiaridades que el tratamiento de datos de alta dimensión introduce, junto con desigualdades de concentración útiles para conseguir probar el Teorema de Johnson-Lindenstrauss. También se analizarán, mediante simulaciones, estas peculiaridades y las implicaciones prácticas de este resultado.

In the fields of Data Analysis and Machine Learning, where handling high-dimensional data has become increasingly common, dimensionality reduction emerges as a key technique for enhancing computational efficiency and mitigating the detrimental effects of the well-known “curse of dimensionality.” The Johnson–Lindenstrauss theorem is a foundational result which asserts that a dataset in a high-dimensional space can be projected into a lower-dimensional space with only minimal distortion of Euclidean distances. Such projections preserve essential geometric relationships, thereby justifying the application of data analysis techniques in significantly reduced-dimensional settings. This undergraduate thesis undertakes a theoretical exploration of the challenges posed by high-dimensional data, along with the concentration inequalities that play a crucial role in proving the Johnson–Lindenstrauss theorem. In addition, these phenomena and the practical implications of the theorem will be examined through simulation-based analysis.