Rendimiento, eficiencia y consumo energético de frameworks de entrenamiento para Deep Learning

Abstract

El entrenamiento de modelos de Deep Learning es una tarea computacionalmente exigente, con costes significativos en términos de tiempo, recursos y consumo energético. A medida que estos modelos crecen en complejidad y tamaño, la elección del framework adecuado se vuelve un factor clave para optimizar su eficiencia. Existen múltiples frameworks, como TensorFlow, PyTorch y JAX, además de librerías como Keras, ampliamente utilizadas en la comunidad de Deep Learning. En este análisis comparamos su rendimiento y eficiencia en tres tipos de redes: perceptrones multicapa, convolucionales y de memoria a corto y largo plazo (LSTM). Se evalúan métricas como el tiempo de entrenamiento y prueba, el uso de memoria en GPU y el consumo energético total y por hora. Los resultados muestran que PyTorch sin Keras logra los tiempos de entrenamiento más bajos, especialmente en la red LSTM. JAX mantiene un equilibrio entre rendimiento y consumo energético, destacando con Keras. En general, el uso de Keras tiende a disminuir el consumo por hora, pero aumenta el tiempo de entrenamiento, especialmente en PyTorch. TensorFlow, en general, presenta los tiempos más altos, aunque con un consumo energético por hora menor en MLP y CNN. Estos hallazgos destacan la influencia del framework en la eficiencia del entrenamiento, evidenciando la necesidad de elegir el más adecuado según el tipo de red y los recursos disponibles.