Saltar al contenido
Volver a los resultados

Descenso de Gradiente Estocástico (SGD)

Propuesto por
Robbins, H. & Monro, S.
Año
1951
Tipo
First-order iterative optimization algorithm

Este texto es una traducción automática y aún no se ha revisado. Leer el original en inglés

Tamaño de letra

¿Qué hace?

El Descenso de Gradiente Estocástico (SGD) es un algoritmo de optimización iterativo de primer orden, arraigado en el marco de aproximación estocástica introducido por Robbins y Monro en 1951, que minimiza una función objetivo actualizando los parámetros del modelo utilizando el gradiente calculado sobre un único ejemplo de entrenamiento seleccionado aleatoriamente (o un pequeño mini-lote) en cada paso.

Es el motor de optimización central detrás del aprendizaje automático moderno y el aprendizaje profundo, permitiendo el entrenamiento de modelos en conjuntos de datos demasiado grandes para caber en la memoria.

La intuición detrás del método

El descenso de gradiente ordinario calcula el gradiente exacto de la pérdida sobre todos los ejemplos de entrenamiento antes de realizar una única actualización de parámetros — correcto pero prohibitivamente lento en conjuntos de datos grandes. SGD intercambia exactitud por velocidad: elige un ejemplo (o un pequeño lote) al azar, calcula una estimación ruidosa del gradiente y actualiza inmediatamente los parámetros. El ruido no es meramente una molestia; actúa como regularización implícita, ayudando al optimizador a escapar de mínimos locales poco profundos y puntos de silla. A lo largo de muchas iteraciones, los pasos ruidosos se promedian y los parámetros convergen hacia un mínimo de la pérdida, muy parecido a un paseo de borracho que aún llega al destino.

Historia

La base teórica para SGD fue sentada por Herbert Robbins y Sutton Monro en su artículo de 1951 'A Stochastic Approximation Method', que demostró que las actualizaciones iterativas ruidosas con un tamaño de paso decreciente convergen a la raíz de una función de regresión. La conexión con la optimización basada en gradientes fue hecha explícita por Kiefer y Wolfowitz (1952) y más tarde por la regla LMS de Widrow y Hoff (1960) para el filtrado adaptativo. SGD ganó prominencia en el aprendizaje automático a través del trabajo de LeCun y colaboradores a finales de los 80 y 90 para entrenar redes neuronales mediante retropropagación. La publicación de experimentos a gran escala por Bottou y colaboradores en los 2000 demostró la superioridad de SGD sobre los métodos por lotes en conjuntos de datos industriales. La formulación moderna de SGD con mini-lotes se volvió universal con el renacimiento del aprendizaje profundo alrededor de 2012 (AlexNet), y el algoritmo sigue siendo el optimizador dominante en el campo, con variantes como Adam (Kingma & Ba, 2014) construidas directamente sobre su regla de actualización.

Cuándo usarlo

SGD es el método de elección siempre que el conjunto de entrenamiento sea lo suficientemente grande como para que el cálculo del gradiente completo por actualización sea demasiado costoso, lo que abarca prácticamente todo el entrenamiento moderno de redes neuronales y el ajuste de modelos lineales a gran escala. Se aplica a cualquier función de pérdida diferenciable. Supuestos clave: la pérdida es diferenciable (o sub-diferenciable) con respecto a los parámetros, los puntos de datos se muestrean de forma independiente y el estimador del gradiente es insesgado. Para objetivos fuertemente convexos, SGD logra una convergencia de O(1/T); para objetivos no convexos generales (por ejemplo, redes profundas), encuentra puntos estacionarios en la práctica, aunque no existe garantía de optimalidad global. El SGD con mini-lotes (tamaños de lote de 32 a 512) se prefiere típicamente sobre el SGD de ejemplo único puro porque proporciona estimaciones de gradiente de menor varianza y explota el paralelismo en el hardware moderno. Cuando el conjunto de datos es lo suficientemente pequeño para el descenso de gradiente por lotes completos y el objetivo está bien condicionado, los métodos de segundo orden como L-BFGS pueden converger más rápido.

Limitaciones y consideraciones

  • Las estimaciones del gradiente son ruidosas, lo que hace que la pérdida fluctúe en lugar de disminuir monótonamente, lo que dificulta el diagnóstico de la convergencia.
  • Altamente sensible a la tasa de aprendizaje: demasiado grande causa divergencia; demasiado pequeña hace que el entrenamiento sea prohibitivamente lento.
  • La convergencia a un mínimo global no está garantizada para objetivos no convexos como las redes neuronales profundas.
  • Las actualizaciones isotrópicas tratan todas las dimensiones de los parámetros por igual, lo que lo hace poco adecuado para superficies de pérdida con curvaturas muy diferentes a lo largo de diferentes ejes, lo que motiva variantes de tasa adaptativa.
  • Requiere una cuidadosa sintonización del esquema de la tasa de aprendizaje; esquemas deficientes degradan sustancialmente el rendimiento final.

Las condiciones de la fuente no sustituyen una revisión científica independiente ni la validación por un motor de análisis.

Fortalezas

  • Escala a conjuntos de datos arbitrariamente grandes porque cada actualización requiere solo un ejemplo o un mini-lote, manteniendo la memoria y el cómputo por paso constantes.
  • El ruido incorporado proporciona regularización implícita y ayuda a escapar de mínimos locales poco profundos y puntos de silla en paisajes no convexos.
  • Extremadamente general: aplicable a cualquier pérdida diferenciable, incluyendo entropía cruzada, error cuadrático medio, pérdida bisagra y objetivos personalizados.
  • Forma la base de casi todos los optimizadores modernos (Adam, RMSProp, AdaGrad, momento de Nesterov) — comprender SGD es un requisito previo para comprenderlos.
  • Sencillo de implementar y paralelizar en GPUs utilizando mini-lotes.

Aplicaciones

  • Entrenamiento de redes neuronales profundas para clasificación de imágenes, reconocimiento de voz y procesamiento de lenguaje natural.
  • Ajuste de modelos de regresión logística y SVM lineales a gran escala en clasificación de texto y sistemas de recomendación.
  • Entornos de aprendizaje en línea donde los ejemplos llegan secuencialmente y el modelo debe actualizarse en tiempo real.
  • Métodos de gradiente de política en aprendizaje por refuerzo, donde el retorno esperado se optimiza utilizando trayectorias muestreadas.
  • Factorización de matrices para filtrado colaborativo en sistemas de recomendación.

Cómo funciona

Cómo funciona

1

El objetivo de entrenamiento es la pérdida promedio sobre los n ejemplos. Para tareas como la clasificación con entropía cruzada o la regresión con error cuadrático, esta suma puede tener miles de millones de términos, lo que hace que la evaluación completa en cada iteración sea impracticable.

Fórmula
L(\theta) = \frac{1}{n} \sum_{i=1}^{n} \ell(f(x_i; \theta),\, y_i)
2

En el paso t, se muestrea un único ejemplo de entrenamiento (o mini-lote) uniformemente al azar. El gradiente de la pérdida en esa muestra es un estimador insesgado del gradiente verdadero, por lo que en promedio la actualización apunta en la dirección correcta aunque sea ruidosa para cualquier paso individual.

Fórmula
\hat{g}_t = \nabla_\theta \ell(f(x_{i_t}; \theta_t),\, y_{i_t})
3

El vector de parámetros se mueve en la dirección opuesta a la estimación del gradiente, escalado por la tasa de aprendizaje eta_t. Una tasa de aprendizaje menor hace que las actualizaciones sean cautelosas pero lentas; una tasa mayor acelera la convergencia pero corre el riesgo de sobrepasarse. Esta única línea — la actualización de Robbins–Monro — es el corazón de casi todos los optimizadores modernos.

Fórmula
\theta_{t+1} = \theta_t - \eta_t \, \hat{g}_t
4

Las condiciones de Robbins–Monro (la suma de las tasas diverge, la suma de las tasas al cuadrado converge) garantizan la convergencia para objetivos convexos. En la práctica, los esquemas comunes incluyen la decaída escalonada, el enfriamiento cosenoidal y los reinicios cálidos; las condiciones proporcionan la base teórica de por qué es necesario un esquema de decaída.

Fórmula
\sum_{t=1}^{\infty} \eta_t = \infty, \quad \sum_{t=1}^{\infty} \eta_t^2 < \infty

Errores comunes

  • Usar una tasa de aprendizaje constante durante todo el entrenamiento sin ningún esquema de decaimiento, lo que hace que el optimizador oscile alrededor del mínimo en lugar de asentarse en él.
  • Elegir el tamaño del lote sin considerar el efecto de regularización implícita: lotes muy grandes reducen el ruido y pueden perjudicar la generalización en comparación con lotes más pequeños con el mismo número de épocas.
  • Olvidar barajar los datos de entrenamiento antes de cada época, lo que puede introducir un sesgo sistemático cuando los datos están ordenados por clase o tiempo.
  • Ajustar la tasa de aprendizaje solo una vez en la pérdida de validación en lugar de monitorear las curvas de entrenamiento, perdiendo señales de divergencia o mesetas prematuras.
  • Tratar SGD como un optimizador de caja negra sin comprender sus propiedades de convergencia, y luego cambiar ciegamente a Adam cuando la convergencia parece lenta sin diagnosticar la causa raíz.

Preguntas frecuentes

¿Cuál es la diferencia entre SGD, SGD con mini-lotes y descenso de gradiente por lotes completos?

El descenso de gradiente por lotes completos calcula el gradiente exacto sobre todos los n ejemplos de entrenamiento por actualización — costo preciso pero O(n) por paso. El SGD puro utiliza exactamente un ejemplo elegido aleatoriamente por actualización — costo O(1) pero muy ruidoso. El SGD con mini-lotes utiliza un pequeño subconjunto aleatorio (típicamente 32-512 ejemplos) — un compromiso práctico que reduce el ruido mientras mantiene el costo manejable y explota el paralelismo de la GPU. En el uso moderno, 'SGD' casi siempre significa SGD con mini-lotes.

¿Cómo debo establecer la tasa de aprendizaje?

No hay una respuesta universal, pero una práctica común es comenzar con un valor moderado (por ejemplo, 0.01 o 0.1), monitorear la curva de pérdida de entrenamiento y aplicar un esquema de decaimiento como decaimiento escalonado, enfriamiento cosenoidal o reinicios cálidos. Los localizadores de tasa de aprendizaje (barriendo tasas sobre algunos lotes y observando la pérdida) pueden identificar un buen valor inicial. La teoría de Robbins–Monro requiere que la tasa decaiga a cero, pero en la práctica el decaimiento a menudo se aplica suavemente para evitar una desaceleración prematura.

¿Por qué SGD a veces generaliza mejor que Adam?

Los optimizadores de tasa adaptativa como Adam a menudo convergen más rápido pero pueden sobreajustarse más, particularmente en tareas de clasificación de imágenes. El mayor ruido en SGD — especialmente con tamaños de lote pequeños — actúa como regularización implícita, ayudando al modelo a encontrar mínimos más planos que generalizan mejor. Varios estudios empíricos (por ejemplo, Wilson et al., 2017) han documentado este fenómeno, razón por la cual SGD con momento todavía se prefiere para entrenar modelos de visión por computadora como ResNet.

¿Garantiza SGD encontrar el mínimo global?

Solo para objetivos estrictamente convexos, bajo las condiciones de tamaño de paso de Robbins–Monro. Para objetivos no convexos (prácticamente todas las redes profundas), SGD proporciona convergencia a un punto estacionario (donde el gradiente es cero), que en la práctica tiende a ser un buen mínimo local en lugar de un punto de silla o el mínimo global. Empíricamente, las soluciones encontradas suelen ser lo suficientemente buenas para un rendimiento de vanguardia.

Métodos relacionados

Fuentes

  1. Robbins, H. & Monro, S. (1951). A Stochastic Approximation Method. The Annals of Mathematical Statistics, 22(3), 400–407.

    Abrir referencia DOI
    Copiado.
  2. Goodfellow, I., Bengio, Y. & Courville, A. (2016). Deep Learning (Ch. 8). MIT Press.

    ISBN: 978-0-262-03561-3
    Copiado.