Saltar al contenido
Volver a los resultados

Aprendizaje por transferencia

Propuesto por
Pan, S. J. & Yang, Q. (survey); Bengio, Y. (deep learning framing)
Año
2010 (formalized); 1990s (early roots)
Tipo
Learning paradigm
Familia
Machine learning

Este texto es una traducción automática y aún no se ha revisado. Leer el original en inglés

Tamaño de letra

¿Qué hace?

El aprendizaje por transferencia es un paradigma de aprendizaje automático en el que el conocimiento adquirido al entrenar un modelo en una tarea o dominio de origen se reutiliza para mejorar el aprendizaje en una tarea o dominio de destino diferente pero relacionado.

Es especialmente potente cuando los datos etiquetados para la tarea de destino son escasos y subyace a la mayoría de las aplicaciones modernas de aprendizaje profundo en visión por computadora, procesamiento del lenguaje natural y más allá.

La intuición detrás del método

Imagine aprender a andar en bicicleta y luego aplicar ese conocimiento de equilibrio y coordinación para aprender a andar en motocicleta: no empieza desde cero. El aprendizaje por transferencia funciona de la misma manera: un modelo entrenado en un conjunto de datos grande y rico (el dominio de origen) ya ha aprendido representaciones útiles como bordes, texturas o patrones gramaticales. Cuando se aplica a un conjunto de datos de destino nuevo y más pequeño, el modelo necesita muchos menos datos etiquetados para alcanzar un buen rendimiento, porque el arduo trabajo de representación ya está hecho.

Historia

El concepto de transferencia de conocimiento entre tareas surgió en la década de 1990 (Pratt 1993; Thrun 1996). El campo fue revisado y sistematizado formalmente por Pan y Yang en su artículo de 2010 en IEEE TKDE, que sigue siendo la referencia canónica. El paradigma se turboalimentó con el éxito del aprendizaje profundo: Bengio y colegas demostraron que las redes profundas aprenden representaciones transferibles, y el preentrenamiento en ImageNet (Krizhevsky et al., 2012) convirtió la transferencia en la práctica predeterminada en la visión por computadora. La introducción de grandes modelos de lenguaje como BERT (2018) y GPT (2018–) extendió el aprendizaje por transferencia al PLN y lo transformó en el paradigma dominante en prácticamente todas las aplicaciones de aprendizaje profundo.

Cuándo usarlo

El aprendizaje por transferencia es la opción correcta cuando los datos etiquetados para la tarea de destino son limitados pero existe un dominio de origen relacionado con etiquetas abundantes o un modelo preentrenado grande; por ejemplo, ajustar BERT para un clasificador de texto específico del dominio o adaptar CNN preentrenadas en ImageNet a imágenes médicas. Reduce drásticamente los datos y la computación necesarios para alcanzar un rendimiento sólido. Evítelo cuando los dominios de origen y de destino no estén fundamentalmente relacionados, ya que la transferencia negativa puede empeorar el rendimiento en comparación con el entrenamiento desde cero. También es menos recomendable cuando el conjunto de datos de destino es lo suficientemente grande como para entrenar un modelo capaz de forma independiente.

Limitaciones y consideraciones

  • Puede ocurrir transferencia negativa cuando los dominios de origen y de destino son demasiado disímiles, lo que puede perjudicar el rendimiento en comparación con el entrenamiento desde cero.
  • El ajuste fino de modelos preentrenados grandes requiere una memoria sustancial y, para modelos muy grandes, recursos significativos de GPU.
  • La cantidad apropiada del modelo a congelar frente a ajustar es dependiente de la tarea y requiere experimentación.
  • El desplazamiento del dominio entre el origen y el destino puede no ser obvio y puede degradar silenciosamente el rendimiento.
  • Las restricciones legales y éticas sobre los modelos preentrenados (licencia, sesgo de los datos de entrenamiento) pueden limitar su uso en ciertas aplicaciones.

Las condiciones de la fuente no sustituyen una revisión científica independiente ni la validación por un motor de análisis.

Fortalezas

  • Reduce drásticamente los requisitos de datos etiquetados para la tarea de destino al reutilizar las representaciones de origen.
  • Acorta el tiempo de entrenamiento y el costo computacional en comparación con el entrenamiento de modelos grandes desde cero.
  • A menudo logra un rendimiento de vanguardia en conjuntos de datos de destino pequeños y medianos.
  • Los modelos preentrenados de propósito general (por ejemplo, ResNet, BERT, GPT) proporcionan puntos de partida sólidos en muchos dominios.
  • El modo de extracción de características permite el uso de representaciones profundas incluso sin ajuste fino intensivo en GPU.

Aplicaciones

  • Ajuste fino de modelos de lenguaje preentrenados (BERT, GPT) para clasificación de texto específica del dominio, NER o respuesta a preguntas.
  • Adaptación de CNN preentrenadas en ImageNet (ResNet, VGG) al análisis de imágenes médicas donde los escaneos etiquetados son escasos.
  • Sistemas de reconocimiento de voz adaptados de grandes modelos multilingües a idiomas de bajos recursos.
  • Análisis de sentimiento interdominio transfiriendo representaciones aprendidas en reseñas de productos a texto de redes sociales.
  • Datos tabulares: uso de características de redes neuronales preentrenadas en conjuntos de datos relacionados para mejorar las predicciones en una tabla de destino pequeña.
  • Dominios científicos (descubrimiento de fármacos, ciencia de materiales) donde los datos experimentales etiquetados son costosos y los modelos de origen de la literatura química proporcionan fuertes priors.

Cómo funciona

Cómo funciona

1

Se entrena un modelo en un gran conjunto de datos de origen donde hay abundantes datos etiquetados disponibles. Durante esta fase, el modelo aprende representaciones de características de propósito general; por ejemplo, una red convolucional aprende jerarquías visuales a partir de millones de imágenes, o un modelo de lenguaje aprende patrones sintácticos y semánticos a partir de miles de millones de tokens.

2

Se evalúa la relación entre los dominios de origen y de destino. Si los dominios están cerca (por ejemplo, ambos involucran imágenes naturales), las representaciones aprendidas se transfieren de manera más directa. Si el desplazamiento del dominio es grande, se aplican técnicas como el entrenamiento adversario de dominio o la ponderación de instancias para reducir la discrepancia de distribución antes de que comience la adaptación.

3

Se aplica el modelo preentrenado a la tarea de destino. En la extracción de características, se congelan las capas anteriores y solo se reemplazan y entrenan las capas posteriores específicas de la tarea. En el ajuste fino completo, todas las capas se actualizan con los datos de destino, generalmente con una tasa de aprendizaje más baja para preservar las representaciones aprendidas previamente y evitar el olvido catastrófico.

4

El modelo adaptado se entrena en el conjunto de datos de destino etiquetado (típicamente pequeño). Las estrategias de regularización —como L2-SP (penalización hacia los pesos de origen), dropout o parada temprana— evitan el sobreajuste a las etiquetas de destino limitadas. La programación de la tasa de aprendizaje por capas es común en las redes profundas.

5

Se mide el rendimiento en un conjunto de prueba de destino reservado utilizando métricas apropiadas para la tarea (precisión, F1, RMSE, etc.). Las comparaciones con el entrenamiento desde cero y con una línea de base solo de origen cuantifican la ganancia de transferencia y revelan si ha ocurrido transferencia negativa.

Errores comunes

  • Asumir que cualquier modelo preentrenado se transferirá bien sin verificar la similitud del dominio; siempre compare con una línea de base de entrenamiento desde cero.
  • Usar una tasa de aprendizaje demasiado alta durante el ajuste fino, lo que provoca un olvido catastrófico de las representaciones de origen.
  • Evaluar solo en el conjunto de entrenamiento de destino o ignorar una división de prueba reservada adecuada.
  • Pasar por alto el sesgo del conjunto de datos heredado del dominio de origen, que puede propagarse a las predicciones de destino.
  • Ajuste fino en un conjunto de destino extremadamente pequeño sin regularización, lo que lleva a un sobreajuste severo.

Preguntas frecuentes

¿Cuál es la diferencia entre extracción de características y ajuste fino en el aprendizaje por transferencia?

En la extracción de características, los pesos del modelo preentrenado se congelan y solo se entrena una nueva cabeza específica de la tarea. En el ajuste fino, algunos o todos los pesos preentrenados también se actualizan con los datos de destino, típicamente con una tasa de aprendizaje pequeña para evitar el olvido catastrófico. La extracción de características es más rápida y menos propensa al sobreajuste en conjuntos de datos muy pequeños; el ajuste fino generalmente produce un mejor rendimiento cuando hay suficientes datos de destino.

¿Cómo sé si el aprendizaje por transferencia ayudará o perjudicará?

La pregunta clave es la similitud del dominio. Si las distribuciones de origen y destino comparten una estructura significativa (misma modalidad, vocabulario similar, conceptos visuales relacionados), la transferencia casi siempre ayuda. Entrene una línea de base desde cero y compare: si el modelo transferido no es mejor, los dominios pueden ser demasiado disímiles, o puede necesitar técnicas de alineación adversaria de dominio.

¿Qué es la transferencia negativa?

La transferencia negativa ocurre cuando el conocimiento del dominio de origen perjudica activamente el rendimiento en la tarea de destino; las representaciones preentrenadas no coinciden con la estructura de destino y desvían la optimización. Es más común cuando el origen y el destino son semántica o estadísticamente disímiles. La regularización hacia los pesos de origen (por ejemplo, L2-SP) o el uso de solo capas más superficiales pueden mitigarla.

¿Cuántos datos de destino necesito para el ajuste fino?

No existe un umbral universal, pero el aprendizaje por transferencia es más valioso cuando el número de ejemplos etiquetados de destino oscila entre unas pocas docenas y unos pocos miles. Con muy pocos ejemplos (menos de ~100), congelar la mayoría de las capas y entrenar solo la cabeza (extracción de características) es más seguro. Con miles de ejemplos, el ajuste fino más profundo es factible y generalmente beneficioso.

¿Es aplicable el aprendizaje por transferencia a datos tabulares, no solo a imágenes y texto?

Sí, aunque es menos directo. Los enfoques incluyen el preentrenamiento de redes neuronales en grandes corpus tabulares de dominios relacionados, o el uso de incrustaciones de modelos fundacionales como características adicionales. Bibliotecas como SAINT y TabPFN exploran esta dirección. Para tareas tabulares clásicas, el boosting de gradiente a menudo sigue siendo un fuerte competidor incluso sin transferencia.

Métodos relacionados

Fuentes

  1. Pan, S. J., & Yang, Q. (2010). A Survey on Transfer Learning. IEEE Transactions on Knowledge and Data Engineering, 22(10), 1345–1359.

    Abrir referencia DOI
    Copiado.
  2. Bengio, Y. (2012). Deep Learning of Representations for Unsupervised and Transfer Learning. In Proceedings of ICML Workshop on Unsupervised and Transfer Learning, PMLR 27, 17–36.

    Abrir referencia de la publicación
    Copiado.