Skip to content
Назад к результатам поиска

Перенос обучения

Автор метода
Pan, S. J. & Yang, Q. (survey); Bengio, Y. (deep learning framing)
Год
2010 (formalized); 1990s (early roots)
Тип
Learning paradigm
Семейство
Machine learning

Этот текст переведён машинным способом и ещё не проверен. Читать оригинал на английском

Размер шрифта

Что он делает?

Перенос обучения — это парадигма машинного обучения, при которой знания, полученные при обучении модели на исходной задаче или домене, повторно используются для улучшения обучения на другой, но связанной целевой задаче или домене.

Это особенно эффективно, когда размеченных данных для целевой задачи мало, и лежит в основе большинства современных приложений глубокого обучения в компьютерном зрении, обработке естественного языка и за их пределами.

Интуиция метода

Представьте, что вы учитесь ездить на велосипеде, а затем применяете эти знания о равновесии и координации для обучения езде на мотоцикле — вы не начинаете с нуля. Перенос обучения работает так же: модель, обученная на большом, богатом наборе данных (исходный домен), уже изучила полезные представления, такие как границы, текстуры или грамматические паттерны. При применении к новому, меньшему целевому набору данных модели требуется гораздо меньше размеченных данных для достижения хорошей производительности, потому что сложная работа по представлению уже выполнена.

История

Концепция переноса знаний между задачами появилась в 1990-х годах (Pratt 1993; Thrun 1996). Область была формально исследована и систематизирована Паном и Янгом в их статье IEEE TKDE 2010 года, которая остаётся канонической ссылкой. Парадигма получила мощный импульс благодаря успеху глубокого обучения: Бенджио и его коллеги показали, что глубокие сети изучают переносимые представления, а предварительное обучение на ImageNet (Krizhevsky et al., 2012) сделало перенос стандартной практикой в компьютерном зрении. Введение больших языковых моделей, таких как BERT (2018) и GPT (2018–), расширило перенос обучения на обработку естественного языка и превратило его в доминирующую парадигму практически во всех приложениях глубокого обучения.

Когда применять

Перенос обучения — правильный выбор, когда размеченные данные для целевой задачи ограничены, но существует связанный исходный домен с большим количеством меток или большая предварительно обученная модель — например, донастройка BERT для классификатора текста в конкретной предметной области или адаптация предварительно обученных на ImageNet свёрточных нейронных сетей (CNN) для медицинской визуализации. Это значительно сокращает объём данных и вычислительных ресурсов, необходимых для достижения высокой производительности. Избегайте его, когда исходный и целевой домены принципиально не связаны, потому что отрицательный перенос может ухудшить производительность по сравнению с обучением с нуля. Он также менее оправдан, когда целевой набор данных достаточно велик для независимого обучения способной модели.

Ограничения и замечания

  • Отрицательный перенос может произойти, когда исходный и целевой домены слишком несхожи, потенциально ухудшая производительность по сравнению с обучением с нуля.
  • Донастройка больших предварительно обученных моделей требует значительного объёма памяти и, для очень больших моделей, значительных ресурсов графического процессора.
  • Соответствующий объём модели для замораживания по сравнению с донастройкой зависит от задачи и требует экспериментов.
  • Сдвиг домена между источником и целью может быть неочевидным и незаметно ухудшать производительность.
  • Юридические и этические ограничения на предварительно обученные модели (лицензия, предвзятость обучающих данных) могут ограничивать использование в определённых приложениях.

Условия из источника не заменяют независимую научную проверку или валидацию аналитическим движком.

Сильные стороны

  • Значительно сокращает требования к размеченным данным для целевой задачи за счёт повторного использования исходных представлений.
  • Сокращает время обучения и вычислительные затраты по сравнению с обучением больших моделей с нуля.
  • Часто достигает передовой производительности на малых и средних целевых наборах данных.
  • Предварительно обученные модели общего назначения (например, ResNet, BERT, GPT) обеспечивают сильные отправные точки во многих областях.
  • Режим извлечения признаков позволяет использовать глубокие представления даже без ресурсоёмкой донастройки с использованием графических процессоров.

Применение

  • Донастройка предварительно обученных языковых моделей (BERT, GPT) для классификации текста, распознавания именованных сущностей (NER) или ответов на вопросы в конкретной предметной области.
  • Адаптация предварительно обученных на ImageNet свёрточных нейронных сетей (ResNet, VGG) для анализа медицинских изображений, где размеченных сканов мало.
  • Системы распознавания речи, адаптированные с больших многоязычных моделей для языков с ограниченными ресурсами.
  • Кросс-доменный анализ тональности путём переноса представлений, изученных на обзорах продуктов, на текст из социальных сетей.
  • Табличные данные: использование признаков нейронных сетей, предварительно обученных на связанных наборах данных, для улучшения предсказаний на небольшой целевой таблице.
  • Научные области (открытие лекарств, материаловедение), где размеченные экспериментальные данные дороги, а исходные модели из химической литературы обеспечивают сильные априорные знания.

Как это работает

Как это работает

1

Модель обучается на большом исходном наборе данных, где доступно большое количество размеченных данных. На этом этапе модель изучает общие представления признаков — например, свёрточная сеть изучает визуальные иерархии из миллионов изображений, или языковая модель изучает синтаксические и семантические паттерны из миллиардов токенов.

2

Оценивается взаимосвязь между исходным и целевым доменами. Если домены близки (например, оба включают естественные изображения), изученные представления переносятся более непосредственно. Если сдвиг домена велик, применяются такие методы, как доменно-состязательное обучение или перевзвешивание экземпляров, чтобы уменьшить несоответствие распределений до начала адаптации.

3

Предварительно обученная модель применяется к целевой задаче. При извлечении признаков более ранние слои замораживаются, и только более поздние, специфичные для задачи слои заменяются и обучаются. При полной донастройке все слои обновляются на целевых данных, обычно с более низкой скоростью обучения, чтобы сохранить ранее изученные представления и избежать катастрофического забывания.

4

Адаптированная модель обучается на (обычно небольшом) размеченном целевом наборе данных. Стратегии регуляризации — такие как L2-SP (штраф по отношению к исходным весам), отсев (dropout) или ранняя остановка — предотвращают переобучение на ограниченных целевых метках. Послойное планирование скорости обучения распространено в глубоких сетях.

5

Производительность измеряется на отложенном целевом тестовом наборе с использованием метрик, соответствующих задаче (точность, F1, RMSE и т. д.). Сравнения с обучением с нуля и с базовым уровнем только на исходных данных позволяют количественно оценить выигрыш от переноса и выявить, произошло ли отрицательное перенесение.

Частые ошибки

  • Предположение, что любая предварительно обученная модель хорошо перенесётся без проверки сходства доменов — всегда сравнивайте с обучением с нуля.
  • Использование слишком высокой скорости обучения во время донастройки, что приводит к катастрофическому забыванию исходных представлений.
  • Оценка только на целевом обучающем наборе или игнорирование правильного отложенного тестового разбиения.
  • Игнорирование предвзятости набора данных, унаследованной от исходного домена, которая может распространяться на целевые предсказания.
  • Донастройка на чрезвычайно малом целевом наборе без регуляризации, что приводит к сильному переобучению.

Часто задаваемые вопросы

В чём разница между извлечением признаков и донастройкой при переносе обучения?

При извлечении признаков веса предварительно обученной модели замораживаются, и обучается только новая, специфичная для задачи голова. При донастройке некоторые или все предварительно обученные веса также обновляются на целевых данных — обычно с небольшой скоростью обучения, чтобы избежать катастрофического забывания. Извлечение признаков быстрее и менее подвержено переобучению на крошечных наборах данных; донастройка обычно даёт лучшую производительность, когда достаточно целевых данных.

Как узнать, поможет или навредит перенос обучения?

Ключевой вопрос — сходство доменов. Если исходное и целевое распределения имеют значимую общую структуру (одна и та же модальность, схожий словарный запас, связанные визуальные концепции), перенос почти всегда помогает. Обучите базовую модель с нуля и сравните: если перенесённая модель не лучше, домены могут быть слишком несхожими, или вам могут потребоваться методы доменно-состязательного выравнивания.

Что такое отрицательный перенос?

Отрицательный перенос происходит, когда знания из исходного домена активно вредят производительности на целевой задаче — предварительно обученные представления не соответствуют целевой структуре и вводят оптимизацию в заблуждение. Это наиболее распространено, когда источник и цель семантически или статистически несхожи. Регуляризация по отношению к исходным весам (например, L2-SP) или использование только более мелких слоёв может смягчить это.

Сколько целевых данных мне нужно для донастройки?

Универсального порога нет, но перенос обучения наиболее ценен, когда количество размеченных целевых примеров составляет от десятков до нескольких тысяч. При очень малом количестве примеров (менее ~100) безопаснее заморозить большинство слоёв и обучать только голову (извлечение признаков). При тысячах примеров более глубокая донастройка осуществима и обычно полезна.

Применимо ли перенос обучения к табличным данным, а не только к изображениям и тексту?

Да, хотя это менее «включи и работай». Подходы включают предварительное обучение нейронных сетей на больших табличных корпусах из связанных доменов или использование эмбеддингов из базовых моделей в качестве дополнительных признаков. Библиотеки, такие как SAINT и TabPFN, исследуют это направление. Для классических табличных задач градиентный бустинг часто остаётся сильным конкурентом даже без переноса.

Похожие методы

Источники

  1. Pan, S. J., & Yang, Q. (2010). A Survey on Transfer Learning. IEEE Transactions on Knowledge and Data Engineering, 22(10), 1345–1359.

    Открыть ссылку DOI
    Скопировано.
  2. Bengio, Y. (2012). Deep Learning of Representations for Unsupervised and Transfer Learning. In Proceedings of ICML Workshop on Unsupervised and Transfer Learning, PMLR 27, 17–36.

    Открыть ссылку на публикацию
    Скопировано.