Skip to content
Назад к результатам поиска

Онлайн-логистическая регрессия

Автор метода
Rosenblatt, F. / Widrow, B. (perceptron era); modern SGD form: Bottou, L.
Год
1960s (perceptron); formalized for logistic loss ~2000s
Тип
Incremental supervised classifier
Семейство
Machine learning

Этот текст переведён машинным способом и ещё не проверен. Читать оригинал на английском

Размер шрифта

Что он делает?

Онлайн-логистическая регрессия подгоняет логистический классификатор по одному образцу (или мини-пакету) за раз с помощью стохастического градиентного спуска, обновляя веса модели по мере поступления каждого наблюдения, а не дожидаясь полного набора данных.

Это делает её стандартным выбором для задач бинарной классификации с большим объёмом данных, потоковой передачей или ограниченной памятью, где пакетное обучение нецелесообразно.

Интуиция метода

Классическая логистическая регрессия требует загрузки всех данных в память и оптимизации по всему набору данных. Онлайн-логистическая регрессия вместо этого обрабатывает каждый входящий пример, делает вероятностный прогноз, вычисляет ошибку прогноза и выполняет небольшой градиентный шаг для коррекции своих весов перед переходом к следующему примеру. За счёт множества примеров веса сходятся к значениям, близким к тем, которые нашёл бы пакетный решатель, при этом модель может непрерывно обновляться, никогда не сохраняя полный набор данных. Уменьшающаяся скорость обучения гарантирует, что обновления становятся более тонкими по мере созревания модели, обменивая скорость адаптации на стабильность.

История

Истоки градиентного обучения онлайн-приводят к перцептрону Розенблатта (1958) и правилу LMS Уидроу и Хоффа (1960). Вариант логистических потерь получил известность в литературе по обучению в больших масштабах 2000-х годов, в частности, благодаря работе Ботту по стохастическому градиентному спуску для машинного обучения и теоретической базе онлайн-оптимизации выпуклых функций Шалёв-Шварца. Он стал производственным стандартом в прогнозировании коэффициента кликабельности в веб-масштабе и фильтрации спама, где наборы данных поступают непрерывно, а модели должны обновляться в режиме реального времени.

Когда применять

Используйте онлайн-логистическую регрессию, когда данные поступают в виде потока или когда полный набор данных слишком велик для хранения в памяти, когда ожидается постепенное смещение границы класса со временем (дрейф концепции), или когда требуются обновления модели с низкой задержкой. Это также быстрый базовый вариант для очень больших статических наборов данных, где допустим один проход SGD. Избегайте её, когда набор данных достаточно мал для пакетного обучения (пакетная логистическая регрессия сойдётся к лучшему решению с меньшей настройкой), когда граница принятия решений сильно нелинейна (древовидные или ядерные методы подойдут лучше), или когда требуется интерпретируемость точных стандартных ошибок коэффициентов и p-значений для отчётности.

Ограничения и замечания

  • Чувствительна к выбору скорости обучения: слишком большая вызывает расходимость, слишком маленькая вызывает медленную сходимость или недообучение.
  • Не предоставляет аналитических доверительных интервалов или p-значений для коэффициентов.
  • Сходится к более зашумленному решению, чем пакетный градиентный спуск при тех же данных; для сокращения разрыва требуются множественные проходы или усреднение (Polyak-Ruppert).
  • Производительность снижается, когда признаки имеют очень разные масштабы, если не применяется стандартизация или AdaGrad.
  • Предполагает линейную границу принятия решений; не может уловить нелинейную структуру без инженерии признаков.

Условия из источника не заменяют независимую научную проверку или валидацию аналитическим движком.

Сильные стороны

  • Постоянный объём памяти: обрабатывает один пример за раз без хранения всего набора данных.
  • Адаптируется к дрейфу концепции, продолжая обновлять веса по мере поступления новых размеченных данных.
  • Масштабируется до миллиардов примеров, где пакетная оптимизация была бы непомерно дорогой.
  • Производит калиброванные вероятностные выходные данные через сигмоидную связь, подходящие для оценки рисков.
  • Совместима с регуляризацией L1 и L2 и графиками скорости обучения, которые отражают решения для полного пакета.

Применение

  • Прогнозирование коэффициента кликабельности в онлайн-рекламе с непрерывными потоками данных.
  • Обнаружение спама и мошенничества, где шаблоны развиваются, а модели должны адаптироваться ежедневно.
  • Классификация тональности в реальном времени постов в социальных сетях по мере их поступления.
  • Масштабное бинарное скоринг рисков, когда полный набор данных не помещается в ОЗУ.
  • Сценарии дрейфа концепции при мониторинге финансовых транзакций.
  • Базовый потоковый классификатор перед оценкой более сложных онлайн-ансамблей.

Как это работает

Как это работает

1

Вектор весов и смещение инициализируются нулями (или малыми случайными значениями). На этом этапе проход по данным не требуется — модель готова к обработке первого наблюдения немедленно.

Формула
\mathbf{w}_0 = \mathbf{0},\; b_0 = 0
2

Для каждого входящего наблюдения модель вычисляет линейную комбинацию своих текущих весов и признаков, затем пропускает её через сигмоидную функцию для получения вероятности того, что метка равна 1. Эта вероятность используется как для прогноза, так и в качестве компонента для вычисления градиента.

Формула
\hat{p}_t = \sigma(\mathbf{w}_t^\top \mathbf{x}_t + b_t),\quad \sigma(z)=\frac{1}{1+e^{-z}}
3

Бинарная перекрёстная энтропия (логарифмическая потеря) между предсказанной вероятностью и истинной меткой измеряет, насколько неверен текущий прогноз. Перекрёстная энтропия является выпуклой по весам, что гарантирует, что градиентные шаги надёжно уменьшают ошибку в среднем по потоку данных.

Формула
\ell_t = -[y_t \log \hat{p}_t + (1-y_t)\log(1-\hat{p}_t)]
4

Градиент потерь по отношению к весам сводится к простому остатку (предсказанная вероятность минус истинная метка), умноженному на вектор признаков. Для штрафования больших весов и предотвращения переобучения добавляется член регуляризации (L2 или L1). Веса обновляются путём вычитания масштабированного градиента за один проход на пример.

Формула
\mathbf{w}_{t+1} = \mathbf{w}_t - \eta_t (\hat{p}_t - y_t)\mathbf{x}_t - \eta_t \lambda \mathbf{w}_t
5

Скорость обучения уменьшается со временем — начиная с большого значения для быстрого движения на ранних этапах и уменьшаясь, чтобы последующие обновления вносили тонкие коррекции без колебаний. Распространённые графики — затухание, обратное времени, или адаптация в стиле AdaGrad для каждого признака, которая автоматически обрабатывает признаки с очень разными масштабами.

Формула
\eta_t = \eta_0 / (1 + \alpha t)

Частые ошибки

  • Забывание стандартизировать признаки: онлайн SGD особенно чувствителен к различиям в масштабах, поскольку одна и та же скорость обучения применяется ко всем измерениям.
  • Использование фиксированной скорости обучения на протяжении всего обучения: веса колеблются около оптимума и никогда не стабилизируются.
  • Игнорирование дисбаланса классов в потоке данных: недостаточно представленные классы получают мало градиентных сигналов, и модель смещается в сторону большинства классов.
  • Рассмотрение оценок весов на ранних этапах как окончательных: модели требуется достаточное количество примеров, прежде чем её веса стабилизируются; не оценивайте слишком рано.
  • Путаница между возможностью онлайн-обновления и автоматическим обнаружением дрейфа концепции: веса дрейфуют вместе с данными, но явный мониторинг дрейфа (например, ADWIN) всё ещё необходим для обнаружения резких сдвигов.

Часто задаваемые вопросы

Чем онлайн-логистическая регрессия отличается от стандартной логистической регрессии?

Стандартная логистическая регрессия использует все данные одновременно (пакетная оптимизация) и возвращает точные коэффициенты максимального правдоподобия со стандартными ошибками. Онлайн-логистическая регрессия обновляет веса после каждого примера, используя только постоянную память и допуская бесконечно длинные потоки, но её оценки более зашумлены, и она не производит инференциальную статистику.

Как выбрать скорость обучения?

Общая отправная точка — небольшая фиксированная скорость (например, 0,01) в сочетании с затуханием, обратным времени, или использование AdaGrad, который автоматически адаптирует скорости для каждого признака. Всегда сначала стандартизируйте признаки, затем настройте начальную скорость на отложенном валидационном наборе или путём мониторинга скользящей логарифмической потери на недавнем окне потока.

Может ли онлайн-логистическая регрессия обрабатывать многоклассовые задачи?

Да — расширьте её до бинарных классификаторов «один против всех», обученных параллельно, или используйте обобщение softmax (мультиномиальное) с потерями категориальной перекрёстной энтропии и векторами весов для каждого класса, применяя то же правило обновления SGD к каждому.

Какую регуляризацию следует использовать?

Регуляризация L2 (гребневая) является стандартной: она плавно сжимает все веса и хорошо работает с SGD. L1 (лассо) производит разреженные веса и полезна, когда требуется автоматический выбор признаков в пространствах с очень высокой размерностью, но требует тщательной обрезки или обновлений FOBOS, чтобы оставаться точно разреженным онлайн.

Как оценить модель, которая непрерывно обновляется?

Используйте преквенциальную (тест-перед обучением) оценку: прогнозируйте каждый пример перед его использованием для обновления весов, затем сообщайте скользящую логарифмическую потерю или AUC за скользящее окно. Это даёт несмещённую оценку текущего качества модели без фиксированного отложенного набора.

Похожие методы

Источники

  1. Bottou, L. (2010). Large-Scale Machine Learning with Stochastic Gradient Descent. In Proceedings of COMPSTAT 2010, 177–186. Physica-Verlag.

    Открыть ссылку на публикацию
    Скопировано.
  2. Shalev-Shwartz, S. (2012). Online Learning and Online Convex Optimization. Foundations and Trends in Machine Learning, 4(2), 107–194.

    Открыть ссылку DOI
    Скопировано.