Количественная оценка неопределенности — Полиномиальный хаос и суррогатные модели Крайгинга
- Автор метода
- Norbert Wiener (polynomial chaos, 1938); extended to Wiener–Askey scheme by Xiu & Karniadakis (2002)
- Год
- Seminal modern form: 2002
- Тип
- Computational uncertainty analysis framework
Этот текст переведён машинным способом и ещё не проверен. Читать оригинал на английском
Что он делает?
Количественная оценка неопределенности (UQ) — это вычислительная структура для систематического измерения того, как неопределенность входных данных модели распространяется на неопределенность ее выходных данных.
Основываясь на теории полиномиального хаоса Винера (1938 г.) и формализованная для общих стохастических задач Сю и Карниадакисом (2002 г.), UQ использует две основные стратегии: разложение на полиномиальный хаос (PCE), которое представляет выход модели как ряд ортогональных полиномов, соответствующих распределениям входных данных, и суррогатные модели Крайгинга (гауссовские процессы), которые заменяют дорогостоящее моделирование быстрым статистическим приближением, подогнанным под небольшое количество тщательно выбранных запусков.
Интуиция метода
Представьте, что вы выполняете дорогостоящее компьютерное моделирование — структурный анализ методом конечных элементов или климатическую модель — и вы знаете, что несколько ее входных параметров являются не точными числами, а неопределенными величинами, взятыми из распределений. Запуск моделирования тысячи раз со случайными входными данными (обычное Монте-Карло) был бы точным, но непомерно медленным. UQ предлагает более разумный путь: либо выразить выход математически как полиномиальную функцию неопределенных входных данных (PCE), так что среднее значение, дисперсия и индексы чувствительности следуют аналитически, либо обучить дешевую суррогатную модель (Крайгинг) на небольшом количестве стратегически расположенных запусков моделирования и затем выбирать из суррогатной модели с незначительными затратами. Обе стратегии превращают дорогостоящие, «черные ящики» моделирования в решаемые задачи, позволяя количественно оценить изменчивость выходных данных и определить, какие входные данные в наибольшей степени обуславливают эту изменчивость.
История
Математические корни полиномиального хаоса лежат в теории однородного хаоса Винера (1938 г.), которая представляла процессы, управляемые броуновским движением, с использованием разложений по полиномам Эрмита. Метод оставался в основном теоретическим инструментом до тех пор, пока Ганем и Спанос (1991 г.) не применили его к стохастическому анализу методом конечных элементов. Решающее обобщение пришло от Сю и Карниадакиса (2002 г.), которые показали, что оптимальный полиномиальный базис зависит от распределения входных данных — схема Винера–Аски — что позволило эффективно использовать PCE для широкого спектра инженерных задач. Одновременно суррогатные модели Крайгинга, возникшие в геостатистике (Криге, 1951 г.; Матерон, 1963 г.) и формализованные как регрессия гауссовских процессов в машинном обучении, стали стандартным инструментом в проектировании компьютерных экспериментов. Смит (2013 г.) представил всесторонний синтез теории UQ, реализации и применения, который теперь служит каноническим справочником для аспирантов. Разреженный PCE, адаптивные стратегии, такие как EGO (Efficient Global Optimisation), и суррогатные модели глубокого обучения являются активными областями текущих исследований.
Когда применять
UQ подходит всякий раз, когда вычислительная модель имеет неопределенные входные данные — параметры, измеренные с ошибкой, граничные условия, которые известны лишь приблизительно, или свойства материалов с естественной изменчивостью — и аналитику необходимо охарактеризовать, как эта неопределенность влияет на выходные данные модели. Это особенно ценно, когда симулятор вычислительно дорог (минуты или часы на один запуск), что делает прямой метод Монте-Карло невыполнимым. Неопределенности входных данных должны быть выражены в виде вероятностных распределений; если доступны только наихудшие границы без вероятностной информации, интервальные или нечеткие методы могут быть более подходящими. PCE хорошо подходит для умеренного числа входных параметров (примерно до 10–15 измерений, прежде чем «проклятие размерности» потребует разреженных вариантов); суррогатные модели Крайгинга могут обрабатывать несколько большие размерности, но требуют тщательного проектирования экспериментов, чтобы количество обучающих запусков оставалось управляемым. Оба подхода предполагают, что модель достаточно гладкая, чтобы приближение полиномом или гауссовским процессом было точным.
Ограничения и замечания
- PCE страдает от проклятия размерности: количество полиномиальных членов быстро растет с увеличением числа неопределенных входных параметров и степени полинома, требуя разреженных PCE или стратегий снижения размерности для многомерных задач.
- Точность суррогатной модели Крайгинга критически зависит от проектирования экспериментов; слишком малое количество или плохо расположенные точки обучения приводят к ненадежным предсказаниям между ними.
- Оба метода предполагают, что отклик симулятора достаточно гладкий, чтобы его можно было хорошо аппроксимировать полиномами или гауссовским процессом; разрывы или резкие градиенты в поверхности отклика снижают точность.
- Качество результата UQ зависит только от выбранных распределений входных данных; плохо заданные распределения входных данных переносят неверную неопределенность на выходные данные.
Условия из источника не заменяют независимую научную проверку или валидацию аналитическим движком.
Сильные стороны
- Обеспечивает полную характеристику распределения выходных данных — не только среднего или наихудшего случая — позволяя делать строгие вероятностные утверждения о прогнозах модели.
- Индексы чувствительности Соболя определяют, какие неопределенные входные параметры обуславливают изменчивость выходных данных, направляя приоритеты проектирования экспериментов и сбора данных.
- После построения суррогатной модели анализ распространения и чувствительности вычислительно незначителен, что делает UQ практичным даже для дорогостоящих симуляторов.
- PCE предоставляет аналитические выражения для среднего значения, дисперсии и индексов чувствительности, избегая шума выборки Монте-Карло в этих величинах.
Применение
- Количественная оценка влияния изменчивости свойств материалов на надежность конструкций в симуляциях аэрокосмической и гражданской инженерии.
- Распространение неопределенности параметров через климатические модели и модели земной системы для характеристики диапазона прогнозируемых температур или уровней моря.
- Оценка влияния неопределенности измерений на прогнозы производительности медицинских устройств в вычислительной биомеханике.
- Поддержка робастной оптимизации проектирования путем определения того, какие параметры проектирования в наибольшей степени снижают изменчивость выходных данных, приоритизируя более жесткие допуски на производство.
- Оценка доверительных интервалов для прогнозов эпидемиологических моделей, когда параметры передачи известны неточно.
Как это работает
Как это работает
Аналитик определяет все неопределенные входные параметры модели и присваивает каждому вероятностное распределение — например, равномерное, нормальное или бета-распределение — которое представляет состояние знаний об этой величине. Этот шаг является основополагающим: выбор распределений входных данных напрямую определяет форму неопределенности выходных данных и должен основываться на физических знаниях или измеренных данных, а не предполагаться произвольно.
Для PCE выходные данные разлагаются в базис ортогональных полиномов, семейство которых соответствует каждому распределению входных данных (полиномы Эрмита для нормальных входных данных, полиномы Лежандра для равномерных и так далее по схеме Винера–Аски). Коэффициенты полиномов оцениваются по набору оценок модели с использованием регрессии или проекции. Для суррогатной модели Крайгинга стратегия проектирования экспериментов — такая как выборка Латинского гиперкуба или оптимальные конструкции, заполняющие пространство — выбирает небольшое количество репрезентативных входных точек, моделирование выполняется в этих точках, и строится гауссовский процесс для интерполяции между ними. Степень полинома (для PCE) или ковариационное ядро (для Крайгинга) должны быть выбраны с осторожностью, чтобы сбалансировать точность и вычислительные затраты.
После построения суррогатной модели распространение неопределенности дешево. Для PCE среднее значение и дисперсия выходных данных получаются непосредственно из коэффициентов полиномов без дополнительных симуляций. Для суррогатной модели Крайгинга миллионы выборок Монте-Карло могут быть взяты из распределений входных данных и пропущены через быструю суррогатную модель, а не через дорогостоящий симулятор, что дает полное распределение выходных данных за долю стоимости. Полученное распределение характеризует диапазон и вероятность всех возможных выходных данных с учетом неопределенности входных данных.
Глобальные индексы чувствительности, основанные на дисперсии — известные как индексы Соболя — разлагают общую дисперсию выходных данных на вклады, приписываемые каждому входному параметру и взаимодействиям между входными параметрами. Для суррогатной модели PCE эти индексы получаются аналитически из коэффициентов полиномов; для суррогатной модели Крайгинга они оцениваются по распространенной выборке Монте-Карло. Индексы Соболя первого порядка сообщают долю дисперсии, объясняемую каждым входным параметром в отдельности; индексы общего порядка включают все взаимодействия более высокого порядка, связанные с этим входным параметром. Этот шаг определяет, какие входные параметры наиболее важны, а какие могут быть зафиксированы для уменьшения неопределенности.
Частые ошибки
- Выбор распределений входных данных без физического или эмпирического обоснования — назначение нормального распределения просто потому, что оно удобно, может привести к выходным распределениям, которые искажают истинную неопределенность.
- Недооценка степени полинома или использование конструкции, заполняющей пространство, которая слишком разрежена по отношению к сложности поверхности отклика, приводит к суррогатной модели, которая недообучается и недооценивает дисперсию выходных данных.
- Игнорирование взаимодействий между входными параметрами путем сообщения только индексов Соболя первого порядка может ввести в заблуждение, когда взаимодействия входных параметров являются доминирующим источником дисперсии; всегда проверяйте индексы общего порядка.
- Применение PCE в высоких размерностях (выше примерно 15 входных параметров) без разреженной или адаптивной обрезки приводит к взрывному росту числа членов, делая оценку коэффициентов ненадежной.
- Рассмотрение суррогатной модели как идеальной и ее невалидация на отложенных оценках симулятора перед использованием для принятия решений является распространенной и дорогостоящей ошибкой.
Часто задаваемые вопросы
В чем разница между PCE и суррогатной моделью Крайгинга?
PCE представляет выход модели как явной полиномиальной ряд по неопределенным входным параметрам, выбранный так, чтобы быть ортогональным относительно распределений входных данных. Индексы чувствительности Соболя и моменты следуют аналитически из коэффициентов. Крайгинг рассматривает выход модели как реализацию гауссовского процесса и интерполирует между точками обучения, предоставляя как прогноз, так и дисперсию прогноза. PCE, как правило, более эффективен, когда размерность входных данных низкая, а отклик гладкий и глобально полиномиальный; Крайгинг более гибок для нерегулярных или локально изменяющихся откликов и может быть расширен стратегиями активного обучения, такими как EGO.
Сколько запусков симулятора необходимо для построения надежной суррогатной модели?
Для PCE минимальное количество составляет примерно в два-три раза больше числа членов полиномиального базиса, но большее количество запусков улучшает точность. Для суррогатной модели Крайгинга общее эмпирическое правило — в десять раз больше неопределенных входных параметров для начальной конструкции, с добавлением дополнительных точек адаптивно, если позволяет бюджет. В обоих случаях валидация на отложенных запусках имеет важное значение до того, как суррогатная модель будет использоваться для принятия решений.
Что такое индексы Соболя и почему они важны?
Индексы Соболя — это меры глобальной чувствительности, основанные на дисперсии. Индекс первого порядка для входного параметра сообщает долю общей дисперсии выходных данных, приписываемую этому входному параметру отдельно. Индекс общего порядка включает все взаимодействия между этим входным параметром и другими. Вместе они говорят аналитику, какие входные параметры стоит измерять точнее, а какие можно считать фиксированными, не влияя существенно на неопределенность выходных данных. В отличие от локальных (основанных на производных) мер чувствительности, индексы Соболя действительны для всего распределения входных данных, а не только вблизи номинальной точки.
Можно ли применять UQ, когда распределения входных данных неизвестны?
UQ в вероятностном смысле требует, чтобы неопределенности входных данных были заданы в виде вероятностных распределений. Когда доступны только диапазоны или границы без информации о распределении, иногда используются равномерные распределения как консервативный выбор, но это предположение должно быть явно указано. Если аналитик действительно не может назначить распределение — например, в условиях глубокой неопределенности — анализ сценариев или подходы робастной оптимизации могут быть более подходящими, чем вероятностный UQ.
Похожие методы
Источники
Xiu, D. & Karniadakis, G.E. (2002). The Wiener-Askey Polynomial Chaos for Stochastic Differential Equations. SIAM Journal on Scientific Computing, 24(2), 619–644.
Открыть ссылку DOIСкопировано.Smith, R.C. (2013). Uncertainty Quantification: Theory, Implementation, and Applications. SIAM.
ISBN: 978-1611973211Скопировано.