Skip to content
検索結果に戻る

代理モデルベース最適化 — メタモデル支援設計

提唱者
Sacks, Welch, Mitchell & Wynn (computer experiments framework, 1989); Kriging popularised by Matheron (1963)
年
1989 (computer experiments formulation)
種類
Metamodel-assisted black-box optimization

この文章は機械翻訳で、まだ確認されていません。 英語の原文を読む

文字サイズ

何をする手法か?

代理モデルベース最適化は、Sacksら(1989)の計算実験フレームワークで形式化され、Forresterら(2008)によって工学分野で普及した手法であり、費用のかかるシミュレーションや物理実験を、代理モデルまたはメタモデルと呼ばれる安価な近似モデルに置き換えて最適化を行う。代理モデルは通常、注意深く選択された少数の設計評価点に適合されたクリーギング(ガウス過程)、動径基底関数、または多項式応答曲面であり、探索が進むにつれて周期的に更新される。

手法の背後にある直感

航空機の翼形状をテストするたびに48時間かかる完全な計算流体力学(CFD)シミュレーションを実行しなければならないと想像してほしい。最適な形状を見つけるためにそのような評価を数千回実行することは不可能である。代理モデルベース最適化は、まず広範囲に配置された設計点での少数のシミュレーションを実行し、秒単位で未知の設計の性能を予測する高速な数学的代替物(代理モデル)を適合させ、その代替物を最適化し、次に最も有望な新しい設計を選択して実際にシミュレーションを実行することで、この問題を回避する。代理モデルは、新しいデータポイントが追加されるたびに賢くなり、最終的には高価なシミュレータは本当に重要な場所でのみ呼び出される。

歴史学

統計的基礎は、1989年の画期的な論文「Design and Analysis of Computer Experiments」(Statistical Science)でSacks、Welch、Mitchell、Wynnによって築かれ、決定論的コンピュータコードのエミュレーションのためのクリーギングフレームワークが導入された。クリーギング自体は、1960年代のジョルジュ・マセロンによる地球統計学の研究に遡る。このアプローチは、Forrester、Sobester、Keaneによる2008年のWileyモノグラフによって工学設計最適化のために体系化され、ラテン超方格サンプリング、交差検証、および期待改善による追加が標準的なパイプラインとして確立された。それ以来、この分野は、マルチフィデリティ代理モデル、ベイズ最適化(密接に関連する確率的定式化)、および超高次元問題のための深層学習代理モデルを含むように拡大した。

使うべき場面

代理モデルベース最適化は、CFD、有限要素解析、実験室実験、またはマルチフィジックスシミュレーションを通じて、真の目的関数を評価するのに費用がかかりすぎるため、数十から数百の評価しか許容できない場合に適切な選択肢である。この手法は、真の応答が代理モデルで近似できる程度に十分に滑らかであることを必要とする。非常に不連続または確率的な関数は、特殊な代理モデルまたは分散低減技術を必要とする場合がある。設計空間は連続的である必要がある。空間充填の初期設計(ラテン超方格サンプリング)と代理モデルの必須の交差検証は、譲れない前提条件である。

限界と注意点

  • 代理モデルの精度は高次元空間(次元の呪い)で低下する。通常、次元削減なしでは約20〜50の設計変数まで実用的である。
  • 真の関数が非常に不連続または多峰性の場合、代理モデルはそれを誤って表現し、最適化手法を偽の最適値に導く可能性がある。
  • 初期学習予算は慎重に設定する必要がある。少なすぎると不十分な代理モデルが生成され、多すぎると計算コストの高い評価を回避するという目的が損なわれる。
  • クリーギング適合と取得関数の最適化は、学習セットサイズとともに増加する計算オーバーヘッドを追加する。

出典に示された条件は、独立した科学的レビューや分析エンジンによる検証の代わりにはなりません。

強み

  • 最適な設計を見つけるために必要な高コストな真の評価回数を劇的に削減する。
  • クリーギング代理モデルは、期待改善などの原理的な追加戦略を可能にする不確実性推定を提供する。
  • 勾配情報が利用できないブラックボックス問題にも適用可能。
  • 工学、科学、およびシミュレーションコストが支配的なあらゆる分野に適用可能。
  • 再利用可能な代理モデルは、追加の真の評価なしに複数の設計質問に答えることができる。

応用

  • CFDシミュレーションを使用した航空機翼およびタービンブレードの空力形状最適化。
  • 各シミュレーションに数時間かかる有限要素解析における構造最適化。
  • 厳しい評価予算の下での自動車の衝突安全性およびNVH(騒音、振動、ハーシュネス)設計。
  • 物理実験が高価で遅い化学プロセスおよび反応器設計。
  • モデルのトレーニング自体が高価である場合の機械学習におけるハイパーパラメータチューニング。
  • 製薬処方開発および臨床試験設計。

使い方

使い方

1

空間充填実験計画法 — 最も一般的にはラテン超方格サンプリング — が、実現可能な空間全体に初期設計点のセットを配置するために使用される。目標は、代理モデルがどの領域にも偏らずに最小限のバイアスで学習できるように、最大限の広がりを持たせることである。

2

各初期設計点は、真の計算コストの高い評価者(CFDソルバー、有限要素解析、物理プロトタイプテスト、またはその他の高忠実度関数)に渡される。このステップは計算上のボトルネックであり、その出力が代理モデルの学習データセットを形成する。

3

クリーギング、動径基底関数、多項式応答曲面、またはニューラルネットワークなどの代理モデルが学習データに適合される。クリーギングは、予測だけでなく、訪問されていない各点での定量化された不確実性推定も提供するため、工学設計で好まれる。

4

適合された代理モデルは、交差検証によって、または保持されたテスト点のセットに対する代理モデルの予測を真の評価と比較することによってチェックされる。R二乗、RMSE、最大絶対誤差などの指標は、代理モデルが最適化を導くのに十分なほど真の関数をよく表しているかどうかを示す。検証に失敗した場合は、追加の学習点が追加される。

5

計算コストの安い最適化手法(勾配ベースまたは進化計算)が、適合された代理モデルの最適値を探索する。代理モデルの評価はほとんどコストがかからないため、数千もの候補解を秒単位で評価できる。

6

最適と予測された設計(または期待改善基準に基づく最も情報量の多い設計)が、計算コストの高い評価者に渡される。その真の応答は学習セットに追加され、代理モデルは再適合される。このループは、予算、収束、または精度目標などの停止基準が満たされるまで継続される。

よくある落とし穴

  • 交差検証をスキップすることは最も一般的な間違いである。適合の悪い代理モデルは、最適化手法を体系的に誤解させる。
  • 空間充填のラテン超方格ではなく一様なランダム初期設計を使用すると、設計空間の領域が十分にカバーされず、代理モデルの盲点が生じる。
  • ノイズの多いシミュレーションや物理実験などの確率的応答を持つ問題に、代理モデルでノイズを考慮せずにこの手法を適用すると、真の傾向ではなくノイズに過剰適合し、最適化手法が誤った方向に導かれる。
  • 代理モデルが収束する前に更新ループを早期に停止すると、報告された最適値が真の設計改善ではなく、代理モデルのアーティファクトである可能性がある。

よくある質問

どの代理モデルタイプを選択すべきか — クリーギング、RBF、または多項式?

クリーギング(ガウス過程)は、予測と点ごとの不確実性推定の両方を提供し、期待改善などの原理的な追加戦略を可能にするため、工学設計のデフォルトである。動径基底関数は計算量が少なく、ある程度スケールが良い。多項式応答曲面はシンプルで解釈可能だが、非線形または多峰性の応答には苦労する。次元数または学習セットサイズが非実用的でない限り、クリーギングから始める。

初期設計点はいくつ必要か?

一般的な経験則では、初期ラテン超方格サンプルの設計変数の数の10倍であるが、これは応答の滑らかさに依存する。最適化が進む前に代理モデルが適切であることを、検証指標(交差検証R二乗、RMSE)で確認する必要がある。追加の点は、一度にすべてではなく、追加ループを通じて追加される。

代理モデルベース最適化はベイズ最適化と同じか?

密接に関連しているが、同一ではない。ベイズ最適化は、追加点の選択に確率的取得関数(期待改善など)を持つガウス過程代理モデルを使用する代理モデルベース最適化の特定の形式である。より広範な代理モデルベース最適化フレームワークには、非確率的代理モデル(RBF、多項式)やその他の追加基準が含まれるため、ベイズ最適化はそのサブセットである。

シミュレーションが決定論的ではなくノイズが多い場合はどうなるか?

標準的なクリーギングは決定論的応答を仮定する。確率的シミュレータの場合、クリーギング共分散モデル(ナゲットパラメータまたは確率的クリーギング)にノイズ項を追加する必要がある。これがないと、代理モデルは真の傾向ではなくノイズに過剰適合し、最適化手法が誤った方向に導かれる。

関連する手法

参考文献

  1. Forrester, A., Sobester, A., & Keane, A. (2008). Engineering Design via Surrogate Modelling: A Practical Guide. Wiley.

    出版物の文献を開く
    コピーしました。
  2. Sacks, J., Welch, W. J., Mitchell, T. J., & Wynn, H. P. (1989). Design and Analysis of Computer Experiments. Statistical Science, 4(4), 409-423.

    DOI 文献を開く
    コピーしました。