ベイズ最適化 — 逐次モデルベースのハイパーパラメータチューニング
- 提唱者
- Mockus (1975); popularised for ML by Snoek, Larochelle & Adams (2012)
- 年
- 1975 (foundational); 2012 (ML standard)
- 種類
- Sequential model-based black-box optimization
この文章は機械翻訳で、まだ確認されていません。 英語の原文を読む
何をする手法か?
ベイズ最適化は、高価なブラックボックス関数の最適値を、できるだけ少ない評価回数で見つけるための逐次的なモデルベース戦略です。Mockus (1975) の研究に端を発し、Snoek, Larochelle, and Adams (2012) によって機械学習の実践に広く導入されました。これは、過去の観測値に確率的サロゲートモデル(通常はガウス過程)を適合させ、獲得関数を用いて次に探索すべき点を決定します。この際、未知の領域の探索と有望な領域の活用とのバランスを取ります。
手法の背後にある直感
機械学習モデルの最適な設定を見つける必要があるが、各試行に数時間かかる場合を想像してみてください。すべての組み合わせを試す余裕はありません。ベイズ最適化は、慎重な科学者のように機能します。これまでに試されたことと、その結果を継続的にマッピングし、そのマップを使って最適値がどこにあるかを推測し、これまでの最良の結果を改善する可能性が最も高い次の実験を選択します。実験が進むにつれて、マップはより正確になり、選択はより賢明になります。これらすべては、ブラックボックス内部の数学的公式を知ることなく行われます。
歴史学
ベイズ最適化の理論的基礎は、1970年代にJonas Mockusらが逐次実験計画のための期待改善の概念を通じて築きました。このアプローチは、2012年にSnoek, Larochelle, and AdamsがNeurIPSで「Practical Bayesian Optimization of Machine Learning Algorithms」を発表し、GPベースのベイズ最適化が標準的な機械学習ベンチマークにおいて専門家による手動チューニングやランダムサーチを一貫して上回ることを実証するまで、主に学術的なままでした。この研究は、専用ライブラリの開発を促進し、ベイズ最適化を深層学習およびAutoMLパイプラインにおけるハイパーパラメータ探索のデファクトスタンダードとして確立しました。Peter Frazierの2018年のチュートリアル(arXiv:1807.02811)は、後にこの手法の適用範囲を機械学習コミュニティを超えて広げる統一的な教育的解説を提供しました。
使うべき場面
ベイズ最適化は、目的関数が高価または評価に時間がかかる場合(大規模モデルの訓練、物理シミュレーションの実行、実験室での実験など)で、予算が数十回から数百回程度の評価に限定される場合に適切な選択肢です。探索空間は、各パラメータの明示的な境界で定義される必要があります。この手法は連続パラメータと順序パラメータを自然に扱いますが、純粋なカテゴリカル空間や非常に高次元の空間(約20パラメータ以上)では、サロゲートの品質が低下する可能性があり、サロゲートとしてランダムフォレストを使用したり、次元削減の前処理を行ったりするなどの拡張が必要になる場合があります。評価が安価で並列処理が可能な場合は、より単純なランダムサーチやグリッドサーチが競合する可能性があります。
限界と注意点
- 非常に高次元のハイパーパラメータ空間へのスケーリングが不十分:ガウス過程の適合は計算コストが高くなり、約10〜20次元を超えるとサロゲートの精度が低下します。
- サロゲートカーネルと獲得関数の選択に敏感:不適切なデフォルト設定は、特に非定常または多峰性の目的関数において、収束を妨げる可能性があります。
- デフォルトでは逐次的:次の候補が選択される前に各評価が完了する必要があり、バッチモードまたは非同期拡張を使用しない限り並列処理が制限されます。
- 境界のある探索空間が必要:明示的な範囲のないパラメータは直接処理できません。
出典に示された条件は、独立した科学的レビューや分析エンジンによる検証の代わりにはなりません。
強み
- サンプル効率が高い:グリッドサーチやランダムサーチよりもはるかに少ない評価回数で良好な構成を見つけます。これは、各評価が遅いまたは高価な場合に重要です。
- 原則に基づいた探索と活用のバランス:獲得関数は、次にどこを探索すべきかについて、形式的で解釈可能な基準を提供します。
- モデルベースの不確実性:ガウス過程は性能を予測するだけでなく、自身の信頼度も定量化するため、情報に基づいた停止決定を可能にします。
- あらゆるブラックボックス目的関数に適用可能:この手法は勾配情報や目的関数の内部に関する数学的知識を必要としません。
応用
- 各訓練実行が計算コストの高い機械学習および深層学習モデルのハイパーパラメータチューニング。
- ニューラルアーキテクチャ探索 (NAS):層の幅、活性化関数、スキップ接続などのアーキテクチャの選択。
- 各物理実験が高価または時間のかかる工学および自然科学における実験計画。
- アルゴリズムとそのハイパーパラメータを共同で選択する自動機械学習 (AutoML) パイプライン。
- 候補構成の評価に実験室での作業が必要な創薬および材料科学。
使い方
使い方
実践者は探索空間を定義します。チューニングされる各ハイパーパラメータには、タイプ(連続、順序)と、最適化器が探索できる範囲(下限と上限)が与えられます。明確な空間定義は他のすべてに先行する前提条件であり、サロゲートが安全な領域を超えて外挿することを防ぎます。
探索空間内の少数の点が、ランダムに、または空間充填設計(例:ラテン超立方体サンプリング)によって評価されます。これらの初期観測値(通常5〜10点)は、逐次ループが始まる前に、目的関数の概略的なマップを形成するのに十分なデータをサロゲートに与えます。
これまでに収集されたすべての観測値は、確率的サロゲートモデル(最も一般的にはガウス過程)の適合に用いられます。ガウス過程は、空間内のすべての点において平均予測と不確実性推定の両方を返し、既知の情報とモデルの信頼度の両方を捉えます。サロゲートは評価が安価であるため、高価な真の目的関数の代わりに何千回も問い合わせることができます。
獲得関数(例:Expected Improvement (EI) や Upper Confidence Bound (UCB))は、次の候補点を選択するためにサロゲート上で最大化されます。EIは現在の最良値に対する期待される改善量を定量化し、UCBは信頼度で重み付けされた探索ボーナスを追加します。このステップで探索と活用のトレードオフが解決されます。高い予測性能を持つ領域と高い不確実性を持つ領域の両方が注目されます。
獲得関数によって選択された候補点は、真の目的関数に渡されます。例えば、そのハイパーパラメータでニューラルネットワークを訓練し、検証します。この評価は高価なステップです。その結果(スコア)は、候補点の座標とともに記録されます。
新しい観測値がデータセットに追加され、サロゲートが再適合され、ループは獲得ステップに戻ります。反復予算が尽きた後、観測された最良のスコアを生成したハイパーパラメータ構成が最終的な推奨として返されます。
よくある落とし穴
- 初期のランダムプローブが少なすぎると、サロゲートのキャリブレーションが不十分になります。少なくとも5つの初期点を使用し、高次元空間ではさらに多くの点を使用してください。
- 最適化器を非常に少ない総反復回数(約10回未満)で実行すると、サロゲートが信頼できるものになりません。このような場合は、単純なランダムサーチの方が望ましいです。
- 獲得関数の選択を無視する:EIは活用を重視し、初期の良好な結果の近くで停滞する可能性があります。UCBは調整可能な信頼度重みを通じて探索を追加します。どちらも普遍的に最良ではなく、デフォルトは問題の構造に対して検証されるべきです。
- ベイズ最適化自体をブラックボックスとして扱う:停滞を早期に検出するために、常に収束トレース(反復ごとの最良スコア)を検査してください。
- 評価が安価な場合にこの手法を適用する:ランダムサーチやグリッドサーチは、実装オーバーヘッドのごく一部で同様に収束します。
よくある質問
ベイズ最適化はグリッドサーチやランダムサーチとどう違うのですか?
グリッドサーチは固定された構成の格子を評価し、ランダムサーチは一様にランダムにサンプリングします。どちらも次の点を選択する際に以前の試行の結果を無視します。ベイズ最適化は、すべての過去の観測値を積極的に使用してサロゲートモデルを構築し、現在の最良値を改善する可能性が最も高い次の点を選択するため、評価が高価な場合にサンプル効率がはるかに高くなります。
どの獲得関数を使用すべきですか?
Expected Improvement (EI) は最も広く使用されているデフォルトです。現在の最良値に対する期待される改善量を測定し、問題の種類を問わず信頼性が高い傾向があります。Upper Confidence Bound (UCB) は調整可能な探索ボーナスを追加し、ランドスケープが十分に理解されていない場合に好まれることが多いです。Probability of Improvement (PI) は活用重視であり、時期尚早に収束する可能性があります。EIから始め、最適化器が停滞するように見える場合はUCBに切り替えてください。
何回の反復が必要ですか?
普遍的なルールはありませんが、総評価回数(初期のランダムプローブを含む)が約10回未満では、サロゲートが信頼できるものになるにはデータが少なすぎます。実用的な展開では、通常5〜10個の初期ランダム点に続いて20〜50回の逐次ベイズステップが使用されます。最良スコアが数回の連続した反復で改善しなくなった場合、予算を停止できます。
ベイズ最適化は並列化できますか?
標準的なベイズ最適化は本質的に逐次的です。バッチモード拡張では、一連の候補を同時に提案できます。一般的な戦略にはLocal PenalizationやKriging Believerヒューリスティックがあり、並列評価を可能にします。非同期バリアントは、ワーカーが空き状態になるたびに新しい候補を起動し、完全なバッチを待つことはありません。これらの拡張は、OptunaやBoTorchなどのライブラリで利用できます。