調べたメモ
MCMCの基本的なアイデア
MCMCは、大きな迷路の中を歩く猿を想像してください。この迷路には、特別な部屋(「状態」と呼ばれます)がたくさんあり、各部屋は異なるおやつ(確率分布の値に対応)を持っています。しかし、猿はどの部屋が最も良いおやつを持っているかわかりません。
そこで、猿はランダムに部屋を移動しますが、おいしいおやつが多い部屋には長く滞在し、そうでない部屋は早く出ていきます。このプロセスを繰り返すことで、猿は迷路の中で最も良いおやつを持つ部屋に徐々に集まるようになります。
MCMCのプロセス
初期位置
猿は迷路のどこかの部屋からスタートします。
ランダムな移動
猿は次に行く部屋をランダムに選びます。
滞在時間の決定
部屋によっておやつの量が違うので、おいしいおやつが多い部屋には長く滞在し、少ない部屋からは早く出ます。
4. **繰り返し**:
このプロセスを繰り返します。
結果
時間が経つにつれて、猿は迷路の中で最もおいしいおやつを持つ部屋に多くの時間を過ごすようになります。これが、MCMCが目的の確率分布(この例では最もおいしいおやつの部屋)に収束するということです。
まとめ
MCMCは、ランダムにサンプリング(部屋を選ぶこと)して、時間が経つにつれて、より重要な状態(良いおやつの部屋)に集中するようになります。この方法で、複雑な問題の解(最も良いおやつのある部屋)を見つけることができます。
MCMCの「おやつ」の評価
MCMCにおける「おやつ」は、実際には確率分布の値に相当します。猿(MCMCアルゴリズム)は、次のようにして「おやつ」の良さを評価します:
確率の計算
各部屋(状態)には特定の確率値(おやつの良さ)が割り当てられています。この値は、問題におけるある特定の条件(データやモデル)に基づいて計算されます。
比較
猿は新しい部屋に移動した際、そこでのおやつ(確率値)を、前の部屋のおやつと比較します。
決定
もし新しい部屋のおやつが前の部屋よりも良ければ、猿はそこに滞在しやすくなります。逆に、おやつが悪ければ、猿は次の部屋に移動する可能性が高くなります。
MCMCにおける「おやつ」のメタファー
この「おやつ」のメタファーは、MCMCがどのようにして目的の確率分布(理想的な解)に近づいていくかを表しています。実際のMCMCアルゴリズムでは、数学的な計算と確率的なルールに基づいて、次に移動する状態を選択しています。
猿(MCMCアルゴリズム)は、ランダムな探索と確率的な決定を通じて、最終的には最も「おいしいおやつ」(最適な確率分布の状態)を見つけ出すことができます。このプロセスを通じて、複雑な確率分布を効率的に探索し、その特性を理解することが可能になります。