学習レベル：大学生 難易度：★☆☆☆☆
確率変数の組\((X,\ Y)\)が得られたときを考えます。このとき、確率変数\(Y\)が与えられている下で、確率変数\(X\)の期待値を考えます。この期待値を条件付き期待値と呼びます。条件付き期待値を理解するには、条件付き確率の理解が必須なので復習しておくことをオススメします。
※ 条件付き確率については＜条件付き確率の記事＞を参照してください。
条件付き期待値の定義
条件付き期待値(conditional mean)
確率変数の組\((X,\ Y)\)が得られたとき、確率変数\(Y\)が与えられている下で、確率変数\(X\)の期待値を、条件付き期待値と呼び\(\mathrm{E}[X|Y]\)で表し以下のように定義されます。\[
\mathrm{E}[X|Y] = \left\{
\begin{align}
&\sum_{i}x_{i}f(x_{i}|y)\ \ \ （離散型）\\
&\int_{-\infty}^{\infty}xf(x|y)dx\ \ \ （連続型）
\end{align}
\right.
\]ここで、\(f(x_{i}|y)\)は\(Y\)を与えた下での\(X\)の確率関数を表し、\(f(x|y)\)は\(Y\)を与えた下での\(X\)の確率密度関数を表しています。
条件付き期待値が意味することは、普通の期待値と全く同じです。
※ 期待値については＜期待値の定義の記事＞をご覧ください。
条件付き期待値の性質
条件付き期待値の性質
確率変数の組\((X,\ Y)\)が得られたとき、確率変数\(Y\)が与えられている下で、確率変数\(X\)条件付き期待値\(\mathrm{E}[X|Y]\)には次の性質があります。$$\mathrm{E}[X] = \mathrm{E}_{Y}\left[ \mathrm{E}\left[ X|Y \right] \right]$$ただし、\(\mathrm{E}_{Y}\)は\(Y\)の期待値を表します。
この性質が成り立つかどうか下に証明を与えています。
■証明
右辺を変形していきます。離散型のみを紹介しますが、連続型でも同様の手順で行います。
\begin{align}
\mathrm{E}_{Y}\left[ \mathrm{E}\left[ X|Y \right] \right] &= \mathrm{E}_{Y}\left[ \sum_{i}x_{i}f(x_{i}|y) \right] \\
&= \mathrm{E}_{Y}\left[ \sum_{i}x_{i}\frac{\mathrm{P}(X=x_{i},\ Y=y)}{\mathrm{P}(Y=y)} \right] \\
&= \sum_{i}\sum_{j}x_{i}\frac{\mathrm{P}(X=x_{i},\ Y=y_{j})}{\mathrm{P}(Y=y_{j})}\mathrm{P}(Y=y_{j}) \\
&= \sum_{i}\sum_{j}x_{i}\mathrm{P}(X=x_{i},\ Y=y_{j}) \\
&= \sum_{i}x_{i}\mathrm{P}(X=x_{i})\\
&= \mathrm{E}[X]
\end{align}
\mathrm{E}_{Y}\left[ \mathrm{E}\left[ X|Y \right] \right] &= \mathrm{E}_{Y}\left[ \sum_{i}x_{i}f(x_{i}|y) \right] \\
&= \mathrm{E}_{Y}\left[ \sum_{i}x_{i}\frac{\mathrm{P}(X=x_{i},\ Y=y)}{\mathrm{P}(Y=y)} \right] \\
&= \sum_{i}\sum_{j}x_{i}\frac{\mathrm{P}(X=x_{i},\ Y=y_{j})}{\mathrm{P}(Y=y_{j})}\mathrm{P}(Y=y_{j}) \\
&= \sum_{i}\sum_{j}x_{i}\mathrm{P}(X=x_{i},\ Y=y_{j}) \\
&= \sum_{i}x_{i}\mathrm{P}(X=x_{i})\\
&= \mathrm{E}[X]
\end{align}
となるので、求めたい式が出てきました。ここで式変形では同時確率分布の性質を利用しました。
※ 同時確率分布については＜同時確率分布の記事＞をご覧ください。
□
条件付き期待値の関連記事
・条件付き分散：条件付き確率変数の分散の求め方を紹介しています。
・期待値の定義：期待値を定義しています。
・条件付き期待値：条件付き確率変数の期待値の求め方を紹介しています。
・期待値の性質：期待値の持つ性質をまとめています。