学習レベル：大学生 難易度：★★☆☆☆
原点まわりのモーメントを求めるための関数に積率母関数というものがあります。積率母関数を用いれば期待値や分散を求める際に、とても楽になります。加えて、積率母関数と確率分布と1対1の対応があり、積率母関数が異なるデータは確率分布も異なるという性質を持っています。是非とも積率母関数は使いこなしておきたいものとなります。
積率母関数の定義
積率母関数(moment generating function(mgf))
確率変数\(X\)へ\(-\infty < t < \infty\)を満たす任意の\(t\)に対して積率母関数は記号\(M_{X}(t)\)で表し、下式で定義します。$$M_{X}(t) = \mathrm{E}\left[ e^{tX} \right] $$
積率母関数に関しては次のような性質があります。
積率母関数と原点まわりのモーメント
確率母関数と原点まわりのモーメント
積率母関数\(M_{X}(t)\)を用いて、\(k\)次の原点まわりのモーメント\(\mu_{k}^{\prime}\)を次のように表すことができます。$$\mu_{k}^{\prime}= \left.\frac{d^{k}}{dt^{k}}M_{X}(t)\right|_{t=0}$$
この式の計算方法ですが、まず\(M_{X}(t)\)を\(t\)で\(k\)回微分した後に\(t\)に\(0\)を代入します。
証明自体はとっても簡単ですが、マクローリン展開の知識が必要になります。
\(e^{tX}\)を\(t\)についてマクローリン展開してみると
\begin{align}
e^{tX} = 1+tX+\frac{t^{2}}{2!}X^{2}+\frac{t^{3}}{3!}X^{3}+\cdots
\end{align}
e^{tX} = 1+tX+\frac{t^{2}}{2!}X^{2}+\frac{t^{3}}{3!}X^{3}+\cdots
\end{align}
となります。この結果を用いて、積率母関数を書き換えると
\begin{align}
M_{X}(t) &= \mathrm{E}\left[ 1+tX+\frac{t^{2}}{2!}X^{2}+\frac{t^{3}}{3!}X^{3}+\cdots \right] \\
&= 1+t\mathrm{E}\left[ X \right]+\frac{t^{2}}{2!}\mathrm{E}\left[ X^{2} \right] + \frac{t^{3}}{3!}\mathrm{E}\left[ X^{3} \right]+\cdots\\
&= 1+t\mu_{1}^{\prime}+\frac{t^{2}}{2!}\mu_{2}^{\prime} + \frac{t^{3}}{3!}\mu_{3}^{\prime}+\cdots
\end{align}
M_{X}(t) &= \mathrm{E}\left[ 1+tX+\frac{t^{2}}{2!}X^{2}+\frac{t^{3}}{3!}X^{3}+\cdots \right] \\
&= 1+t\mathrm{E}\left[ X \right]+\frac{t^{2}}{2!}\mathrm{E}\left[ X^{2} \right] + \frac{t^{3}}{3!}\mathrm{E}\left[ X^{3} \right]+\cdots\\
&= 1+t\mu_{1}^{\prime}+\frac{t^{2}}{2!}\mu_{2}^{\prime} + \frac{t^{3}}{3!}\mu_{3}^{\prime}+\cdots
\end{align}
となります。\(t\)で\(k\)回微分すると
\begin{align}
\frac{d^{k}}{dt^{k}}M_{X}(t) &= \mu_{k}^{\prime} +t\mu_{k+1}^{\prime}+\cdots
\end{align}
\frac{d^{k}}{dt^{k}}M_{X}(t) &= \mu_{k}^{\prime} +t\mu_{k+1}^{\prime}+\cdots
\end{align}
となります。この式に\(t=0\)を代入すると
\begin{align}
\left.\frac{d^{k}}{dt^{k}}M_{X}(t)\right|_{t=0} = \mu_{k}^{\prime}
\end{align}
\left.\frac{d^{k}}{dt^{k}}M_{X}(t)\right|_{t=0} = \mu_{k}^{\prime}
\end{align}
が成立します。
確率母関数と変数変換
確率母関数と変数変換
確率変数\(X\)を定数\(a,b\)を用いて変数変換した\(Y=a+bX\)の積率母関数\(M_{Y}(t)\)は次のようになります。$$M_{Y}(t) = e^{at}M_{X}(bt)$$
この式を証明してみましょう！
定義どおりに計算すると求められます。
\begin{align}
M_{Y}(t) &= \mathrm{E}\left[ e^{tY} \right] \\
&= \mathrm{E}\left[ e^{t(a+bX)} \right] \\
&= e^{at}\mathrm{E}\left[ e^{btX} \right] \\
&= e^{at}M_{X}(bt)
\end{align}
M_{Y}(t) &= \mathrm{E}\left[ e^{tY} \right] \\
&= \mathrm{E}\left[ e^{t(a+bX)} \right] \\
&= e^{at}\mathrm{E}\left[ e^{btX} \right] \\
&= e^{at}M_{X}(bt)
\end{align}
確率母関数と確率変数の和
確率母関数と確率変数の和
互いに独立な確率変数\(X_{1},X_{2},\cdots,X_{n}\)の積率母関数をそれぞれ\(M_{X_{1}}(t),M_{X_{2}}(t),\cdots,M_{X_{n}}(t)\)とします。このとき\(X=X_{1}+X_{2}+\cdots+X_{n}\)の積率母関数\(M_{X}(t)\)は次のようになります。$$M_{X}(t) = \prod_{i=1}^{n}M_{X_{i}}(t)$$特に、\(X_{1},X_{2},\cdots,X_{n}\)がすべて同じ積率母関数\(M_{X^{\prime}}(t)\)を持つとき$$M_{X}(t) = \left[M_{X^{\prime}}(t)\right]^{n}$$となります。
この式の証明も定義どおりに計算すればでてきます。上と全く同じ証明になるので、省略します。
積率母関数と確率分布
確率母関数と確率分布
確率変数\(X\)の積率母関数\(M_{X}(t)\)と、確率変数\(Y\)の積率母関数\(M_{Y}(t)\)が\(t=0\)の近傍で等しければ、\(X\)と\(Y\)は同じ分布を持ちます。
証明はやや面倒なので、ここでは省略します。
この性質は積率母関数の中でも重要な性質になります。
この性質は積率母関数が等しければ確率分布も等しいことを保証しています。
モーメントに関する関連記事
・モーメント：モーメントについて定義しています。
・確率母関数：離散型確率変数について\(k\)次の階乗モーメントを求めるための関数となります。
・特性関数：積率母関数を一般化したものになります。
・キュムラント母関数：キュミュラントを用いて積率母関数を表します。
・母関数間の関係のまとめ：母関数間の関係をまとめています。