特性関数とは【定義と意味を解説】 | 初心者からはじめる統計学

学習レベル：大学生　難易度：★★☆☆☆

積率母関数を一般化したものに特性関数があります。積率母関数は期待値が存在する分布でないと求めることができません（コーシー分布など）。しかし、特性関数はどのような分布に対しても必ず存在します。積率母関数がもつ性質を特性関数も持っているので、かなり便利な関数になります。

1 特性関数の定義
2 反転定理
3 モーメントに関する関連記事

特性関数の定義

特性関数(characteristic function(cf))

確率変数$X$の特性関数は記号$\phi_{X}(t)$で表し、下式で定義します。$$\phi_{X}(t) = \mathrm{E}\left[ e^{itX} \right] $$ここで$i^{2}=-1$です。

特性関数が必ず存在する理由なんですが、ド・モアブルの公式から$$e^{itX}=\cos(tX)+i\sin(tX)$$を用いれば$$\left| e^{itX} \right|=\cos^{2}(tX)+\sin^{2}(tX)=1$$となることを用いると、$$\left| \phi_{X}(t) \right|<1$$となります。このとき$\phi_{X}(t)$が絶対収束すれば$\phi_{X}(t)$も収束することから特性関数は必ず存在することが分かります。

特性関数に関しては次のような性質があります。

特性関数と原点まわりのモーメント

特性関数と原点まわりのモーメント

特性関数$M_{X}(t)$を用いて、$k$次の原点まわりのモーメント$\mu_{k}^{\prime}$を次のように表すことができます。$$\mu_{k}^{\prime}= \left.(-i)^{k}\frac{d^{k}}{dt^{k}}\phi_{X}(t)\right|_{t=0}$$

※　モーメントについては＜モーメントの記事＞をご覧ください。

この式の計算方法ですが、まず$\phi_{X}(t)$を$t$で$k$回微分した後に$t$に$0$を代入します。

証明自体はとっても簡単ですが、マクローリン展開の知識が必要になります。

$e^{itX}$を$t$についてマクローリン展開してみると

\begin{align}
e^{itX} = 1+(it)X+\frac{(it)^{2}}{2!}X^{2}+\frac{(it)^{3}}{3!}X^{3}+\cdots
\end{align}

となります。この結果を用いて、積率母関数を書き換えると

\begin{align}
\phi_{X}(t) &= \mathrm{E}\left[ 1+(it)X+\frac{(it)^{2}}{2!}X^{2}+\frac{(it)^{3}}{3!}X^{3}+\cdots \right] \\
&= 1+it\mathrm{E}\left[ X \right]+\frac{(it)^{2}}{2!}\mathrm{E}\left[ X^{2} \right] + \frac{(it)^{3}}{3!}\mathrm{E}\left[ X^{3} \right]+\cdots\\
&= 1+it\mu_{1}^{\prime}+\frac{(it)^{2}}{2!}\mu_{2}^{\prime} + \frac{(it)^{3}}{3!}\mu_{3}^{\prime}+\cdots
\end{align}

となります。$t$で$k$回微分すると

\begin{align}
\frac{d^{k}}{dt^{k}}M_{X}(t) &= i^{k}\mu_{k}^{\prime} +i^{k+1}t\mu_{k+1}^{\prime}+\cdots
\end{align}

となります。この式に$t=0$を代入し両側に$(-i)^{k}$をかけると

\begin{align}
\left.(-i)^{k}\frac{d^{k}}{dt^{k}}M_{X}(t)\right|_{t=0} = \mu_{k}^{\prime}
\end{align}

が成立します。

特性関数と変数変換

特性関数は積率母関数と同じような性質を持っています。以降は特性関数版の性質を紹介していきます。

特性関数と変数変換

確率変数$X$を定数$a,b$を用いて変数変換した$Y=a+bX$の特性関数$\phi_{Y}(t)$は次のようになります。$$\phi_{Y}(t) = e^{iat}\phi_{X}(bt)$$

定義どおりに計算すると求められます。

\begin{align}
\phi_{Y}(t) &= \mathrm{E}\left[ e^{itY} \right] \\
&= \mathrm{E}\left[ e^{it(a+bX)} \right] \\
&= e^{iat}\mathrm{E}\left[ e^{ibtX} \right] \\
&= e^{iat}\phi_{X}(bt)
\end{align}

これで、変数変換した確率変数の特性関数を求めることができました。

特性関数と確率変数の和

特性関数と確率変数の和

互いに独立な確率変数$X_{1},X_{2},\cdots,X_{n}$の特性関数をそれぞれ$\phi_{X_{1}}(t),\phi_{X_{2}}(t),\cdots,\phi_{X_{n}}(t)$とします。このとき$X=X_{1}+X_{2}+\cdots+X_{n}$の積率母関数$\phi_{X}(t)$は次のようになります。$$\phi_{X}(t) = \prod_{i=1}^{n}\phi_{X_{i}}(t)$$特に、$X_{1},X_{2},\cdots,X_{n}$がすべて同じ特性関数$\phi_{X^{\prime}}(t)$を持つとき$$\phi_{X}(t) = \left[\phi_{X^{\prime}}(t)\right]^{n}$$となります。

この式の証明も定義どおりに計算すればでてきます。

\begin{align}
\phi_{X}(t) &= \mathrm{E}\left[ e^{itX} \right] \\
&= \mathrm{E}\left[ e^{it(X_{1}+X_{2}+\cdots+X_{n})} \right] \\
&= \mathrm{E}\left[ e^{itX_{1}} \right]\mathrm{E}\left[ e^{itX_{2}} \right]\cdots\mathrm{E}\left[ e^{itX_{n}} \right] \\
&= \prod_{i=1}^{n}\phi_{X_{i}}(t)
\end{align}

特性関数と確率分布

特性関数と確率分布

確率変数$X$の特性関数$\phi_{X}(t)$と、確率変数$Y$の特性関数$\phi_{Y}(t)$が$t=0$の近傍で等しければ、$X$と$Y$は同じ分布を持ちます。

証明はやや面倒なので、ここでは省略します。

この性質は特性関数が等しければ確率分布も等しいことを保証しています。積率母関数でも同じことが言えましたが、特性関数でも同じことができることが重要です！

反転定理

特性関数から確率関数・確率密度関数を求めることができる反転定理というものがあります。この節では反転定理について紹介します。

反転定理(inversion theorem)

確率変数$X$の特性関数$\phi_{X}(t)$について$$\int_{-\infty}^{\infty}\phi_{X}(t)dt,\ \ \ \ \int_{-\infty}^{\infty}\left|\phi_{X}(t)\right|dt$$が存在するときを考えます（このことを絶対可積分といいます）。
　このとき確率関数・確率密度関数はそれぞれ次のようになります。
・離散型の確率変数の場合
　$X$が整数値のみをとる離散型の確率変数の場合、確率関数$p(x)$は次式になります。$$p(x) = \frac{1}{2\pi}\int_{-\pi}^{\pi}e^{-itx}\phi_{X}(t)dt$$ ・連続型の確率変数の場合
　$X$が連続型の確率変数の場合、確率密度関数$f(x)$は次式になります。$$f(x) = \frac{1}{2\pi}\int_{-\infty}^{\infty}e^{-itx}\phi_{X}(t)dt$$

証明はかなり難しいので省略します（かなり準備が必要です）。

　特性関数はまだまだたくさん性質があるのですが、この記事では必要最低限の性質を紹介しました。大数の法則や中心極限定理の証明にも使用されることがあるので、特性関数は覚えておきましょう！

モーメントに関する関連記事

・モーメント：モーメントについて定義しています。

・確率母関数：離散型確率変数について$k$次の階乗モーメントを求めるための関数となります。

・積率母関数：$k$次の原点まわりのモーメントを求めるための関数となります。

・キュムラント母関数：キュミュラントを用いて積率母関数を表します。

・母関数間の関係のまとめ：母関数間の関係をまとめています。