はじめに

　機械学習や統計学で登場する各種の確率分布について、「計算式の導出・計算のスクラッチ実装・計算過程や結果の可視化」などの「数式・プログラム・図」を用いた解説により、様々な角度から理解を目指すシリーズです。

　この記事では、ポアソン分布の統計量について数式を使って確認します。

【前の内容】

【他の内容】

【今回の内容】

ポアソン分布の統計量の導出：特性関数の場合

　ポアソン分布(Poisson distribution)の期待値(平均)と分散の計算式を導出します。この記事では、特性関数(characteristic function)から各種の統計量を求めます。
　ポアソン分布については「ポアソン分布の定義式 - からっぽのしょこ」、特性関数については「ポアソン分布の特性関数の導出 - からっぽのしょこ」を参照してください。

統計量の導出

　ポアソン分布の特性関数を用いて、統計量の計算式を求めます。

定義式の確認

　ポアソン分布の特性関数は、パラメータ $\lambda$ を用いて、次の式で定義されます。

$\displaystyle \varphi(t) = e^{\lambda (e^{it} - 1)}$

　ここで、 $\lambda$ は単位時間における事象の発生回数の期待値を表します。 $\lambda$ は正の値 $\lambda \gt 0$ を満たす必要があります。
　また、 $e$ はネイピア数、 $i$ は虚数単位です。
　詳しくは「特性関数の導出」を参照してください。

1階微分の計算式

　特性関数 $\varphi(t)$ を $t$ に関して微分します。

$\displaystyle \frac{\mathrm{d} \varphi(t)}{\mathrm{d} t} = \frac{\mathrm{d}}{\mathrm{d} t} \Bigl\{ e^{\lambda (e^{it} - 1)} \Bigr\}$

　合成関数の微分を行います。

$\displaystyle \begin{align} \frac{\mathrm{d} \varphi(t)}{\mathrm{d} t} &= e^{\lambda (e^{it} - 1)} \frac{\mathrm{d}}{\mathrm{d} t} \Bigl\{ \lambda (e^{it} - 1) \Bigr\} \\ &= e^{\lambda (e^{it} - 1)} \left( \lambda \frac{\mathrm{d} e^{it}}{\mathrm{d} t} - \frac{\mathrm{d} \lambda}{\mathrm{d} t} \right) \\ &= e^{\lambda (e^{it} - 1)} (i \lambda ^{it} - 0) \\ &= i \lambda e^{\lambda (e^{it} - 1) + it} \tag{1} \end{align}$

途中式の途中式(クリックで展開)

1: 式全体を $g(f(x))$ 、指数部分を $f(x)$ として、合成関数の微分 $\frac{\mathrm{d} g(f(x))}{\mathrm{d} x} = \frac{\mathrm{d} g(x)}{\mathrm{d} f(x)} \frac{\mathrm{d} f(x)}{\mathrm{d} x}$ を行います。
1: 指数関数の微分は $\frac{\mathrm{d} e^x}{\mathrm{d} x} = e^x$ です。
2: 元の式の指数部分を $f(x) + g(x)$ として、和の微分 $\frac{\mathrm{d} f(x) + g(x)}{\mathrm{d} x} = \frac{\mathrm{d} f(x)}{\mathrm{d} x} + \frac{\mathrm{d} g(x)}{\mathrm{d} x}$ を行います。
2: $t$ と無関係な項を $\frac{\mathrm{d}}{\mathrm{d} x}$ の外に出します。
3: 係数を含む指数関数の微分は $\frac{\mathrm{d} e^{ax}}{\mathrm{d} x} = e^{ax} \frac{\mathrm{d} ax}{\mathrm{d} x} = a e^{ax}$ です。
3: 定数の微分は $\frac{\mathrm{d} a}{\mathrm{d} x} = 0$ です。
4: 指数の性質 $x^a x^b = x^{a+b}$ より、ネイピア数の項をまとめます。

　1階微分の式が得られました。

2階微分の計算式

　特性関数 $\varphi(t)$ を $t$ に関して2階微分します。

$\displaystyle \begin{aligned} \frac{\mathrm{d}^2 \varphi(t)}{\mathrm{d} t^2} &= \frac{\mathrm{d}}{\mathrm{d} t} \frac{\mathrm{d} \varphi(t)}{\mathrm{d} t} \\ &= \frac{\mathrm{d}}{\mathrm{d} t} \Bigl\{ i \lambda e^{\lambda (e^{it} - 1) + it} \Bigr\} \end{aligned}$

途中式の途中式(クリックで展開)

1: 2階微分(1階微分を更に微分する)の式を立てます。
2: 1階微分の項を式(1)と置き換えます。

　合成関数の微分を行います。

$\displaystyle \begin{aligned} \frac{\mathrm{d}^2 \varphi(t)}{\mathrm{d} t^2} &= i \lambda e^{\lambda (e^{it} - 1) + it} \frac{\mathrm{d}}{\mathrm{d} t} \Bigl\{ \lambda (e^{it} - 1) + it \Bigr\} \\ &= i \lambda e^{\lambda (e^{it} - 1) + it} \left( \lambda \frac{\mathrm{d} e^{it}}{\mathrm{d} t} - \frac{\mathrm{d} \lambda}{\mathrm{d} t} + i \frac{\mathrm{d} t}{\mathrm{d} t} \right) \\ &= i \lambda e^{\lambda (e^{it} - 1) + it} (\lambda i e^{it} - 0 + i) \\ &= i^2 \lambda e^{\lambda (e^{it} - 1) + it} (\lambda e^{it} + 1) \\ &= - \lambda e^{\lambda (e^{it} - 1) + it} (\lambda e^{it} + 1) \end{aligned}$

途中式の途中式(クリックで展開)

1-3: 「1階微分の計算式」のときと同様にして式を変形します。
4: $i$ を括ります。
5: 虚数単位の定義より、 $i^2 = -1$ です。

　2階微分の式が得られました。

スポンサードリンク

期待値の計算式

　特性関数の微分に $t = 0$ を代入し、虚数単位 $i$ の逆数を掛けると、期待値が求まります。

$\displaystyle \mathbb{E}[x] = \frac{1}{i} \left. \frac{\mathrm{d} \varphi(t)}{\mathrm{d} t} \right|_{t=0}$

　特性関数の微分の式(1)に $t = 0$ を代入した式と置き換えます。

$\displaystyle \begin{aligned} \mathbb{E}[x] &= \frac{1}{i} i \lambda e^{\lambda (e^{0} - 1) + 0} \\ &= \lambda e^0 \\ &= \lambda \end{aligned}$

途中式の途中式(クリックで展開)

1: $\varphi'(0)$ の式に置き換えます。
2-3: 0乗は $x^0 = 1$ です。

　期待値の式が得られました。

2乗の期待値の計算式

　特性関数の2階微分に $t = 0$ を代入し、虚数単位 $i$ の2乗の逆数を掛けると、2乗の期待値が求まります。

$\displaystyle \mathbb{E}[x^2] = \frac{1}{i^2} \left. \frac{\mathrm{d}^2 \varphi(t)}{\mathrm{d} t^2} \right|_{t=0}$

　特性関数の2階微分の式(2)に $t = 0$ を代入した式と置き換えます。

$\displaystyle \begin{align} \mathbb{E}[x^2] &= \frac{1}{-1} \Bigl\{ - \lambda e^{\lambda (e^{i0} - 1) + i0} (\lambda e^{i0} + 1) \Bigr\} \\ &= \lambda e^0 (\lambda + 1) \\ &= \lambda^2 + \lambda \tag{4} \end{align}$

途中式の途中式(クリックで展開)

1: $\varphi''(0)$ の式に置き換えます。
1: 虚数単位の定義より、 $i^2 = -1$ です。
2-3: 0乗は $x^0 = 1$ です。

　2乗の期待値の式が得られました。

スポンサードリンク

分散の計算式

　分散は、「 $x$ の2乗の期待値」と「 $x$ の期待値の2乗」の差で求まります。

$\displaystyle \begin{aligned} \mathbb{V}[x] &= \mathbb{E}[x^2] - (\mathbb{E}[x])^2 \\ &= \lambda^2 + \lambda - \lambda^2 \\ &= \lambda \end{aligned}$

途中式の途中式(クリックで展開)

1: 期待値を用いた $x$ の分散の式を立てます。
2: 前の項に式(4)、後の項に式(3)の2乗を代入します。

　分散の式が得られました。

　以上で、ポアソン分布の統計量の計算式が求まりました。

　この記事では、ポアソン分布の特性関数から統計量の式を求めました。

参考文献

作者:星野満博,西崎雅仁
晃洋書房

おわりに

　順調です。

2025.08.16：加筆修正しました。

　この辺の内容を書いてる段階ではモチベ的にもレベル的にも順調なんだと思います。

【次の内容】