はじめに

　機械学習や統計学で登場する各種の確率分布について、「計算式の導出・計算のスクラッチ実装・計算過程や結果の可視化」などの「数式・プログラム・図」を用いた解説により、様々な角度から理解を目指すシリーズです。

　この記事では、ポアソン分布の定義について数式を使って確認します。

【前の内容】

www.anarchive-beta.com

【他の内容】

www.anarchive-beta.com

【今回の内容】

ポアソン分布の定義式

　ポアソン分布(Poisson distribution)の定義式や、関連する計算式を確認します。

確率分布の定義式

　稀に起こる(発生確率が低い)事象が「一定期間に発生する回数」の確率分布をポアソン分布と言います。

　単位時間における発生回数を $x$ で表します。 $x$ は、0以上の整数(非負の整数)をとります。これを次のように表記します。

$\displaystyle x \in \{0, 1, 2, \cdots\}$

　単位時間における発生回数の期待値を $\lambda$ で表します。 $\lambda$ は、0より大きい実数(正の値)を満たす必要があります。

$\displaystyle \lambda \gt 0$

　ポアソン分布は、パラメータ $\lambda$ を用いて、次の式で定義されます。

$\displaystyle \begin{aligned} \mathrm{Poisson}(x \mid \lambda) &= e^{-\lambda} \frac{\lambda^x}{x!} \\ &= \exp(-\lambda) \frac{\lambda^x}{x!} \end{aligned}$

　ここで、 $e$ はネイピア数(自然対数の底)、 $x!$ は $x$ の階乗です。ネイピア数の指数関数を $e^x = \exp(x)$ とも表記します。

　対数をとったポアソン分布は、次の式になります。

$\displaystyle \log \mathrm{Poisson}(x \mid \lambda) = - \lambda + x \log \lambda - \log x!$

途中式の途中式(クリックで展開)

　対数の性質 $\log (x y) = \log x + \log y$ 、 $\log \frac{x}{y} = \log x - \log y$ 、 $\log x^a = a \log x$ 、対数と指数の関係 $\log e^x = x$ により、式を変形しています。

確率分布の正規化項

　ポアソン分布の正規化項は、次の式です。

$\displaystyle \begin{aligned} \mathrm{C}_{\mathrm{Poi}} &= \frac{1}{e^{\lambda}} \\ &= e^{-\lambda} \end{aligned}$

　定義式の変数の項について、全ての事象の和をとると、次の式が得られます。

$\displaystyle \sum_{x=0}^{\infty} \frac{\lambda^x}{x!} = e^{\lambda}$

　正規化項は、変数の項に関する全事象の和の逆数で定義されます。
　詳しくは「正規化項の導出」を参照してください。

　ここまでで、ポアソン分布の定義式を確認しました。続いて、ポアソン分布に関する各種の式を確認していきます。

スポンサードリンク

エントロピーの計算式

　ポアソン分布のエントロピーは、次の式になります。

$\displaystyle \begin{aligned} H(x) &= \lambda (1 - \log \lambda) + \mathbb{E}[\log x!] \\ &= \lambda (1 - \log \lambda) + e^{-\lambda} \sum_{x=0}^{\infty} \frac{\lambda^x \log x!}{x!} \end{aligned}$

　詳しくは「ポアソン分布のエントロピーの導出 - からっぽのしょこ」を参照してください。

モーメント母関数の計算式

　ポアソン分布のモーメント母関数(積率母関数)は、次の式になります。

$\displaystyle \begin{aligned} M(t) &= e^{\lambda (e^t - 1)} \\ &= \exp \Bigl( \lambda (\exp(t) - 1) \Bigr) \end{aligned}$

　詳しくは「ポアソン分布のモーメント母関数の導出 - からっぽのしょこ」を参照してください。

　ポアソン分布の特性関数は、次の式になります。

$\displaystyle \begin{aligned} \varphi(t) &= e^{\lambda (e^{it} - 1)} \\ &= \exp \Bigl( \lambda (\exp(it) - 1) \Bigr) \end{aligned}$

　ここで、 $i$ は虚数単位です。
　詳しくは「ポアソン分布の特性関数の導出 - からっぽのしょこ」を参照してください。

統計量の計算式

　ポアソン分布の期待値(平均)・分散・標準偏差・最頻値は、それぞれ次の式になります。

$\displaystyle \begin{aligned} \mathbb{E}[x] &= \lambda \\ \mathbb{V}[x] &= \lambda \\ \mathbb{s}[x] &= \sqrt{\lambda} \\ \mathrm{mode}[x] &= \lceil \lambda \rceil - 1 , \lfloor \lambda \rfloor \end{aligned}$

　ここで、 $\lceil x \rceil$ は天井関数、 $\lfloor x \rfloor$ は床関数です。
　詳しくは「ポアソン分布の統計量の導出：定義式の場合 - からっぽのしょこ」を参照してください。

　 $\lambda$ が大きいほど期待値や分散が大きくなります。
　 $\lambda$ が整数のとき、 $\lambda - 1, \lambda$ の2値が最頻値になります。

モーメントの計算式

　ポアソン分布の歪度・尖度は、次の式になります。

$\displaystyle \begin{aligned} \mathrm{Skewness} &= \frac{\mathbb{E}[(x - \mu)^3]}{\sigma^3} = \frac{1}{\sqrt{\lambda}} \\ \mathrm{Kurtosis} &= \frac{\mathbb{E}[(x - \mu)^4]}{\sigma^4} - 3 = \frac{1}{\lambda} \end{aligned}$