https://htn20190109.hatenablog.com/entry/2025/08/10/141553

https://qiita.com/taiga518/items/92e6e65046eceed84dbd

バイアスとバリアンスはトレードオフの関係にある

$\displaystyle E [ L ] =\int \left\{ y\left( x\right) -h\left( x\right) \right\} ^{2}p\left( x\right) dx \\ \quad\quad =\left(\mathrm{bias}\right)^{2} + \mathrm{variance} + \mathrm{noise} \\ \displaystyle \quad\quad =\int \left\{ E_{D}\left[ y\left( x;D\right) \right] -h\left( x\right) \right\} ^{2}dx \\ \displaystyle \quad\quad\quad +\int E_{D}\left[ \left\{ y\left( x;D\right) -E_{D}\left[ y\left( x;D\right) \right] \right\} ^{2}\right] dx \\ \displaystyle \quad\quad\quad +\iint \left\{ h\left( x\right) -t \right\} ^{2}p\left(x,t\right) dxdt \\$

$D:$ データ集合
$E:$ 期待値
$L:$ 損失関数
$x:$ 説明変数
$h(x):$ 真の値
$y(x):$ 予測モデル
$p(x):$ 入力データの確率密度関数
$t:$ 実データの値