ニューラルネットワークについて学んでみた。（その4）

昨日は多層ネットワークの学習方法について説明した。

今日は多層ネットワークの学習で必要になる、勾配計算について。

勾配の計算

まず、入力 に対する出力 を得るために、次のように入力層から出力層に向かって、各層の出力 を順番に計算していくとする：

1. について、
2. について、
   • 
   • 
3. について、

このとき、この入力に対する誤差の勾配 がどうなるのかを考える。

まず、出力層の重み について偏微分を考えると、

また、出力層のバイアス についての偏微分は、バイアスを入力が常に1である重みであるとみなすと、次のようになる：

そして、中間層 の重み について偏微分を考えると、

ここで、

なので、

となることから、

となる。

なお、中間層のバイアス についての偏微分は、出力層のときと同様に考えて、次のようになる：

ところで、途中何度も出てくる を デルタ で表すことにする、すなわち、

とすると、これまでの式は、次のようにまとめることが出来る：

添え字がめちゃくちゃ細くて大変だけど、地道に頑張って・・・

誤差逆伝播法

まとめた式を見てみると、デルタは次の層のデルタを使って再帰的に計算できることが分かる。
そこで、出力層から入力層に向かって順番にデルタと勾配を計算していく方法を、誤差逆伝播法という。

1. 入力 から、各層について と を計算する。
2. 以下のようにして、デルタ を計算する：
   1. 出力層で、 を計算する。
   2. 中間層で、 の順番で、デルタ を次のように計算する：
      • 
3. 以下のようにして、重み とバイアス に対する偏微分を計算する：
   • 
   • 

出力層のデルタ

出力層のデルタ は、誤差関数 に何を使うのかで変わってくる。

誤差関数として、1つの訓練サンプル に対する二乗和誤差 を使う場合、次のようになる：

活性化関数の導関数

デルタを計算するとき、活性化関数 の導関数 を使っている。

それぞれに活性化関数に対する導関数は、次のようになる：

活性化関数
ロジスティック関数
双曲線正接関数
正規化線形関数
シグモイド関数を 近似した関数

バッチ学習の場合

これまでの計算は、1つの入力に対する誤差の勾配を求めるものだった。
バッチ学習やミニバッチを使う場合には、それぞれの訓練サンプルについての勾配を求めたあと、それらをすべて足し合わせると、求めたい勾配が得られる。
詳細は省略。
（行列を使うと、比較的キレイに書くことが出来る。本を参照）

今日はここまで！