学習率の設定方法などに関するメモ

Nagoya Institute of Technology
階層型ニューラルネットにおけるモデル選択
Nagoya Institute of Technology
階層型ニューラルネットの学習アルゴリズム(1)
パラメータ
Nagoya Institute of Technology
階層型ニューラルネットの学習アルゴリズム(2)
アルゴリズムへの入力
学習データ行列:
隠れ層ユニット数:
初期学習率:
学習減衰率:
最大学習ステップ数:
Nagoya Institute of Technology
階層型ニューラルネットの学習アルゴリズム(3)
ステップ1: パラメータの初期化
ステップ2: 学習誤差, 勾配ベクトルの計算
ステップ3: 収束判定
ステップ4: パラメータ更新