ニューラル情報処理第０９回
ニューラルネットワーク３ 課題
竹内一郎
名古屋工業大学
Ichiro Takeuchi, Nagoya Institute of Technology
1/1
課題
▶
ニューラルネットを最急降下法などで学習するには，
各パラメータに関する勾配を計算する必要がある：
▶
課題３：
∂E
, k = 1, . . . , q
∂wk0
▶
課題４:
∂E
, k = 1, . . . , q, j = 1, . . . .p
∂wkj
▶
課題１：
∂E
∂v0
▶
課題２：
∂E
, k = 1, . . . , q
∂vk
Ichiro Takeuchi, Nagoya Institute of Technology
2/1
課題１
▶
パラメータ v0 に関する勾配が以下のように書けること
を示せ
∑
∂E
= −2
(yi − ŷi )
∂v0
i=1
n
Ichiro Takeuchi, Nagoya Institute of Technology
3/1
課題２
▶
パラメータ vk , k = 1, . . . , q に関する勾配が以下のよう
に書けることを示せ
∑
∂E
= −2
(yi − ŷi )zik
∂vk
i=1
n
Ichiro Takeuchi, Nagoya Institute of Technology
4/1
課題３
▶
パラメータ wk0 , k = 1, . . . , q に関する勾配が以下のよう
に書けることを示せ
∑
∂E
= −2
(yi − ŷi )vk ψ(uik )(1 − ψ(uik ))
∂wk0
i=1
n
Ichiro Takeuchi, Nagoya Institute of Technology
5/1
課題４
▶
パラメータ wkj , k = 1, . . . , q, j = 1, . . . , p に関する勾配
が以下のように書けることを示せ
∑
∂E
= −2
(yi − ŷi )vk ψ(uik )(1 − ψ(uik ))xij
∂wkj
i=1
n
Ichiro Takeuchi, Nagoya Institute of Technology
6/1

Nagoya Institute of Technology

Nagoya Institute of Technology

Dames pnt 2 lap 500m TT 1000m 1500m totaal Wel