PATONによる言語認識 01/12/25 林研究室 秋田 晋吾 1.PATONのできるまで 人間の記憶系 新皮質-海馬という階層構造 二つの仮説 記憶の二重符号化 注意によるシーケンシャルな制御 ↓ PATONとは仮説実証のためのモデル 2.PATONの概観 3.PATONの構造 パターン層(P層) 皮質の部分に当たる、並列に数種類 類似符号化を行う シンボル層(S層) 直行符号化を行う 注意システム 信号の流れなどの、全体の制御 4.PATONの振る舞い 1 概念パターンの記銘 ItoP → PtoS → Learn 概念パターンの想起 ItoP → PtoS → StoP 概念シンボル間の連想 StoP → PtoS 5.PATONの振る舞い 2 dp kj cp k p kj c1 S iWijk c 2 I kj dt P k ap k p k j j (1) ( 2) dsi k k cs s c W P c S i i 3 ij j 4 q (3) dt k j q i ( 4) S i asi si ' dWijk dt x al Wijk S i Pjk 1 1 exp x T パターン層の膜電位 (5) シンボル層の膜電位 接続係数の変更式 ( 6) 注意システムが操作す る変数: ap k , cp k , asi , csi , al P層へは属性単位、S 層へはニューロン単位 で制御を行う 6.実験例1:語彙獲得 会話を繰り返すことで語彙を獲得する 対象物の何に注目するかを試行錯誤する 学習の速度は緩やかである 7.実験例2:文法PATON 文法があれば未知語の推定が可能 P層の一つにSRNを配置する 文法と語彙の双方を学習可能 追加学習時に高速で収束 8.まとめ 仮説の実証という点では一定の評価が出 来る システムとして柔軟性もある 一方で、PATONはあくまで一つの可能性 を示しているだけである
© Copyright 2024 ExpyDoc