人工知能基礎５月１４日、５月２１日、５月２８日知能って何？どうしたら知能を作ることができるか？何ができたら知能だといえるのだろう？１．知能の問題 1980年頃、コンピュータが発達した Turing Machine (1930) どんなもんだい計算記憶データ処理コンピュータは、コンピュータの中でなら何でもできるが、実世界に出ると無力だった実世界を把握している知能とは何だろう？２．人工知能とは目的「知能のように見えるもの」を工学的に実現する方法１昔目的の知能 → アルゴ → ソフト → 実現リズムウエア方法２近年目的の知能 → データ → 学習 → 実現将来は？３．人工知能の方法論インタビュー専門家言語化論理化アルゴリズム，データ構造演算量設計者ワタシハチノウデス If … Then ... アルゴリズムテストソフトウエアコンピュータ４．人工知能－作ってみたらうまくいった！まあまあ…いまいち問題を限定特殊化するとまあまああできるまったくだめだったＯＳ，コンパイラデータ管理ゲーム言語化できる情報故障診断医療診断かな漢字変換文字認識対話システム実世界の中の知能ロボットカウンセリングシステム非言語的な情報５．言語化できない情報の獲得にむかって設計者世界 → データ → 特殊モデル → 実用 ◎いかにうまく特殊なモデルを発見するか設計者 ↓ 普遍モデル → 世界 → データ → 実用 ◎いかに優れた普遍モデルを構成しておくか６．学習とは？りんご, みかん, ぶどう, … でしょう先生・・・先生と同じ推論になるには…？果物の絵が次々と… 学習モデル７．学習の定式化 Q(x) 環境データ X1, X2, X3, …, Xn, ... 先生 Q(y|x) P(y|x, w) 学習モデル先生の推論 Y1, Y2,…., Yn, ... ８．優れた学習モデルとは？ ◎ 先生が何であっても学習できる Sup Q inf || Q(y|x) - P(y|x,w) || モデルの豊かさが小さい w ◎ 少ない例だけから学習できる E || Q(y|x) - P(y|x, w(n) ) || 例学習の早さがちいさい９．モデルの豊富さVS 学習の早さ例 N y = Σ{ ancos( n x) + bn sin (nx) } n=1 N が大きいと多くの関数になれるが最適化するパラメータ数は増える入力の次元が増えるとさらに… 人工知能・機械学習における基本法則豊かなモデルほど学習には時間がかかる大器は晩成す… １０．神経回路網の登場 f(x) y x θ w1 x1 w2 w3 w4 x2 x3 n y = f( Σwixi - θ) i=1 w5 x4 xn たくさんあつめると何が起こるだろう？１１．神経回路網とは… 「大器は晩成す…」ところが… 神経回路を模倣して作られたモデルは… 神経回路網を含む階層的学習モデルは ◎ モデルの豊富さは、線形モデルより大きい ◎ 学習する早さは線形モデルよりも早い …それはなぜか？１２．もうちょっと数学的に言うと？ ◎ 神経回路網は、入力の次元に依存しない関数近似能力を持つ (Barron, 1993) inf ||Q-Pw||2 = 1 / N w …学習対象に合せて関数族も最適化できるから ◎ 神経回路網は、パラメータ数よりも遥かに小さい学習係数を持つ (Watanabe, 1999) E || Q - Pn ||2 = λ/ n …パラメータ空間に特異点があるから今週は人工知能の問題は言語化できない情報の獲得大器は晩成す…しかし神経回路網は大器で学習も早い来週は学習モデルの活躍，そして将来は？