情報学習理論 渡辺澄夫 2015/10/1 Mathematical Learning Theory 1 Introduction 履修条件 学部２年生までに習う行列、ベクトル、 微分積分、確率、統計を履修した。 成績評価 講義に参加し練習問題を回答して 提出してもらい評価。 講義に参加せず提出することは不可。 講義後の提出は不可。 2015/10/1 Mathematical Learning Theory 2 Introduction 2 講義ノートと演習プログラムは 知能システム科学専攻のホームページからたどれる 場所にあります。または「情報学習理論」で検索。 プログラム MATLAB か Octave が動く PC を持参する。 (注) プログラミングは必要ありません。 2015/10/1 Mathematical Learning Theory 3 プロローグ - 人工知能とは 実世界において自己を感じ世界を認識し 人間のように実世界を生きる＜コンピュータ＞ 人間と同じ思考・直観・感覚・感情の機能を持つもの 認識 2015/10/1 予測 制御 Mathematical Learning Theory 創造 4 プロローグ - 人工知能の昔 If( ) Then If( ) Then Else Else If( ) 人間が 問題をよく分析 アルゴリズム プログラム 2015/10/1 Mathematical Learning Theory 実行 5 実世界の難しさ If Then ルールは、コンピュータの中では うまく行ったが、実世界ではうまくいかなかった 実世界は 「言語化できないもの」の方が多い 「プログラマが予期できないこと」が起こる 実世界は超高次元 自ら実世界に存在することが必要 ソフトウエアの大規模化によって実証されつつある 2015/10/1 Mathematical Learning Theory 6 実世界は多様 ？ 自分の力で世界を認識する 2015/10/1 Mathematical Learning Theory 7 教師あり学習 先生 ８，６，２… でしょう … 学習者 先生と同じ ように文字を 読みたい 文字の例 8 2015/10/1 Mathematical Learning Theory 問題（１） 郵便番号として書かれた文字のデータが １０００００個ある。 このデータから、文字を読みわけるシステムを つくるためにはどうしたらよいか？ 医用画像から、自動診断あるいは診断支援を 行うためのシステムを作るにはどうしたらよいか？ 2015/10/1 Mathematical Learning Theory 9 教師なし学習 概念とは？ 概念１ 概念２ … 概念３ 学習者 世界には例があふれている。例から世界の構造を知る。 2015/10/1 Mathematical Learning Theory 10 問題（２） 世界中にあるWWWページを自動的に分類し、 様々な観点から階層構造を自動生成する方法を考えよ。 自動車１００００種類について、車高、車幅、長さ、馬力、 値段、・・・などのデータを集めた。これより、自動車の作る 空間の地図を作りたい。どうしたらよいか？ 2015/10/1 Mathematical Learning Theory 11 強化学習（この講義ではやりません） 生きてみることで実世界を知る 2015/10/1 Mathematical Learning Theory 12 問題（３） ロボットハンドに、ボールを投げさせて的にあてさせたい。 ロボットハンド自身の重さや空気の抵抗や天候などの すべてを計測することは難しい。どうしたらいいだろうか？ すずかけ台キャンパスに合計３０台の自律ロボットを 配備し警備に当たらせたい。どのようにしたらいいだろうか？ 2015/10/1 Mathematical Learning Theory 13 文字学習の例 上が０ 下が６ ０ 根性 ６ 2015/10/1 Mathematical Learning Theory ニューラル ネット 14 繰り返し学習 くりかえして 学習すると だんだん 文字が読める ようになる 二乗誤差 ニューラル ネット 学習繰り返し数 2015/10/1 Mathematical Learning Theory 15 2015/10/1 Mathematical Learning Theory 16 学習とは 応用：対象ごとに異なる 学習理論：どんな学習にも共通して現れる 僕には、意外に深い 数学的構造が あるらしい 2015/10/1 Mathematical Learning Theory 17 この講義の目標は 「例からの学習」の基礎 パターン認識 システム制御 時系列予測 2015/10/1 実験計画 データ解析 因果関係分析 Mathematical Learning Theory 確率論 数理統計 数理物理 18 例からの学習(1) たくさんの例 x1, x2, x3, …. から 未来を精度よく予測したい 実データを扱うときに陥りやすい失敗 具体的なデータだけに固執して その場その場の工夫を繰り返す 少しできたり、できなかったりの繰り返し ・・・実質的に何も進歩していない 2015/10/1 Mathematical Learning Theory 19 例からの学習(2) たくさんの例 x1, x2, x3, …. 例を固定されたものと考えず 確率的にゆらぐ「何か」からの偶然の産物と見て 「何か」に名前をつけて「何か」をつきとめる 2015/10/1 Mathematical Learning Theory 20 例からの学習（3） X x1, x2, x3, …. 例が増えると、＜例のもと＞がだんだんわかってくる ＜例のもと＞がわかると、未来が予測できる できることとできないことが分かってくる 2015/10/1 Mathematical Learning Theory 21 例からの学習（4） 例の元＝情報源 例1, 例2, 例3, …. ＜例のもと＝情報源＞を限界まで知るためには どうするのが一番よいか？ 例を見なくてはだめだが，例にこだわり過ぎてもだめ。 「バランスがあること」を知ることが学問である。 代数幾何学者・石井志保子先生の言葉 「小人，例を忘れ，あるいは，例に溺れる」 2015/10/1 Mathematical Learning Theory 22 例からの学習（5） 学習理論の研究は世界中で盛んに行われている。 いまだに分かっていない点 (1) 複雑なモデル VS 単純なモデル (2) 真を知ること VS 予測をすること (3) 人間と同じ画像認識、音声認識に到達できるか しかし、まずは基礎から。ゼロからの出発です。 2015/10/1 Mathematical Learning Theory 23 講義計画 複雑な学習モデルとその応用 神経回路網、混合正規分布 サポートベクトルマシン、自己組織化 ボルツマンマシン（深層学習の要素） 学習アルゴリズム 尤度最大化、マージン最大化、 ベイズ法 学習の数理 汎化誤差、周辺対数尤度、モデル選択 2015/10/1 Mathematical Learning Theory 24
© Copyright 2024 ExpyDoc
![防災士パンフレット[PDF 188KB]](http://s1.expydoc.com/store/data/005926544_1-bd0b3429d73dc654f8f86c9a70b1cf51-250x500.png)
