予測に用いる数学

予測に用いる数学
2004/05/07
ide
発表の流れ
予測に用いる数学の紹介

matsuからのリクエスト
数学を使うと便利なこと

使えるようになるには??
各分野の紹介と応用例

紹介した分野それぞれについて
予測 in ユビキタス
人の▲▲に合わせた●●

in ▲▲
 移動
 意図

in ●●
 機器制御
 アプリケーション移送
予測手法
確率的アプローチ


複雑系への対応
結果の確率的表現(A…80%,b…20%)
論理的アプローチ


因果関係(原因/結果)を元に予測
厳密な結果(true or false)
確率的な予測に用いる数学
微分

時間的変化からの予測
行列

多次元空間間の予測
統計

履歴の情報量圧縮
論理的な予測に用いる数学
論理学


命題論理
述語論理
情報理論



確率
bitと対数
情報量(エントロピー)
数学って・・・?
概念をモデル化

数式は厳密性を備える
 頭の中を整理・考えを人に伝える
使えるようになるには??


概念から数式を生み出せるように
数式から概念を理解できるように
→それぞれの分野が扱う概念を理解
各分野の紹介
微分
行列
統計
論理
情報理論
微分の基礎
微分=『変化』

ex.雲が多くなってきたから雨が降りそう
連続した値に対して有効
微分を用いた予測

ある変数tに対してt +Δtを予測
 t -Δtやt -2Δtの値を参考にする
微分の応用例
不完全なデータの補完(最小2乗法)

ex.既存のデータ(Point)を元に
全体像(Line)を作成する
行列の基礎
行列=『多次元への対応』

ex.写像計算(ある物体の影の計算)
結果が複数の次元となる場合


t –Δt,s-Δs,・・・のn次元変数から
結果となるm次元の答えを得るのに用いる
行列の応用例
意味空間上の距離
統計の基礎
多数のデータを代表する値を算出

平均,分散,偏差
複数の変数をまとめて次元を縮小する

相関が同じ変数の発見
統計の応用例
重回帰分析

多数の変数から一つの結果を予測
重回帰分析による予測



データの集合(履歴等)から相関を算出
相関を係数とした式を作成
式に現在の値を代入
論理学の基礎
命題論理

論理記号¬,∧,∨,⇒,⇔の利用
述語論理


∀,∃の利用
一階と多階
 ∃xP(x)と∃P∀xP(x)
 述語に付けられるか付けられないか
情報理論の基礎1
情報量(単位:bit )


I=-logP(A)で表される
珍しい出来事の方が情報量が多い
 ex.ミッチーがオミクロンにいるかいないか?
情報理論の基礎2
Aが起きる確率

P(A)と表記
確率の性質

独立性
 さいころの例 ー中学入試問題より

条件付き確率
 道を行く人が傘を持っている確率と朝の天気予報
 P(B|A)…Aが起きた場合,Bの起きる確率
情報理論の基礎3
エントロピー



情報の複雑性
2つの選択肢が50%ずつの時は高い
90%10%と偏りが出るにつれ,低くなる
情報理論の基礎4
相互情報量


P(A)からP(A|B)になったとき
エントロピーの変化
予測への応用
Aによって変化するBの確率



ideがSFCにいる確率:70%
ideがSFCにいない確率:30%
ideの原チャがSFCにあるか分かる場合
情報理論と関わる学習
決定木学習

木を構築する際,相互情報量を
ベイジアンネットワーク


事前確率・事後確率をネットワークで表現
柔らかい論理関係を表現したともいえる
学習アルゴリズムの分類
確率的予測

ベイジアンネットワーク
中間

ニューラルネットワーク
論理的予測

決定木学習