講演資料

CREST 「数理モデリング」領域
大規模複雑システムの
最適モデリング手法の構築
岩田覚
（東京大学情報理工学系研究科）
数理工学の基本的な枠組
数値計算
最適化
モデル化
現象・問題
モデル
数値解
最適解
最適モデリング
モデル
モデル
現象・問題
最適モデル
モデル
モデル
数値解
最適解
最適モデリング
モデルの良さを測る尺度
多種多様
• 解析の容易さ
• 再現性の高さ
• 表現の簡潔さ
生命現象・社会システムの特徴
• 動的システム
• 大規模システム
• ネットワーク構造
最適モデリング手法の開発
① 微分代数方程式モデルの最適化
② 離散ＤＣ計画による
統計的モデルの最適化
③ 大規模ネットワークの圧縮モデリング
回路解析における最適モデリング
混合解析 Kron (1939)
マトロイド Whitney (1935)
最小基本方程式
甘利 (1962)
伊理 (1968)
マトロイド理論の
工学的応用
修正節点解析 SPICE (1973)
微分代数方程式モデルによる過渡解析
最小指数混合方程式
岩田・高松 (2010)
修正節点解析に対する混合解析の優位性
高松・岩田 (2010)
岩田・高松・Tischendorf (2012)
微分代数方程式の最適モデリング
指数：常微分方程式からの離れ具合
→ 指数が高い程，数値計算が困難
電気回路網：指数２以下
機械力学系：指数３
化学反応系：より高い指数
高い指数（≧２）の微分代数方程式の解法
隠れた制約式の導出
Pantelies (1988), Pryce (2001)
指数減少法の適用
Matsson, Sonderlind (1997)
統計的モデリング
統計的モデルの良さを測る尺度
情報量規準 AIC
赤池 (1973)
AIC = −2(最大対数尤度) + 2(自由パラメタ数)
AIC最小化によるモデル選択
組合せ爆発
多重線形回帰，グラフィカル・モデリング
離散ＤＣ計画
前原・室田 (2014)
離散凸関数（劣モジュラ集合関数）の
差を最小化する近似アルゴリズム
大規模ネットワーク
ソーシャル・ネットワーク
感染症伝搬ネットワーク
評判の伝搬
流行の予測・予防
時空間ネットワーク
物流・避難計画
巨大なネットワーク構造が入手可能
解析には莫大な計算資源
本質の抽出・粗視化が必要
劣モジュラ関数の近似手法・学習理論
Goemans, Harvey, 岩田, Mirrokni (2009)
Balcan, Harvey (2011)
高階テンソルの分解手法
Tucker (1966), Kolda, Bader (2009)
研究計画
H26.10
H29.3
H32.3
最適化モデリング手法の開発
① 微分代数方程式
社会システムへの応用
・電力システム
・交通システム
② 統計的モデリング
③ 大規模ネットワーク
生命現象の
最適モデリング
④ 生命現象の数理モデリング
遺伝子・タンパク質ネットワーク，
代謝ネットワーク，神経回路網，
感染症伝搬ネットワーク
統一的2値判別モデルに対する効率的な加速近接勾配法
伊藤直紀(東大) ・武田朗子 (東大) ・ TOH Kim-Chuan (NUS)
l  従来: 2値判別モデルの実用的な解法 … 各モデルの構造に特化
2値判別モデル
定式化
解法
サポートベクターマシン
ヒンジロス最小化
SMO, 座標降下法 etc.
ミニマックス確率マシン
誤判別確率最小化
内点法
フィッシャーの判別分析
分散比最大化
固有値分解
l  実はノルム最小化問題として統一的に定式化できる (先行研究)
統一的2値判別モデル
min kAq
bk2 | q 2 Q
l  本研究: 共通の問題構造を利用した汎用的解法を提案
•  射影アルゴリズムを設計
•  加速近接勾配法 + 高速化の工夫
•  例えばSMO, 座標降下法より高速
モデル選択が柔軟に
できるようになると
期待される
動的シナプスを導入したリカレントニューラルネットワーク
の学習アルゴリズムと時系列処理性能
森竜太（東京大学情報理工学系研究科）・香取勇一（公立はこだて未来大学,東京大学生産技術研究所）
合原一幸（東京大学生産技術研究所）
短期記憶課題
動的シナプス
動的シナプスなし
動的シナプスあり
− zi (t ) xi (t )ui (t ),
ui (t + 1) = ui (t ) + U se τ−uf i (t ) + U se (1 − ui (t )) si (t ),
シーケンス長
τr
成功率
1 − xi (t )
成功率
xi (t + 1) = xi (t ) +
シーケンス長
神経活動頻度に応じて神経伝達効
率が一過的に変化するシナプス
シナプス伝達効率： x(t )u (t ) / U se
中間層ニューロン数
Short-term depression (STD)
Short-term potentiation (STP)
中間層ニューロン数
動的シナプスがリカレントニューラルネットワークの性能を
大きく向上させることが分かった！
学習後のニューラルネットワーク構造
(HENRY MARKRAM et al. 1998)
モデル
動的シナプスを導入した全結合型リカレントニューラルネットワーク
の学習アルゴリズムを新たに考案し、短期記憶性能を評価した
動的シナプスの短期抑圧によるゆっくりとした神経活動伝
搬が観測された！
The low-rank basis problem for a matrix subspace
(低ランク基底問題に対する数値解法)
中務佑治, 相馬輔, André Uschmajew
低ランク基底問題
部分空間 M = span{M1, . . . , Md } ⊆ Rm×n
minimize
rank (X1 ) + · · · + rank (Xd )
subject to
span{X1, . . . , Xd } = M.
成果:
• 低ランク基底問題に対する実用的なアルゴリズム
• SVD，QR 分解，行列積などの基本関数のみで実行可能
• 応用: 行列のメモリ圧縮, 画像分離, ...
1/2
応用例: 画像分離
original
mixed
computed
2/2
Encoding with Sequence?
Aihara Lab
Xu Muyuan
• Encoding:
fixed point or transient ?
O. Mazor, G. Laurent, 2005
• Connection between ensembles:
symmetric or asymmetric ?
• Sequence of sparse associative memories
• Stability analysis
• Extend information capacity
• Flexible encoding mechanism
Stable Matching Models with
Polymatroidal Structure
Satoru Iwata Yu Yokoi (University of Tokyo)
𝑠4 ≻ 𝑠2 ≻ 𝑠1 ≻ 𝑠5
𝑐2 ≻ 𝑐1 ≻ 𝑐3
Quota: 2
𝑠1
𝑠2
Students
𝑠3
𝑠4
𝑠5
Quota: 3
𝑐1
𝑐2
𝑐3
Classes
𝑐4
Given: Preferences & quotas
Find: Stable matching
1
Generalizations of Stable Matching
Stable Allocation with Discrete Concave Functions
Eguchi, Fujishige, & Tamura (2003)
Only pseudo-poly. algo. is known
This Work
Stable Allocation in Polymatroid Intersection
Strongly polytime
Matroid Kernel
Stable Allocation
Fleiner (2001)
Baïou & Balinski (2002)
Stable Matching
Gale & Shapley (1962)
2

Download Report