[IBIS2011 企画セッション プレビュー] 大規模最適化および

[IBIS2011 企画セッション プレビュー]
大規模最適化および
リスク指向最適化の最新解法
ご講演者
山下信雄 (京都大学)
藤澤克樹 (中央大学)
武田朗子 (慶應大学)
恐神貴行 (IBM)
オーガナイザー
比戸将平(IBM)
機械学習にとっての最適化
機械学習
実問題が導く
新しい問題設定
• 必要不可欠
• 共に進歩
最適化
min f(x)
s.t gi(x)≦0,
hi(x)=0
高速化・精度向上の
新しい解法
“Optimization for Machine Learning”
S. Sra, S, Nowozin, S. J. Wright (eds.), 2011.
本セッションの目的
• 大規模とリスク指向という2つの軸において
最新の話題を専門家の方々にお話頂く
– 大規模:Big Dataにおける学習のスケーラビリティ
– リスク指向:非決定的な状況における学習
大規模
リスク指向
大規模凸最適化問題に対する勾配法
山下信雄 (京都大学)
不確実な最適化問題に対する
ロバスト最適化
武田朗子 (慶應大学)
大規模半正定値計画問題に対する
ソフトウェアと高速&安定計算による
解決 —理論からスパコンまで—
藤澤克樹 (中央大学)
時間整合的マルコフ決定過程
恐神貴行 (IBM)
大規模凸最適化問題に対する勾配法
山下信雄 (京都大学)
• 近接勾配法の紹介と高速化
– 局所的エラーバウンドの観点から
– 問題に特化したBregman距離の選択
大規模半正定値計画問題に対するソフトウェアと高速
&安定計算による解決 —理論からスパコンまで—
藤澤克樹 (中央大学)
• 大規模SDPソフトウェアプロジェクト
– 主双対内点法の発展
– スーパーコンピュータ上での実装と高速化
– クラウドを利用した最適化Online Solver
不確実な最適化問題に対するロバスト最適化
武田朗子 (慶應大学)
• ロバスト最適化問題の歴史と解法
• ロバスト判別モデルの提案
– 既存モデル(SVMやFDA)の一般化
時間整合的マルコフ決定過程
恐神貴行 (IBM)
• 経路選択問題をマルコフ決定過程で定式化
• 従来のリスク指向MDPの問題点を指摘
• それを解決する新しいクラスのMDPを提案
E[time] = 0.5h
Path
Expected time
1. W – C – mountain road – E
1.75h
2. W – C – popular highway – E
2h
3. W – S – E
1.7h
25%
mountain road; 1.25h
7am
W
1h
3h
C
popular highway;
1h (+ 2h during 8-10am)
highway (0.7h)
S
highway (1h)
E