金融市場における リアルタイム コンピューティング

金融市場における
リアルタイム
コンピューティング
QDS コンサルティング 竹下 哲弘
芝浦工業大学大学院工学マネジメント研究科安岡研究室
金 融 工 学 セ ミ ナ ー 20 1 4 / 3 / 7
本日のセミナーについて
• QDS・発表者の紹介
• 金融市場におけるリアルタイムコンピューティング
の背景
• システムのリアルタイム化の技術の紹介
• リアルタイムコンピューティングの金融商品評価・
リスク管理への応用について
2
紹介
QDS : www.qd-s.com
• 金融商品評価およびシステム化のコンサルティング
• 規制対応のための内部モデル構築サポート
• デリバティブのモデル評価およびそのシステム開発
ソリューション
• リアルタイムフレームワークQartsの提供及びその受託開発
3
発表者紹介
• QDS
コンサルティング 竹下 哲弘
• 経歴
• 2005年一橋大学大学院経済研究科修了。同年、みずほ
情報総研株式会社に入社。通貨オプション・RMBSの評
価モデル構築検証業務およびシステム開発に従事。201
0年ニューヨークへ出向。以降、金利カーブおよび金利系
商品の評価モデル構築およびフロント評価システムの構築
を担当。2013年9月末に退職し、QDSコンサルティ
ングを設立。
4
リアルタイムとは
• リアルタイムの定義
• あるイベントが発生したとき、定められた時間内に指定さ
れた処理が完了すること
• プロセス
• あるイベントの処理
• 定められた条件の検出。時間、価格、計算結果による条件。
• 指定された処理
• リスク値計算、レポート作成、etc…
5
金融危機以降
• 規制の強化
• プライシングの複雑化
• 取引量の増加
• ビッグデータの台頭
それぞれにおいて、リアルタイムへの対応が重要になってきてい
る。
6
規制の強化
• 金融モニタリング基本方針の策定
• 金融機関・金融市場の実態をリアルタイムで把握し、潜在的リスクに対応
する必要。
• リアルタイムでのレポーティング。すぐに必要なデータが利用できる環境。
• 金融当局からだけではなく、マネジメントからもリアルタイムのリスクの
透明性が求められる。
• 海外も「ドッド・フランク法」や「ソルベンシーII」などリスクの透明性
の強化が進んでいる。
• コンプライアンスへの対応
• コンプライアンスに抵触する取引を自動的に検出する必要性。
• 反マネーロンダリングなどへの対応の強化。
7
プライシングの複雑化
• OIS ・マルチカーブプライシング
• 単なるスワップのブートストラップからOISのブートストラップからス
ワップのブートストラップを求めるなど、計算が複雑化し、計算量が増加。
• 対象商品によっては正しいマーケットプライスが取れない。チーム内での
整合性を保つために、リアルタイムのデータ共有が必要。
• CVA プライシング
• カウンターパーティごとにすべての商品のPVの合算に対してのリスクを計
算する必要がある。より精緻なCVAを計算するためには、モンテカルロ法
の適用が必要。
リアルタイムでのリスクモニタリングのシステム化の難易度
が高まる。
8
取引量の増加
• マーケットメイクの競争激化
1) HFT (アルゴリズムトレード・自動
ヘッジなど)・取引量増加によるコス
トの低下によりスプレッドの縮小
コスト
の低下
2) スプレッド縮小により取引機会の増加
3) 取引機会の増加による取引量の増加
• 競争に生き残るためには、効果的にコ
スト低下をもたらすHFTが鍵。
• 取引量の増加に伴う商品担当の細
分化
• リアルタイムでの情報の共有化の必要
取引量
の増加
取引機
会の増
加
ビッグデータの台頭
• ビッグデータとは、一般的に3VであるVolume(大
量)、 Velocity(高速)、 Variety(多様)で特徴づけら
れる、従来取り扱いが難しかったデータを指す。
 今まで解析データの対象としなかったもの
• SNSのテキストマイニングやニュース解析
• Hadoopなどツールにより可能となる。
• POSデータや検索結果を使用した経済指標の試み
 解析がより容易となったもの
• 取引所の膨大な取引データの解析
• データ管理や計算処理能力の向上によるリアルタイムでの解析環境
10
システムのリアルタイム化
• 規制の強化により、リアルタイムでのレポーティングや
状況把握が必要となってきている。
• プライシングの複雑化や取引量の増加により、処理のた
めの計算量やデータ量が増加し、より処理時間がかかる
ようになってきている。
• 高速性が必要な処理やいままで取り扱えなかったデータ
量の処理が可能となってきており、それに伴いリアルタ
イムの解析環境が求められてきている。
金融市場のシステムにおいて、処理の時限性(リアルタイム化)が
幅広く求められる時代になってきている。
11
システムのリアルタイム化
• 規制の強化により、リアルタイムでのレポーティングや
状況把握が必要となってきている。
• プライシングの複雑化や取引量の増加により、処理のた
めの計算量やデータ量が増加し、より処理時間がかかる
ようになってきている。
リアルタイム化への課題は?
• 高速性が必要な処理やいままで取り扱えなかったデータ
量の処理が可能となってきており、それに伴いリアルタ
イムの解析環境が求められてきている。
金融市場のシステムにおいて、処理の時限性(リアルタイム化)が
幅広く求められる時代になってきている。
HFTのプロセス
イベント
条件検出
モニタリング
データ
ベース
最適取引の導出
計算
データ
ベース
取引指示
指示
データ
ベース
データの流れ
13
HFTのプロセス
イベント
条件検出
最適取引の導出
イベント管理
モニタリング
計算
データ転送
データ転送
データ
データ
ベース
管理
計算処理
データ
データ
ベース
管理
取引指示
指示
データ転送
データ
データ
ベース
管理
14
リアルタイムリスク計算のプロセス
再計算条件
検出
モニタリング
リスク計算処理
計算
データ
ベース
レポーティング
出力
データ
ベース
15
リアルタイムリスク計算のプロセス
再計算条件
検出
リスク計算処理
イベント管理
モニタリング
計算
データ転送
データ転送
データ
データ管理
ベース
レポーティング
計算処理
出力
データ転送
データ
データ
ベース
管理
16
リアルタイムへの課題
データの低遅延転送
(リアルタイムでのデータ共有)
イベント管理
計算処理の
強化
データ管理の
最適化
• 部門間や担当者間でのデータをネットワークを通してリアルタ
イムに共有、およびそれに必要なデータの低遅延転送
• コンプライアンス抵触取引の検出やHFTにおける該当条件のモニ
タリング、市場価格更新後の再計算など、条件抽出によるタスク
処理(イベント)の管理
• リアルタイムに伴う計算処理の高頻度化により、増大した計算量
への対応
• データベースからのデータの入出力の高速化
主に上記4つの課題を考慮に入れることにより
リアルタイム性の実務への応用が可能。
17
リアルタイムへの課題
データの低遅延転送
(リアルタイムでのデータ共有)
イベント管理
• 部門間や担当者間でのデータをネットワークを通してリアルタ
イムに共有、およびそれに必要なデータの低遅延転送
• コンプライアンス抵触取引の検出やHFTにおける該当条件のモニ
タリング、市場価格更新後の再計算など、条件抽出によるタスク
処理(イベント)の管理
一方、レガシーシステム※は
計算処理の
強化
データ管理の
最適化
• リアルタイムに伴う計算処理の高頻度化により、増大した計算量
への対応
• データベースからのデータの入出力の高速化
※新しい技術の登場により機能や特性が古くなったシステムのことをいう。
主に上記4つの課題を考慮に入れることにより
リアルタイム性の実務への応用が可能。
典型的なレガシーシステム
データ共有
• 高頻度なデータのやり取りができない、FTPもしくは共
有ドライブによるデータ共有。
イベント処理
• タスクスケジューラによる処理もしくは手動による処理
• バッチ処理のアーキテクチャ
計算処理
について
データ管理
• エクセルやVBAによる計算
• 高負荷の計算は高価なメニーコアによるサーバで行う
• RDBMによるマーケットデータ管理
リアルタイム処理は非現実的。
19
典型的なレガシーシステム
データ共有
• 高頻度なデータのやり取りができない、FTPもしくは共
有ドライブによるデータ共有。
イベント処理
• タスクスケジューラによる処理もしくは手動による処理
• バッチ処理のアーキテクチャ
リアルタイムへのソリューション
計算処理
について
データ管理
• エクセルやVBAによる計算
• 高負荷の計算は高価なメニーコアによるサーバで行う
• RDBMによるマーケットデータ管理
リアルタイム処理は非現実的。
リアルタイムへのソリューション
• メッセージングミドルウェア
(リアルタイムでのデータ共有) • RDMA
データの低遅延転送
イベント管理
計算処理の
強化
データ管理
の最適化
• CEP(Complex Event Processing)
• HPC (GPUなど)
• インメモリデータベース
• NoSQL
• 外部ベンダーと自社開発の組み合わせ。部門ごと、計算処理の種類ごとにそ
れぞれ最適なベンダーのプロダクトが使用されているが多い。
21
メッセージングミドルウェア
• メッセージングとは
• 一般的にはネットワーク間のデータのやり取り
• 非同期処理(キュー形式)で行われる。ネットワーク間のデータのやり取りは時間が
かかる。非同期処理により、疎結合となることによって、待ち時間や受信側の遅延な
どによる影響を回避することができる。
• メッセージミドルウェアは、メッセージングを行うミドルウェアのことを指す。フロ
ントオフィス用の高速化のためにハードウェアに組み込まれる。
送信処理
• ベンダー例
• フロントオフィス:TIBCO, Solaceなど バックオフィス:IBM MQ
22
RDMA(Remote Direct Memory Access)
• RDMAとは
• 異なるコンピューター間でのメモリへCPUを解さずに読み
込みや書き込みを行うこと。結果、メモリコピーの高速化
とメモリ管理のためのCPU利用の節約が見込まれる。
• データ転送には低遅延(データの転送要求から転送終了ま
での時間が短いこと)であり信頼性の高いInifiniBandが使用
される。
23
CEP (Complex Event Processing)
• Complex Event Processingとは
• 多数のイベントを分析し、コントロールするテクニックも
しくはツール。
• 実際には、送られてきたリアルタイムデータを一定期間保
存し、そのデータが指定された条件を満たす場合、ある処
理を実行させる。
• 一般的には、OMS付属のもの、CEP専用ミドルウェア、自
社開発したものが使用されている。
24
CEP (Complex Event Processing)
• EPL(Event Processing Language)よりイベントを抽出。
• Esper (オープンソース)のEPLの例
every TickEvent(symbol=‘MG‘, bid> 102.14) where timer:within(30 sec)
• メモリ上のデータグリッドからパターンを抽出
25
CEP (Complex Event Processing)
• 金融分野だけではなく、多くの分野で利用。
• データの種類は最近では非構造化データ(テキスト、
音声、映像など)も対象となっている。
• 市場も拡大している。
200
150
100
50
0
2009
2010
2011
2012
2013
全世界のCEPの支出 (US$ Million)
出典:AiteGroup
26
HPC (High-Performance Computing)
• GPU (Graphical Processing Units)
• グラフィック処理の計算処理を担当する主要部品。グラ
フィックの並列処理のために、多くのプロセッサを持つ。
• NVIDIA社が提供するGPU向けの統合開発環境CUDAにより、
金融評価計算などグラフィック以外への応用が進む。
• Intel Xeon PhiなどHPCに特化したものもある。
• FPGA (Field Programmable Gate Arrays)
• 再設計が可能なLSI。あらかじめ処理を組み込んでおくこと
で高速処理が実現できる。
27
データ管理
• インメモリデータベース
• メモリ上にデータベースを展開。ハードディスクより高速な
データアクセスが可能。メモリの低価格化も普及を推進。
• NoSQL(Not Only SQL)データベース
• 従来のリレーショナル型DBと異なり、キーバリューやドキュ
メント指向など、大量のデータを前提としたデータベース
• 金融市場では主に時系列データベースに使用(Kx、OneTick)
• 一般的に普及しているNoSQL(Cassandra、MongoDBなど)は
金融市場分野での応用は少ない。
28
データ管理
• インメモリデータベース
• メモリ上にデータベースを展開。ハードディスクより高速な
データアクセスが可能。メモリの低価格化も普及を推進。
金融商品評価・リスク管理への
• NoSQL(Not Only SQL)データベース
導入について
• 従来のリレーショナル型DBと異なり、キーバリューやドキュ
メント指向など、大量のデータを前提としたデータベース
• 金融市場では主に時系列データベースに使用(Kx、OneTick)
• 一般的に普及しているNoSQL(Cassandra、MongoDBなど)は
金融市場分野での応用は少ない。
導入について
• 開発について
• 複数のベンダープロダクトの組み合わせであり、開発が硬直的
になる可能性が高い。商品追加や評価モデル変更などへの対応
が難しくなる。
• 評価計算について
• 前述で紹介したGPUやFPGAは、通貨・金利ボラティリティ期
間構造・評価モデルなどさまざまな要素を動的に組み合わせる
必要がある金融商品評価・リスク管理には最適とは言えない。
• 導入の容易性について
• ベンダーのプロダクトは、最新技術を使用しており、小規模な
チームにとっては、導入費用は高め。また、オープンソースの
活用も技術に精通している必要があり、人的コストは高い。
30
リアルタイムフレームワークQarts
• 特徴
• Qarts (Quantitative Analysis Real-Time System) Frameworkは、
金融市場の評価及びリスク管理に特化し※ 、金融商品評価
計算ライブラリも含まれる。新規商品や新規モデルにも迅
速に対応が可能。
• ※超低遅延が必要なHFTは前提としていない。
• データ共有、イベント管理、データ管理を一元的に行う。
これにより、分散処理のためのスケールアウトが容易であ
るアーキテクチャを持つ。
• インターフェースは、Web、Excelなど多様なものが可能。
31
Qarts Framework
データの低遅延転送
• メッセージングライブラリの開発
(リアルタイムでのデータ共有) • TCP/IPレベルでのデータ転送が可能。
イベント管理
計算処理の
強化
データ管理
の最適化
• プログラム内でのイベント管理
• モニタリング対象などのパラメーターの外部指定
• スケールアウトが容易な構造による分散処理
• NoSQL(キーバリュー型DB)の採用
• 金融商品評価に特化し、一元管理によりプログラムはひとつのみ。
32
評価計算のプロセス(例)
再計算条件検出
データ共有
評価計算処理
モニタリング
評価計算・データ共有
データ
ベース
プライス提供
レポーティング
出力
データ
ベース
33
評価計算のプロセス(例)
再計算条件検出
データ共有
評価計算処理
モニタリング
イベント管理
評価計算・データ共有
プライス提供
レポーティング
計算処理
出力
データ転送
データ転送
データ
データ管理
ベース
データ
データ
管理
ベース
34
デモンストレーション
Excel
Client 1
Excel
Client 3
Pricing
Service 1
Pricing
Service 3
Master
Service
PC1
Qarts Network
Excel
Client 2
Pricing
Service 2
PC2
35
Qarts アーキテクチャー(例)
Historical
Data
Service
Master
Service
Risk Calculation
Service 1
Web
Client 1
Qarts Network
Web
Client 2
Excel
Client 1
Pricing
Service
Risk Calculation
Service 2
Risk Calculation
Service 3
Excel
Client 2
36
まとめ
• 市場、規制強化、技術の進展など、各方面から金融
市場のシステムのリアルタイム化が求められてきて
いる。
• システムのリアルタイム化は処理の過程でいくつか
の課題がある。
• 複数の技術の組み合わせにより、リアルタイムの実
現が可能。
• Qartsによる金融商品評価・リスク管理システムの
リアルタイム化を紹介。
37
参考文献
1. Giorgio C Buttazzo (2011), Hard Real-Time
Computing Systems: Predictable Scheduling
Algorithms and Applications, Springer
2. K. Chandy W. Schulte(2009), Event Processing:
Designing IT Systems for Agile Companies
3. 金融庁(2013), 金融モニタリング基本方針
38