Dynamic Resource Management Scheme for TCP

Advanced Network Architecture Research Group
Dynamic Resource Management Scheme
for TCP Connections at Internet Servers
インターネットサーバにおけるコネクション資源の
動的管理方式に関する研究
ソフトウェア科学分野 村田研究室
寺井 達彦
February 19th, 2002
修士論文発表会
Advanced Network Architecture Research Group
研究の背景
• インターネットの普及に伴うネットワークトラヒックの増加
– ネットワークの高速化技術に関する研究
– TCPの輻輳制御方式に関する研究
• エンドホストの高速化に関する議論はあまり行われてい
ない
ネットワークの高速化によってエンドホストの処理が
データ転送処理においてボトルネックになりつつある
February 19th, 2002
修士論文発表会
Advanced Network Architecture Research Group
研究の目的
• エンドホストの高速・高機能化によるTCP
データ転送処理の高速化
• インターネットサーバにおける公平かつ効
率的な資源管理の実現
February 19th, 2002
修士論文発表会
Advanced Network Architecture Research Group
研究内容
• SSBT (Scalable Socket Buffer Tuning)方式の提案
– E-ATBT (Equation-based Automatic TCP Buffer Tuning) 方式
– SMR (Simple Memory-copy Reduction) 方式
– Webサーバへの実装実験によって、データ転送処理速度の向上、
応答時間の短縮などの有効性を示した
• Webプロキシサーバにおける動的資源管理方式の提案
– E2-ATBT (Enhanced E-ATBT) 方式
– コネクション管理方式
– シミュレーション、実装実験によってWebプロキシサーバの性能改
善、応答時間の短縮などの有効性を示した
February 19th, 2002
修士論文発表会
Advanced Network Architecture Research Group
Webプロキシサーバ
下向きのコネクション
④
:
:
Internet
①
上向きのコネクション
②
③
Webプロキシサーバ
クライアントホスト
ドキュメント転送要求
Webサーバ
①
hit
ドキュメント受信
February
19th,
2002
Internet
④
②
No hit
③
修士論文発表会
Webサーバへ
ドキュメント転送要求
Webサーバから
ドキュメントをダウンロード
:
Advanced Network Architecture Research Group
サーバでの資源管理の問題点 (1)
• ソケットバッファの割り当て
– 転送データを一時的に格納するカーネル領域のメモリ空間
– サーバは複数のTCPコネクションを同時に扱わなければな
らず、帯域、伝搬遅延時間等のネットワーク環境は各TCP
コネクションによって異なる
– 現在の多くのOSでは、固定長のソケットバッファを各TCPコ
ネクションに割り当てる
• 各TCPコネクションのネットワーク環境が考慮されてい
ない
February 19th, 2002
修士論文発表会
Advanced Network Architecture Research Group
サーバでの資源管理の問題点 (2)
• コネクション管理
– サーバ資源の管理
• mbuf, ファイルディスクリプタ、コントロールブロック
• 資源が不足すると、サーバは新規のTCPコネクションの確立
を拒否する
– Persistent TCPコネクションの管理
• HTTP/1.1の標準機能
• TCPによるデータ転送後、一定時間コネクションを保持する
– TCPの3 way-handshakeの省略
• サーバ資源を一定時間占有する
– 割り当てられた資源が無駄になる可能性もある
February 19th, 2002
修士論文発表会
Advanced Network Architecture Research Group
提案方式 (1)
- E2-ATBT方式 • 送信側ソケットバッファを各TCPコネクションのスループッ
トの推測値に応じて割り当てる
• Webプロキシサーバの特性を考慮
– 送信側ホストにも受信側ホストにもなりうる
• クライアント向けコネクションとWebサーバ向けコ
ネクションを同時に扱う
– 上向きのコネクションと下向きのコネクションの依存関
係を考慮する必要性
– 受信側ソケットバッファの制御の必要性
February 19th, 2002
修士論文発表会
Advanced Network Architecture Research Group
提案方式 (2)
- コネクション管理方式 一定時間毎にpersistent TCPコネクションが
保持しているソケットバッファを半分にする
×
Webプロキシサーバ
Nmax = 3
Webサーバ
Webプロキシサーバの残存資源が少ない場合は
Webプロキシサーバの残存資源が十分にある
データ転送が行われていないpersistent TCP
TCP コネクションを扱う
コネクションを切断し、新規TCPコネクションを
クライアントホスト ときは従来通りpersistent
確立する
February 19th, 2002
修士論文発表会
Advanced Network Architecture Research Group
性能評価
• シミュレーションによる性能評価
– HTTP/1.0とHTTP/1.1の性能比較
– Webプロキシサーバの性能評価
– ユーザの応答時間の評価
• 実装実験による性能評価
– Webプロキシサーバの性能評価
– ユーザの応答時間の評価
February 19th, 2002
修士論文発表会
Advanced Network Architecture Research Group
シミュレーションモデル
Webプロキシサーバ
:
:
キャッシュヒット率 = 0.5
Nmax = 200
Webサーバ
クライアントホスト
台数
Webサーバ 50台
クライアント 50,100,200,500台
February 19th, 2002
伝搬遅延
パケットロス率
10 ~ 200 [ms]
0.0001 ~ 0.01
10 ~ 100 [ms]
0.0001 ~ 0.01
修士論文発表会
Advanced Network Architecture Research Group
Total Transfer Size [MBytes]
Webプロキシサーバの性能評価
Original Scheme
Proposed Scheme
4000
E2-ATBT方式の効果
3500
繁忙な状況下では提案
方式によって性能改善
3000
2500
2000
1500
1000
500
0
50
100
200
Number of Client Hosts
February 19th, 2002
修士論文発表会
500
Advanced Network Architecture Research Group
ユーザから見た応答時間の評価
クライアント 200台
クライアント 50台
Response Time [sec]
Original Scheme
10
1
Proposed Scheme
0.1
10
Response Time [sec]
100
100
Original Scheme
10
Proposed Scheme
1
0.1
100 1000 100001000001e+0061e+007
10
Document Size [Bytes]
February 19th, 2002
100
1000
10000 100000 1e+006 1e+007
Document Size [Bytes]
修士論文発表会
Advanced Network Architecture Research Group
まとめと今後の課題
• Webサーバの高速・高機能化手法であるSSBT方式の
提案
– シミュレーション、実装実験により有効性を確認
• データ転送速度の向上
• 応答時間の短縮
• Webプロキシサーバの特性を考慮したソケットバッファ管
理方式、コネクション管理方式の提案
– シミュレーション、実装実験による評価より有効性を確認
• Webプロキシサーバの性能改善
• ユーザから見た応答時間の短縮
• 今後の課題
– その他の資源の効率的な管理方式の検討
February 19th, 2002
修士論文発表会
Advanced Network Architecture Research Group
February 19th, 2002
修士論文発表会