ppt

地域解析センター
計算機システムの紹介
東京大学 ICEPP
真下 哲郎
ATLAS日本グループ特別会合
October 24, 2006 @東大素粒子センター
新システムの調達・納品スケジュール
• 通常のケースよりはるかにきつい日程
技術資料提供招請: 2月27日公示
仕様書案に対する意見招請: 5月1日公示
入札: 6月16日公告、8月25日開札
2007年1月運用開始(12月末検収)
• 2007年1月1日からの3年レンタル
• 無停電電源装置(UPS)と計算機室の分電盤を
別途入札で調達、現在設置工事中
• 計算機機器の搬入が始まるのは11月から、
ソフトウェアの設定作業を本格的に行なえるのは12月
システムの構成(概要)
• 計算サーバ: DELL PowerEdge 1955(ブレード) 650台
各ノード “Woodcrest” dual-core CPU 2個 計約7.8 MSI2K(?)
• ディスクアレイ: Infortrend A16F-G2422(3U,16 HDDs) 140台
大部分は実効容量 6TB(ユーザが本当に使える分)
• テープライブラリ: Sun/StorageTek SL8500
LTO3ドライブ32台、8000スロット(テープは別途購入)
全部LTO3テープ(圧縮なしでも400GB)の場合、最大~3.2 PB
• ファイルサーバ30台(10GbE NIC)、テープサーバ32台
• ORACLE DBサーバ2台(”RAC” 構成)
• その他のサーバ7台(DNS、Webサーバなど)
• イーサネットスイッチ: Foundry社 RX-16 3台、RX-4 1台
• 管理用の機器各種
• 端末・プリンターなどなし。メールサービスなどなし。
• 新しいCPU(Woodcrest)の発表・発売が
入札に間に合ったのは幸運:
従来のCPUに比べ性能が大幅に向上
電力消費量が少なめ
• CPUの性能についてはSPEC値を単純に信用する
わけにはいかず、今後ATLASのプログラムでの測定が必要
(Floating point の性能は integer ほどには速くなっていない)
• CPU以外の機器も含め、入札の競争効果により
予定以上の資源が確保できた。
(もっとも、ATLASの(公式)必要資源量も何倍にも増えた。)
資源の使用
• 上記の資源の一部をWLCGに提供
MoUでの2007年のpledge: 1 MSI2K、200 TB
計算サーバ~100台分
– ワーカーノード(”WN”): 80数台(供出分としてカウントされる資源はこれ)
– “CE”, “SE”, “RB”, “BDII” などなどのノード
– テスト用ノード
• Non-LCG
– 計算サーバのうち10台: loginサーバ
プログラム開発など interactive な用途に。lxplus.cern.ch のようなもの。
LCGを利用するための “UI” の役割も
– 残りの計算サーバ: バッチシステム(LSF)のノード
– Home directory: AFS で実現する予定、一人 50GB 程度までは保証。
– 階層型記憶システム: CERN の CASTOR (V2 を来年になってから導入)
100TB 程度の一般用テーププールを定義する予定
外部ネットワーク接続
• 現在 GbE のライン1本
東大のUTnetのIDSを通らない特別なライン
(SuperSINETのルータの入り口は 10Gbps、
東大内部側出口は複数の Gbps ライン)
• もうすぐ(?)2本目のGbEライン
• 来年春: SINET3
東大内部側出口も 10Gbps
東大が帯域を自由に使える
我々が最大のユーザに?
• LCG提供分
来年早々から本格稼動させないといけない
さしあたり、ソフトウェア的には新しいことは行なわず、
従来やってきたことを規模をふやして移行するに留める
• LCG以外:
今まで十分な経験を積んでいない新しい要素が多数
(Kerberos、AFS、Oracle DBMS、LSF、CASTOR V2)
設定・テストのための時間が少ない
• 「検収」は12月末だが1月からしばらくは「仮運用」
“lxatl” クラスターはまだしばらく稼動させ徐々に移行