地域解析センター 計算機システムの紹介 東京大学 ICEPP 真下 哲郎 ATLAS日本グループ特別会合 October 24, 2006 @東大素粒子センター 新システムの調達・納品スケジュール • 通常のケースよりはるかにきつい日程 技術資料提供招請: 2月27日公示 仕様書案に対する意見招請: 5月1日公示 入札: 6月16日公告、8月25日開札 2007年1月運用開始(12月末検収) • 2007年1月1日からの3年レンタル • 無停電電源装置(UPS)と計算機室の分電盤を 別途入札で調達、現在設置工事中 • 計算機機器の搬入が始まるのは11月から、 ソフトウェアの設定作業を本格的に行なえるのは12月 システムの構成(概要) • 計算サーバ: DELL PowerEdge 1955(ブレード) 650台 各ノード “Woodcrest” dual-core CPU 2個 計約7.8 MSI2K(?) • ディスクアレイ: Infortrend A16F-G2422(3U,16 HDDs) 140台 大部分は実効容量 6TB(ユーザが本当に使える分) • テープライブラリ: Sun/StorageTek SL8500 LTO3ドライブ32台、8000スロット(テープは別途購入) 全部LTO3テープ(圧縮なしでも400GB)の場合、最大~3.2 PB • ファイルサーバ30台(10GbE NIC)、テープサーバ32台 • ORACLE DBサーバ2台(”RAC” 構成) • その他のサーバ7台(DNS、Webサーバなど) • イーサネットスイッチ: Foundry社 RX-16 3台、RX-4 1台 • 管理用の機器各種 • 端末・プリンターなどなし。メールサービスなどなし。 • 新しいCPU(Woodcrest)の発表・発売が 入札に間に合ったのは幸運: 従来のCPUに比べ性能が大幅に向上 電力消費量が少なめ • CPUの性能についてはSPEC値を単純に信用する わけにはいかず、今後ATLASのプログラムでの測定が必要 (Floating point の性能は integer ほどには速くなっていない) • CPU以外の機器も含め、入札の競争効果により 予定以上の資源が確保できた。 (もっとも、ATLASの(公式)必要資源量も何倍にも増えた。) 資源の使用 • 上記の資源の一部をWLCGに提供 MoUでの2007年のpledge: 1 MSI2K、200 TB 計算サーバ~100台分 – ワーカーノード(”WN”): 80数台(供出分としてカウントされる資源はこれ) – “CE”, “SE”, “RB”, “BDII” などなどのノード – テスト用ノード • Non-LCG – 計算サーバのうち10台: loginサーバ プログラム開発など interactive な用途に。lxplus.cern.ch のようなもの。 LCGを利用するための “UI” の役割も – 残りの計算サーバ: バッチシステム(LSF)のノード – Home directory: AFS で実現する予定、一人 50GB 程度までは保証。 – 階層型記憶システム: CERN の CASTOR (V2 を来年になってから導入) 100TB 程度の一般用テーププールを定義する予定 外部ネットワーク接続 • 現在 GbE のライン1本 東大のUTnetのIDSを通らない特別なライン (SuperSINETのルータの入り口は 10Gbps、 東大内部側出口は複数の Gbps ライン) • もうすぐ(?)2本目のGbEライン • 来年春: SINET3 東大内部側出口も 10Gbps 東大が帯域を自由に使える 我々が最大のユーザに? • LCG提供分 来年早々から本格稼動させないといけない さしあたり、ソフトウェア的には新しいことは行なわず、 従来やってきたことを規模をふやして移行するに留める • LCG以外: 今まで十分な経験を積んでいない新しい要素が多数 (Kerberos、AFS、Oracle DBMS、LSF、CASTOR V2) 設定・テストのための時間が少ない • 「検収」は12月末だが1月からしばらくは「仮運用」 “lxatl” クラスターはまだしばらく稼動させ徐々に移行
© Copyright 2024 ExpyDoc