Emulex 10GbE バーチャルファブリックアダプター Switch Independent

Emulex 10GbE バーチャルファブリックアダプター
Switch Independent Mode(vNIC2) 設定ガイド
Lenovo Japan, Enterprise Business Group, SE本部 製品SE部
2015/7/13
2015 Lenovo Unclassified . All rights reserved.
@lenovox86server
目次
1.
2.
3.
4.
機能概要
設定方法
構成例
ご参考
• 当ガイドでは以下のFlex System 環境での構成を記載しています。今後のバージョンアップに伴
い変更される可能性がありますが、基本的に同様の設定となります。また、他のラック型サー
バーでも基本的には同様の設定となります。
– Flex System x240 M5
- uEFI 1.01
- IMM2 1.20
- DSA 10.0
– Flex System CN4054
- Emulex UCNA Firmware Update 10.3.83.7
2015 Lenovo Unclassified . All rights reserved.
2
対象機器
• Emulex BE3/BE3R/XE102/XE104 NIC搭載機種
– Flex Systemオプション製品
- Flex System x240オンボードLOM
- (00Y3306)CN4054R 10Gb バーチャル・ファブリック・アダプター
- (00JY800) CN4052 2ポート 10Gb バーチャル・ファブリック・アダプター
- (94Y5160) CN4058S 8ポート 10Gb バーチャル・ファブリック・アダプター
– System x オプション製品
- (00D8540) Emulex 10GbE バーチャルファブリックアダプター III v2
- (00D1996) Emulex VFA5 ML2 デュアルポート 10GbE SFP+ アダプター
- (00JY820) Emulex VFA5 2x10 GbE SFP+ PCIe アダプター
- (00JY830)Emulex VFA5 2x10 GbE SFP+ アダプター (FCoE/iSCSI)
• 最新の対象機器については、システムガイドをご確認ください。
– http://www.lenovojp.com/server/systemguide
2015 Lenovo Unclassified . All rights reserved.
3
1.機能概要
2015 Lenovo Unclassified . All rights reserved.
Virtual Fabric Adapter (VFA) vNIC/UFPとは
10Gbイーサーネットを4ポートに分割することで、帯域を効率よく使用することができる機能
10Gbネットワークを 最大限に活用
Flex System
コンピュート・ノード
仮想NIC
(vNIC)
物理NIC
(pNIC)
論理経路
(バーチャルパイプ)
柔軟かつ信頼性の高い各機能
アダプター~スイッチポート間でのバーチャル
チャネル(論理経路)毎の帯域制御が可能
UFP:1Gbps以上100Mbps単位
vNIC:100Mbps単位
vNIC1
送信、受信、双方の通信で帯域制御が可能
vNIC3
vNIC1
vNIC5
vNIC2
vNIC7
vNIC3
pNIC
vNIC4
vNIC5
pNIC
vNIC6
vNIC7
vNIC2
vNIC4
vNIC6
vNIC8
vNIC8
Onboard NIC
CN4054R
ダイナミックな帯域制御値の割り当て変更が
可能
ハードウェアFCoE or HW iSCSIのサポート
※別途有償ライセンスが必要になります
複雑になりがちな仮想化環境においてVirtual Fabricなら
ユーザーネットワーク環境の要求に対して柔軟に対応可能です
2015 Lenovo Unclassified . All rights reserved.
5
Virtual Fabric Adapter (VFA) vNIC/UFPの特徴
“Unified Fabric Port”モード(UFP) “Virtual Fabric”モード(vNIC1)
• 帯域制御値などの変更時にサーバー再起動が
不要
• 帯域制御値などの変更時にサーバー再起動
が不要
• 双方向(送受信)の帯域割り当ておよび制御が可能 • 双方向(送受信)の帯域割り当ておよび制御が
可能
• 4つのモードで用途に合わせた柔軟な構成が可能
“Switch Independent”モード
(vNIC2)
•
Lenovo Networkingスイッチ以外のイーサ
ネットスイッチと互換性があり(既存環境と
の親和性)
• Tunnelモード、Trunkモード、Accessモード、FCoE • Lenovo NetworkingスイッチとEmulex 10Gア
ダプターの組み合わせにて提供
モード
• 一方向(送信)のみで帯域割り当ておよび
制御が可能
• Flex System EN4093R、G8264スイッチとEmulex
10Gアダプターの組み合わせにて提供
• UEFIメニュー(BIOS設定)による設定画面
• IEEE VLANタグによる通信制御
当ガイドの対象範囲
ハイパーバイザー or OS
(仮想NIC, 仮想スイッチ)
物理NIC
仮想パイプ
物理スイッチ
アップリンク接続
VLANxx
vNIC1
仮想スイッチ
vNIC2
vNIC3
vNIC4
vNIC5
vNIC6
物理
ポート
vNIC1
VLANxx
vNIC2
vNIC3
vNIC4
VLANxx
vNIC7
vNIC8
VLANxx
帯域制御
UFP/vNIC1:スイッチ側設定
vNIC2:UEFI画面での設定
2015 Lenovo Unclassified . All rights reserved.
vNIC分割設定
UFP(Tunnel)/vNIC1:
VLANアウタータグ/
UFP(Trunk/Access/FCoE)/vNIC2:
カスタマーVLAN
アップリンク接続
UFP(Trunk):VLANアウタータグ
vNIC1:vNICグループ
UFP(Trunk/Access/FCoE)/ vNIC2:
カスタマーVLANベース
6
vNIC2モード の動作
• 仮想アダプターごとに、それぞれ独立したLPVIDの値を付与することでNIC分割を行
います。(下記例では1001)
• OS上VMwareであればポートグループ上で付与したVLAN ID(100)はそのまま透過し
ます。VLANIDが付与されていないNW通信にはLPVID(1001)が付与されます。
Lenovo Flex System エンタープライズ・シャーシ
コンピュート・ノード
ポートグループA:
VLANなし
EN4093R
オンボードLOM/VFA
vSwitch0
ポートグループB:
VLAN100
物理ポート 1
LPVID:1001
1001
INTA1
100
1001
100
• スイッチ側ではVLANタグ(100,1001)が透過する設定にする必要があります。
– OSでVLANタグが付与されない場合でも、上記の通りパケットはNICにおいてLPVIDでタグ
付けされます。
– したがって、Switch IndependentモードのNICと接続するEN4093R 内部ポートのPVIDは
捨てVLANを設定するか、PVIDタギングを有効化した上で使用するVLANを設定してくださ
い。
2015 Lenovo Unclassified . All rights reserved.
7
2.設定方法
2015 Lenovo Unclassified . All rights reserved.
UEFI設定手順 概要
• マルチチャネルモード(Switch Independent Mode)の有効化
– System Settings>Network と遷移し、対象となるアダプターを選択します。
– Multichannel ModeよりSwitch Independent Modeを選択します
– Controller Configuration より帯域の下限、上限値、LPVIDの値を付与し、save
をおこないます。
– 同様に他のポートに関しても設定をおこないます。
• 当ガイドでは、CN4054を搭載した構成を使用します。
2015 Lenovo Unclassified . All rights reserved.
9
UEFI設定手順①
• VFA(バーチャル・ファブリック・アダプター)を搭載したコンピュート・ノードの
uEFIから物理ポートに対してvNIC2設定を行います。
• コンピュート・ノードを再起動させ、 POST (Power On Self Test)中のメッセー
ジ表示後、F1キーを押してUEFIを起動させます。
2015 Lenovo Unclassified . All rights reserved.
10
UEFI設定手順②
• System settingsを選択します。
2015 Lenovo Unclassified . All rights reserved.
11
UEFI設定手順③
• Networkを選択します。
2015 Lenovo Unclassified . All rights reserved.
12
UEFI設定手順④
• 「Network Device List」に表示されている MAC:xx:xx:xx:xx:xx:xx Slot1
Dev PFA xx:xx:0(バス番号)を選択します。
2015 Lenovo Unclassified . All rights reserved.
13
UEFI設定手順⑤
• Emulex 10G NICを選択します。
2015 Lenovo Unclassified . All rights reserved.
14
UEFI設定手順⑥
• Multichannel Modeを選択します。
2015 Lenovo Unclassified . All rights reserved.
15
UEFI設定手順⑦
• Switch Independent Modeを選択します。
2015 Lenovo Unclassified . All rights reserved.
16
UEFI設定手順⑧
• 帯域幅とNICを分割するために論理的に使用するLPVIDの値を指定するた
めに、Controller Configurationを選択します。
2015 Lenovo Unclassified . All rights reserved.
17
UEFI設定手順⑨
• Configure LPVIDを選択します。
2015 Lenovo Unclassified . All rights reserved.
18
UEFI設定手順⑩
• 各vNICに対してLPVIDの値を指定します。
2015 Lenovo Unclassified . All rights reserved.
19
UEFI設定手順⑪
• 輻輳が発生したときに最低限割り当てられる帯域(minimum Bandwidth)と
帯域に余裕がある場合に使用できる帯域(Maximum Bandwidth)を設定し
ます。まず、Configure bandwidthを選択します。
2015 Lenovo Unclassified . All rights reserved.
20
UEFI設定手順⑫
• 最小帯域と最大帯域を100Mbps単位で指定します。25と設定した場合は
2.5Gbpsが割り当てられます。
最小
帯域
最大
帯域
2015 Lenovo Unclassified . All rights reserved.
21
UEFI設定手順⑬
• Save Configurationを選択し、設定を保存します。
2015 Lenovo Unclassified . All rights reserved.
22
UEFI設定手順⑭
• NIC選択画面に戻り、他のNICについても同様に設定をおこないます。
2015 Lenovo Unclassified . All rights reserved.
23
UEFI設定手順⑮
• 同一チップのNICに関しては共通設定があるため、一部設定はグレーアウト
されています。
• 以上でUEFI設定は完了です。P.8にしたがって、スイッチ側のVLAN設定をし
てください。
2015 Lenovo Unclassified . All rights reserved.
24
3.構成例
2015 Lenovo Unclassified . All rights reserved.
vNIC2 構成例① – 上位スイッチで筐体冗長構成が可能な場合
■主な機能/設定■
•
•
•
•
•
オンボードLOM/VFAでvNIC2を有効にし、物理10GbEポートを4つのvNICに分割
Flexシャーシ筐体内のEN4093R x 2台でStackingを構成
上位スイッチのG8264 x 2台をVLAGで構成 ※VLAG + VRRPも可能
EN4093RとG8264の接続はクロス・スタック・リンクアグリゲーション-VLAGで接続
Compute NodeはActive-StandbyのTeaming構成
<Logical View>
<Physical View>
Core Network
凡例
1GbE
Core Network
L3
ISL
G8264-1
FCoE
VLAG
iSCSI
Flex System Chassis
LAG
FC
LAG
Stacking
EN4093R-1
L2
EN4093R-2
Teaming
Teaming
10G LoM/ VFA
10G LoM/ VFA
Compute Node
40GbE
64GbE (VC)
VNIC/UFP
G8264-2
VLAG
10GbE
Teaming
Teaming
Compute Node
2015 Lenovo Unclassified . All rights reserved.
26
vNIC2 構成例① – 上位スイッチで筐体冗長構成が可能な場合
■構成内容■
•
Compute Node側のオンボードLOM/VFAでvNIC2を有効にする事で仮想的にNIC数を増やす
事が可能です。
• vNIC2を使用する際は動的な設定、双方向の帯域制御が出来なくなりますが、UplinkをvNICの
グループごとに分けて用意する必要が無い為(※Uplink Sharedが可能)、上位スイッチとの接
続に使用する物理ポート数を節約する事が可能となります。
• EN4093R側はvNIC2とStackingの混在構成を行います。上位スイッチのG8264 x2台でVLAG
を構成する事で冗長性とActive-Activeパスを確保する事が可能です(vLAGを構成したG8264
の代わりに、vPCを構成したCiscoスイッチを使用することも可能です) 。また、VLAG + VRRPで
Flexシャーシ内のゲートウェイを冗長化する事が可能です。
• Compute NodeのサーバOSでActive-Standby のTeaming構成を行い、EN4093/RでLayer2
Failoverの設定を行う事で上位スイッチのリンク障害にも対応できます。
※vNIC2ではvNICごとのFailover設定はできません。物理10GbEポート単位でのFailoverとなり
ますのでご注意ください。
• 以上の構成を行うことで論理的にはLoop-Freeとなり、STPは不要となります。
2015 Lenovo Unclassified . All rights reserved.
27
vNIC2構成例① シャーシ内詳細(オンボードLOM使用時)
• オンボードLOMを使用し、LPVIDでタグを付与する場合、以下のようなVLAN
設定・接続イメージとなります。
– vmnic番号は認識順により異なる場合があります。
Lenovo Flex System エンタープライズ・シャーシ
コンピュート・ノード
EN4093R(ベイ1)
オンボードLOM
vmnic0
vmnic2
vmnic4
vmnic6
vNIC ポート1 (1001)
vNIC ポート2 (1002)
vNIC ポート3 (1003)
vNIC ポート4 (1004)
VLAN1001
1:x
(INTAx)
物理ポート 2
vNIC ポート1 (2001)
vNIC ポート2 (2002)
vNIC ポート3 (2003)
vNIC ポート4 (2004)
VLAN1003
1:57
(EXT15)
VLAN1004
1:61
(EXT19)
EN4093R(ベイ2)
2:43
(EXT1)
VLAN2001
2:x
(INTBx)
VLAN2002
VLAN2003
VLAN2004
•
•
…
vmnic1
vmnic3
vmnic5
vmnic7
VLAN1002
…
物理ポート 1
1:43
(EXT1)
Stacking
ISL
2:57
(EXT15)
2:61
(EXT19)
xは内部物理ポート番号で、1以上14以下の整数。
スタッキング構成時のポート表記例 : Port Number1~42までが内部ポート、43~64までが外部ポート
2015 Lenovo Unclassified . All rights reserved.
28
vNIC2構成例① シャーシ内詳細(CN4054使用時)
• オンボードLOMを外してCN4054を使用する場合、以下のようにvSwitchの
アップリンクを設定することでアダプター冗長の構成となります。
Lenovo Flex System エンタープライズ・シャーシ
コンピュート・ノード
CN4054
物理ポート 1
vSwitch0 : vmnic0 vmnic11
vmnic0
vmnic2
vmnic4
vmnic6
vNIC ポート1 (1001)
vNIC ポート2 (1002)
vNIC ポート3 (1003)
vNIC ポート4 (1004)
vSwitch1 : vmnic2 vmnic13
vSwitch2 : vmnic4 vmnic15
vSwitch3 : vmnic6 vmnic17
物理ポート 2
vmnic1
vmnic3
vmnic5
vmnic7
EN4093R(ベイ1)
1:x
(INTAx)
1:y
(INTBy)
vNIC ポート1 (2001)
vNIC ポート2 (2002)
vNIC ポート3 (2003)
vNIC ポート4 (2004)
vSwitch4 : vmnic1 vmnic10
vSwitch5 : vmnic3 vmnic12
vSwitch6 : vmnic5 vmnic14
vSwitch7 : vmnic7 vmnic16
物理ポート 3
vmnic10
vmnic12
vmnic14
vmnic16
vNIC ポート1 (2001)
vNIC ポート2 (2002)
vNIC ポート3 (2003)
vNIC ポート4 (2004)
EN4093R(ベイ2)
2:x
(INTAx)
*前頁同様
Stacking
ISLの構成
が必要
※x,yは内部物
理ポート番号。x
は1以上14以下
の整数。yは15
以上28以下の
整数。
物理ポート 4
vmnic11
vmnic13
vmnic15
vmnic17
2015 Lenovo Unclassified . All rights reserved.
vNIC ポート1 (1001)
vNIC ポート2 (1002)
vNIC ポート3 (1003)
vNIC ポート4 (1004)
2:y
(INTBy)
29
vNIC2 構成例②-上位スイッチで筐体冗長構成がとられない場合
■主な機能/設定■
オンボードLOM/VFAでvNIC2を有効にし、物理10GbEポートを4つのvNICに分割
Hot Links機能により、EN4093/Rと上位スイッチの間のリンクをActive/Standbyで切り替える。
Compute NodeはActive-StandbyのTeaming構成
上位スイッチ間のリンク切り替えはComputing nodeへのリンク切り替えには影響を与えず、同じリ
ンクを用いて通信が継続される。
• Flexシャーシ筐体内のEN4093R x 2台でStackingを構成
• 論理的にはloop-free構成となる為、Spanning-Tree Protocol 等は不要。
•
•
•
•
<Logical View>
<Physical View>
Core Network
凡例
1GbE
Core Network
L3
LAG
10GbE
40GbE
64GbE (VC)
VNIC/UFP
FCoE
iSCSI
Flex System Chassis
Active
EN4093R-1
L2
EN4093R-2
Teaming
Teaming
10G LoM/ VFA
10G LoM/ VFA
Compute Node
FC
Standby
Teaming
Teaming
Compute Node
2015 Lenovo Unclassified . All rights reserved.
30
vNIC2 構成例②-上位スイッチで筐体冗長構成がとられない場合
■構成内容■
• Compute Node側のオンボードLOM/VFAでvNIC2を有効にする事で仮想的にNIC数を増やす
事が可能です。
• vNIC2を使用する際は動的な設定、双方向の帯域制御が出来なくなりますが、UplinkをvNICの
グループごとに分けて用意する必要が無い為(※Uplink Sharedが可能)、上位スイッチとの接
続に使用する物理ポート数を節約する事が可能となります。
• EN4093/RはHot Links機能により、上位スイッチへのリンクがActive/Standbyとなります。
ActiveリンクがDownした際、Standbyリンクに即座に切り替えを行います。Active/Standbyとな
るため、一部帯域の有効活用ができない点に注意が必要です。
• EN4093/Rと上位スイッチとの間のループ構成を回避するため、EN4093/R間のケーブル接続
は行いません。
• Compute nodeはNICチーミング機能によりActive/Standby構成を取り、EN4093/Rとのリンク
がDownするとFailover処理を行います。
※vNIC2ではvNICごとのFailover設定はできません。物理10GbEポート単位でのFailoverとなり
ますのでご注意ください。
2015 Lenovo Unclassified . All rights reserved.
31
4.ご参考
2015 Lenovo Unclassified . All rights reserved.
よくあるご質問
Q1.
vNIC2を使用することで、スイッチで使用できる機能に制限が出ますか。
A1.
スイッチの機能に依存しないため、制限はでません。言い換えると、スイッチは
vNIC2を使用していることを意識しません。
Q2.
vNIC2を使用することで、VLANサポート数に制限が発生しますか。
A2.
OSがサポート可能なVLAN数をサポートします。唯一の例外は、ベアメタル
Windows OSを使用する際、vNICあたり使用可能なのは最大63VLANで、
Windowsバージョンやドライバーのバージョンに依存してもっと少ないケースも
あります。
2015 Lenovo Unclassified . All rights reserved.
33
ご参考資料
• Lenovo システムガイド – System x
http://www.lenovojp.com/server/systemguide/
• Lenovo System x 技術情報
http://www.lenovojp.com/server/technical/
• System Networking はじめての導入セットアップ・ガイド
http://www.lenovojp.com/server/technical/gd-networking.shtml
• Flex System InfoCenter(英語)
http://pic.dhe.ibm.com/infocenter/flexsys/information/index.jsp?topic=%2F
com.ibm.acc.pureflex.doc%2Fp7een_template_landing.html
• [Redbook] NIC Virtualization in IBM Flex System Fabric Solutions(英語)
http://www.redbooks.ibm.com/abstracts/sg248223.html?Open
2015 Lenovo Unclassified . All rights reserved.
34
免責事項
2015 Lenovo Unclassified . All rights reserved.
免責事項
• 当内容は、お客様、販売店様、その他関係者が、System x, Flex Systemな
どを活用することを目的として作成しました。
• 詳細につきましては、URL(http://www.lenovo.com/legal/jp/ja/)の利用条件
をご参照ください。
• 当技術資料に含まれるレノボ・エンタープライズ・ソリューションズ株式会社お
よびLenovo Enterprise Solutions (以下総称して、LES) 以外の製品に関す
る情報は、各提供ベンダーより提供されたものであり、LES はその正確性ま
たは完全性についてはいかなる責任も負いません。
• 当技術資料の個々の項目は、LESにて検証されていますが、お客様の環境
において全く同一または同様な結果が得られる保証はありません。お客様の
環境、その他の要因によって異なる場合があります。お客様自身の環境にこ
れらの技術を適用される場合は、お客様自身の責任と費用において行なって
くださいますようお願いいたします。
• Copyright 2015 レノボ・エンタープライズ・ソリューションズ株式会社
2015 Lenovo Unclassified . All rights reserved.
37