ジョブ管理と監視の融合による効果 -HyClops JobMonitoring

ジョブ管理と監視の融合による効果
-HyClops JobMonitoringの紹介-
OSS推進室
池田 大輔
Copyright © 2015 TIS Inc. All rights reserved.
2015/11/20
アジェンダ
●
TISからの提案
●
運用現場のよくあるパターン
●
JobSchedulerとZabbixの活用による解決
●
HyClops JobMonitoringを利用した応用展開
●
【宣伝】TISエンタープライズOSSサポートサービスのご紹介
Copyright © 2015 TIS Inc. All rights reserved.
2
自己紹介
名前
池田 大輔
所属
TIS株式会社 OSS推進室
Twitter
@ike_dai
Facebook
https://www.facebook.com/ikedai
興味
Zabbix,AWS,fluentd,Ansible,JobScheduler...
技術評論社HP : http://gihyo.jp/book/2014/978-4-7741-6288-1
Amazon : http://www.amazon.co.jp/dp/4774162884
Copyright © 2015 TIS Inc. All rights reserved.
Zabbix Conference 2015
“Advanced SysOps by using HyClops”
(http://www.zabbix.com/jp/conf2015_agenda.php)
3
TISからの提案
Copyright © 2015 TIS Inc. All rights reserved.
4
効果的な運用実現のためには
監視
ジョブ管理
インシデント
管理
構成管理
Copyright © 2015 TIS Inc. All rights reserved.
5
効果的な運用実現のためには
監視
ジョブ管理
インシデント
管理
システム運用自動化に直結する特に重要な要素はここ
構成管理
Copyright © 2015 TIS Inc. All rights reserved.
6
今日の目的
Zabbixはもちろん有効!
JobSchedulerを組合わせると
可能性がもっと広がるかも!
ということを知ってもらう
Copyright © 2015 TIS Inc. All rights reserved.
7
運用現場のよくあるパターン
Copyright © 2015 TIS Inc. All rights reserved.
8
現状よくあるパターン
ジョブ管理ツール
運用担当者
監視ツール
ジョブ実行
異常検知
Copyright © 2015 TIS Inc. All rights reserved.
状況確認
原因調査
復旧処理
9
自動化して
もっとインテリジェントにしようよ
Copyright © 2015 TIS Inc. All rights reserved.
10
JobSchedulerとZabbix
活用による解決
Copyright © 2015 TIS Inc. All rights reserved.
11
ZabbixとJobSchedulerを組み合わせることで
JobScheduler
ジョブ実行
JobScheduler
運用担当者
Zabbix
Zabbix
Zabbix
異常検知
状況確認
原因調査
復旧処理
最終的には...
運用担当者は”状況を知る”だけで済むような状況が作れるかもしれない
Copyright © 2015 TIS Inc. All rights reserved.
12
Zabbixによる柔軟な状態の評価
Zabbixは監視結果に対して複合的な評価条件式の指定が可能
例えば...
トリガー条件式
アクション
とあるジョブが失敗
かつ(and)
CPUリソースの負荷が高い
スケールアウト処理実行
四則演算(+-×÷)、論理演算(and,or,not)、複数ホストの監視結果の計算等対応可能
Copyright © 2015 TIS Inc. All rights reserved.
13
過去のデータも元に評価できる仕組み
Zabbixのタイムシフトの機能を使えば過去データを元に評価可
例えば...
トリガー条件式
アクション
「1週間前のジョブの実行時間」
と
「直近のジョブの実行時間」
の差分が閾値以上
ジョブの実行時間の見直し処理
各監視アイテム毎に監視結果履歴(history)の保存期間が設定可能で、
その期間内のデータであれば評価に活用できる
Copyright © 2015 TIS Inc. All rights reserved.
14
ジョブ定義をプログラマブルに
JobScheduler自身の制御も内部APIでプログラマブルにコントロール
例えば...
JobChain
OK
とあるJob
OK
直近のサーバ
負荷収集
次のJob
評価
NG
内部APIにより
別スケジュールで
処理実行命令(Order)発行
スケジュール
変更
新規Order
別スケ
ジュール
Zabbix
Copyright © 2015 TIS Inc. All rights reserved.
15
ツール同士のAPI連携
Zabbix
JobScheduler
Zabbix API
❖
❖
Zabbix設定情報
➢ Create(登録)
➢ Read(読み込み)
➢ Update(更新)
➢ Delete(削除)
監視結果情報
➢ Read(読み込み)
Copyright © 2015 TIS Inc. All rights reserved.
JobScheduler外部API
HTTP
❖
❖
JobScheduler設定情報
➢ Create(登録)
➢ Read(読み込み)
➢ Update(更新)
➢ Delete(削除)
JobSchedulerステータス情報
➢ Read(読み込み)
16
マップ上からのジョブ実行
Copyright © 2015 TIS Inc. All rights reserved.
17
可能性感じませんか?
Copyright © 2015 TIS Inc. All rights reserved.
18
HyClops JobMonitoring
を利用した応用展開
Copyright © 2015 TIS Inc. All rights reserved.
19
HyClops JobMonitoring
● ZabbixとJobSchedulerを連携するツール
● 3つの機能
1. ジョブの失敗状況をZabbixに連携
2. ジョブの実行処理時間情報をZabbixに連携
3. ジョブ実行時にZabbixのトリガー条件式を動的変更
http://tech-sketch.github.io/hyclops_jm
GitHubリポジトリ: https://github.com/tech-sketch/hyclops_jm
公式サイトURL:
Copyright © 2015 TIS Inc. All rights reserved.
20
HyClops JobMonitoring
● ZabbixとJobSchedulerを連携するツール
● 3つの機能
1. ジョブの失敗状況をZabbixに連携
2. ジョブの実行処理時間情報をZabbixに連携
3. ジョブ実行時にZabbixのトリガー条件式を動的変更
平常時のCPU負荷
Job実行時のCPU負荷
閾値
閾値
http://tech-sketch.github.io/hyclops_jm
GitHubリポジトリ: https://github.com/tech-sketch/hyclops_jm
公式サイトURL:
Copyright © 2015 TIS Inc. All rights reserved.
21
ジョブ実行時間推移とリソース負荷
スクリーン機能を使ってジョブ実行処理時間推移とリソース負荷をまとめて視覚化
Copyright © 2015 TIS Inc. All rights reserved.
22
Zabbix3.0の予測機能もうまく活用できる?
ジョブ実行時間推移の傾向を捉えて今後のジョブ実行計画自動化
forecast
timeleft
→ 特定の未来時間に値がどうなるかを評価
→ 特定の値に達するまでにあとどれぐらいかを評価
linear(線形近似)
polynomial(多項式近似)
exponential(指数近似)
logarithmic(対数近似)
Copyright © 2015 TIS Inc. All rights reserved.
power(累乗近似)
23
【宣伝】
TISエンタープライズOSSサポートサービス
Copyright © 2015 TIS Inc. All rights reserved.
24
TISエンタープライズOSSサポートサービス
問い合わせ先
TIS株式会社
OSSサポートサービス担当窓口
[email protected]
Copyright © 2015 TIS Inc. All rights reserved.
25
12/9 オープンソースカンファレンス
今日の話のもう少し詳しいところを聞きたい方は
12/9 (水) 渋谷までお越しを!
講演タイトル
運用をプログラマブルに!
JobSchedulerを活用したOperations as Codeの世界
詳細・ご登録はこちらから
http://www.ospn.jp/osc2015.enterprise/
Copyright © 2015 TIS Inc. All rights reserved.
26
まとめ
高機能な監視ソフトウェアZabbix
と 高機能なジョブ管理ソフトウェアJobScheduler
柔軟性が高いが故に複雑な感じは否めない
しかし
運用改善という長期的視点で見た時の効果・可能性は大
Copyright © 2015 TIS Inc. All rights reserved.
27
THANK YOU