品質とは誰かにとっての価値である - Cisco Support Community

品質向上への取り組み
ソフトウェア編
Tadashi Nakamura @ Japan Product Quality
• ソフトウェア品質とは?
• ソフトウェア品質メトリック
目次
• フィールド検出バグの解析
• スマートソフトウェアセレクション
• リリース品質の確保
© 2013-2014 Cisco and/or its affiliates. All rights reserved.
Cisco Confidential
2
ソフトウェア品質とは?
「ソフトウェア品質」という単語が頭に浮かぶのは?
•
•
•
•
•
•
•
システムダウン、リロード
サービスレベルの縮退
要求仕様を満たしていない。
リグレッション(デグレード) / 修正不十分
類似不具合の再発
メッセ―ジの誤出力
etc
© 2013-2014 Cisco and/or its affiliates. All rights reserved.
Cisco Confidential
3
ソフトウェア品質とは?
「ソフトウェア品質」という単語が頭に浮かぶのは?
•
•
•
•
•
•
•
システムダウン、リロード
サービスレベルの縮退
要求仕様を満たしていない。
リグレッション(デグレード) / 修正不十分
類似不具合の再発
メッセ―ジの誤出力
etc
© 2013-2014 Cisco and/or its affiliates. All rights reserved.
Cisco Confidential
4
ソフトウェア品質とは?
JISでは
品質:
製品またはサービスが明示または暗黙の要望を満たす
能力として有している特徴および特性の全体。
要望:
使いやすさ、安全性、アベイラビリティ、信頼性、保
全性、経済性、環境性の面も含まれる。
© 2013-2014 Cisco and/or its affiliates. All rights reserved.
Cisco Confidential
5
ソフトウェア品質とは?
Wikipediaでは
品質:
「品質とは誰かにとっての価値である」
ソフトウェアでいう価値とは?
© 2013-2014 Cisco and/or its affiliates. All rights reserved.
Cisco Confidential
6
ソフトウェア品質とは?
「ソフトウェア品質」という単語が頭に浮かぶのは?
•
•
•
•
•
•
•
システムダウン、リロード
サービスレベルの縮退
要求仕様を満たしていない。
リグレッション(デグレード) / 修正不十分
類似不具合の再発
メッセ―ジの誤出力
etc
© 2013-2014 Cisco and/or its affiliates. All rights reserved.
Cisco Confidential
7
ソフトウェア品質とは?
Wikipediaでは
品質:
「品質とは誰かにとっての価値である」
ソフトウェアでいう価値とは?
信頼性(Reliability),可用性(availability)が高
い
© 2013-2014 Cisco and/or its affiliates. All rights reserved.
Cisco Confidential
8
ソフトウェアの信頼性・可用性
ハードウェアでいうところの
MTBF / 故障率(返却率)
のように測定する
メトリック
© 2013-2014 Cisco and/or its affiliates. All rights reserved.
Cisco Confidential
9
• ソフトウェア品質とは?
• ソフトウェア品質メトリック
目次
• フィールド検出バグの解析
• スマートソフトウェアセレクション
• リリース品質の確保
© 2013-2014 Cisco and/or its affiliates. All rights reserved.
Cisco Confidential
10
ソフトウェア品質メトリック
Service
Request
SR
Bug
60380….
Service
Request
60489…
SR データベース
60597…
メトリック
60632…
Service
Request
© 2013-2014 Cisco and/or its affiliates. All rights reserved.
Cisco Confidential
11
SWDPMH (Software Defect Per Million Hour)
100万時間当たりのBug報告数(延べ数)
製品群ごとに目標基準、SRC : Software
Reliability Classesが設定
© 2013-2014 Cisco and/or its affiliates. All rights reserved.
Cisco Confidential
12
CFD MTTR (Customer Found Defects Mean Time To
Repair)
フィールドで検出されたBugの平均改修時間
© 2013-2014 Cisco and/or its affiliates. All rights reserved.
Cisco Confidential
13
%CFR (Percentage Customer Found Regressions)
フィールドで検出されたBugのうち
リグレッションの割合
© 2013-2014 Cisco and/or its affiliates. All rights reserved.
Cisco Confidential
14
• ソフトウェア品質とは?
• ソフトウェア品質メトリック
目次
• フィールド検出バグの解析
• スマートソフトウェアセレクション
• リリース品質の確保
© 2013-2014 Cisco and/or its affiliates. All rights reserved.
Cisco Confidential
15
TEACAT(Test Escape Analysis and Corrective Action Tracking)
フィールドで検出されたBugの分析を行い、適切なプロセスをフィードバックする
Bug
収集
Bug申請
テスト部門
Bug改修
検出できなかったBug
の共通特性
Bugの共通特性
なぜ検出できなかったのか?
お客様の事象
Bugの原因解析の強化
アップデート
TEACAT
リリース前に検出できな
かった原因の分析
周知徹底・継続監視
© 2013-2014 Cisco and/or its affiliates. All rights reserved.
分析
予防
Cisco Confidential
16
• ソフトウェア品質とは?
• ソフトウェア品質メトリック
目次
• フィールド検出バグの解析
• スマートソフトウェアセレクション
• リリース品質の確保
© 2013-2014 Cisco and/or its affiliates. All rights reserved.
Cisco Confidential
17
スマート・ソフトウエア・セレクション
http://software.cisco.com/selection/research.html
© 2013-2014 Cisco and/or its affiliates. All rights reserved.
Cisco Confidential
18
• ソフトウェア品質とは?
• ソフトウェア品質メトリック
目次
• フィールド検出バグの解析
• スマートソフトウェアセレクション
• リリース品質の確保
© 2013-2014 Cisco and/or its affiliates. All rights reserved.
Cisco Confidential
19
ソフトウェア開発工程
開発工程にていかにBugを作り込まないか。テスト工程にていかにBugを摘出するか。
CC
Concept
ビジネスプランニング
プロダクトプランニング
EC
Plan
DC
Develop
プログラムブラン設計
機能設計
システム定義
プログラムブラン設計
テスト戦略定義
詳細設計
コード開発&ユニットテスト
いかにBugを作り込まないか
チームレビュー
アクセプタンステスト
FCSRR
Validate
フィーチャーテスト
統合フィーチャーテスト
システムテスト
&リグレッションテスト
EOLC
GAC
Launch
ファィナライズ
Sustain
サポートプロセス
EOL
EOLプロセス
オンゴーイングテスト
プライシング
リリース
サポートプロセス
レポート
フィールドトライアル
/ベータテスト
リリース準備
いかにBugを摘出するか。
統合プラン開発
© 2013-2014 Cisco and/or its affiliates. All rights reserved.
Cisco Confidential
20
Release Criteria
• 十分摘出し尽くしたことの確認
累積バグ摘出率
• 信頼性成長モデルがベース
累積バグ摘出率
100%
閾値: 80%摘出
• 予測値の80%以上
• 順調に修正できているか確認
バグ修正率
• 駆込み修正はデグレードのもと
バグ修正率(週)
• 修正率がピークの45%以下
ピークレベル
• 未修正バグが十分少ないか確認
バックログ数
• 前版からの積み残し含む
• バックログが週摘出数の3倍以下
© 2013-2014 Cisco and/or its affiliates. All rights reserved.
閾値: 45%低下
Cisco Confidential
21
Waterfall vs Agile
© 2013-2014 Cisco and/or its affiliates. All rights reserved.
Cisco Confidential
22
まとめ
シスコは、常に新しい技術や
様々な手法を取り入れて、製品
の品質向上を目指しています。
ソフトウェア品質メトリック
フィールド検出バグの解析
スマートソフトウェアセレクション
Auto Test
Release Criteria
Agile
昨日を超える高品質を目指して
© 2013-2014 Cisco and/or its affiliates. All rights reserved.
Cisco Confidential
23
日本法人としての取り組み
日本法人としての取り組み
・日本市場における信頼性パフォーマンスの監視
・グローバルと日本市場の差分の把握
・本社との協業による継続的改善活動
・取り組み内容の、継続的なアップデート
© 2013-2014 Cisco and/or its affiliates. All rights reserved.
Cisco Confidential
25
Thank you.