インターネット時代のセキュリティ

2011年度第2回
ITリスク学研究会
2011年7月9日
「リスク社会学とITリスク」
東京電機大学教授
(内閣官房情報セキュリティ補佐官)
佐々木良一
[email protected]
1
目次
1.はじめに
2.リスク社会学の動向
3.ITリスクの社会学的位置づけ
4.今後の展開
情報セキュリティからITリスクへ
ITの安全・安心
Trust
ニ
ュ
ー
・
デ
ィ
ペ
ン
ダ
ビ
リ
テ
ィ
原因
故意
の不
正
故障
ヒュー
マンエ
ラー
低減対策
評価指標
Security
Privacy
Reliability
Safety
Usability等
広義のセキュリティ
ITリスク
(Risk)
影響 x
発生確率
常に不確実性を
伴い確率論的扱
いが不可欠
ITリスク学研究会の設立
ITリスク問題解決のた
めに多重リスクコミュ
ニケータは有効である
がこれだけではITリス
クの問題は解決でき
ない。
インターディシプリナリ
ーなアプローチが不可
欠であり、多くの研究
者の協力の下に問題
解決の早期化・効率化
を図りたい
日本セキュリティマネジメント学会に
ITリスク学研究会が発足(2008年6月)
4
ITリスク学の構成
事前
ITリスク学
運用
事後
①ITリスクマネジメント技術
ITリスクマネジメント(狭義)
応用
②リスク社会
②ITリスク
科学的接近
社会学
③リスク心理
③ITリスク
学的接近
心理学
基礎
基盤とな
る学問
ITリスク
基礎技術
心理学
リスク学 社会学
経済学
安全学
ITリスク
アセスメント
ITリスクコミュ
ニケーション
④ITリスクの考え方
⑤リスク分
析・評価技術
信頼性・安
全性工学
⑦
危
機
管
理
技
術
⑥リスク対
策技術
情報セ
キュリティ
情報工学・
ソフトウェ
ア工学
多重リ
スクコ
ミュニ
ケータ
②リスク社会科学的接近関連
<分野>
(a)リスク社会学
(イ)リスクと社会
(ロ)リスクとメディア
(ハ)リスクと宗教
(b)リスク経済学
(イ)セキュリティへの最適投資問題
(c)リスク経営学
(d)その他(リスク対策と法、コンプライアンス問題)
目次
1.はじめに
2.リスク社会学の動向
3.ITリスクの社会学的位置づけ
4.今後の展開
リスク社会
ドイツの社会学者ウルリヒ・ベック
「かつて人類は地震などの自然災害や病気などを恐れてい
たが,現在ではそれらのリスクをコントロールするために開発
した科学技術そのものが新たなリスクとして問題になってき
ている.」と指摘.
「このような新たなリスクに覆われた社会を「リスク社会(翻訳
では危険社会)」」と呼んだ.
ウルリヒ・ベック(東廉/伊藤美登里訳)「危険社会 新しい近
代への道」法政大学出版局,1998年
8
新しいタイプのリスクの特徴
<ウルリヒ・ベック>
(1) リスク社会のリスクには地理的・場所的な境界は存在し
ない。その影響は国境を越えて大きな影響を持つ。
(2) 文明がもたらすリスクの多くはその原因を突き止めたり
因果性を確定することが難しい。
(3) これらのリスクにより、民間のあるいは公的な安全保障
のための諸制度は重大な危機に直面させられる。
山口節郎「現代社会のゆらぎとリスク」新曜社,2002
かつてのリスク
「リスク社会」が意識される20 世紀後半までの近代社会におい
ては、一般的な意味での「危険」に対応した、一定の客観性と普
遍性を備えた基準状態としての「安全」が想定されていたはずで
ある。
そこでは、失業、労働災害などに代表される近代的タイプのリス
ク=「産業‐福祉国家的リスク」(Lau,1989)が、一定の計算可能
性に基礎を置いた予測と保障の制度として、社会的に保証・保
障されていた。自然災害や健康上のリスクもまた、同様にして、
(保険などの形で)制度的に飼いならされ、手なずけられていた。
三上 剛史http://www.hanshinawaji.or.jp/kenkyusyo/katsudo/pdf/wp2008001j.pdf
新しいタイプのリスク
ニコラス・ルーマン(ドイツの社会学者)
「コントロールのあるところリスクも増大する」(注)
三上剛史「社会の思考 -リスクと監視と個人化ー」学文社、2010
(注)畑村洋太郎「危険不可視社会」講談社では安全の実現手段に
は本質安全と制御安全があり、制御安全に頼り過ぎてはならないと
指摘。
私たちへの問いかけ:リスクは果たして制御可能か?
ルーマンのアプローチ
ルーマンは自分で制御可能なものを「リスク」、不能なもの
を「危険」としている。
また、リスクは「未来の被害を現在時点での予測に置き換
えたもの」であるという。しかしそれは不可能なので時間の
問題は社会の問題にずらされることになる。
そこで、リスクを技術的、法的、政治的、道徳的に制御して
安全を保とうとする。この行動を<リスク/安全>の行動
という。
土方透、アルミン・ナセヒ(編著)「リスク 制御のパラドックス」新泉社、2002
<リスク/安全>と<リスク/危険>
しかし、これらの行動そのものが新たなリスクを生み出すので
リスクを回避することにならないというパラドックスに陥る。
そのため、ルーマンは<リスク/安全>という区分を <リスク
/危険>という区分に変えようとする。
すなわち<リスク/危険>という区分によって、被害の予期が
誰によってどのようになされるかという点に着目し観察を行う
ことによって対応しようとする。
土方透、アルミン・ナセヒ(編著)「リスク 制御のパラドックス」新泉社、2002
私たちの基本スタンス
リスク社会学者が指摘するようにリスクを制御する
のは限りなく難しい。
しかし、そこにリスクがある以上万全の注意を払っ
てリスクを制御し続けるしかない。
そのため対象に応じてどう対応すべきかを明確化
していく。
14
新しいタイプのリスクへの対応
原発や新型インフルエンザ(さらにはサイバーテロ)などの新
しいリスクが損害の深刻さ、補償不可能性ゆえに損失を最小
限に抑え保障するというアプローチではなく、潜在的リスクを
洗い出し、あらかじめ排除する「警戒」型アプローチが必要。
そして、その「警戒」の行為ゆえにリスクと向かいあわざるを
得ず、リスク恐怖症を招きがちであり、さらにそれが監視社会
を作り出すと三上は指摘する。 (リスク対リスク、多重リスク)
三上剛史「社会の思考 -リスクと監視と個人化ー」学文社、2010
15
安全・安心の2つの面
1.安全・安心を目指す社会が暴力的な排除を実施
する場合もあり、忌むべきものである。 (ハンセン病
の隔離政策など)
2.しかし、ロールズのいう「基本材」としての安全・安
心は何があっても確保すべきものである。
武田徹「原発報道とメディア」講談社,2011
16
リスクと不確実性「ブラック・スワン」
米国でベストセラーとなった本の邦訳である。
著者のナシーム・ニコラス・タレブはレバノン出身で米国に
滞在中のトレーダ兼客員教授。哲学、歴史、経済学、心理
学、統計学、情報科学などに人並み外れた知識を持つ。
表題となった「ブラック・スワン」とは、オーストラリアで発見さ
れた黒い白鳥に由来するものであり、ほとんどありえない事
象、誰も予想しなかった事象を意味している。
ナシーム・ニコラス・タレブ(望月衛訳)「ブラック・スワン 不確実性とリスクの
本質(上)(下)」ダイヤモンド社、2009 p4-5
17
ブラックスワンとは
「ブラック・スワン」の特徴
(1)一つは異常であり普通に考えられる範囲の外側にあること。
(2)二つ目は非常に強いインパクトをもたらすこと。
(3)そして三つ目は、いったん起きてしまうと、いかにもそれら
しい説明がなされ、実際よりも偶然には見えなくなったり、最初
からわかっていたような気にさせられたりすること。
(たとえばリーマンショックなど)
この本で主に扱うのは、人間にはランダム性、特に大きな変動
が見えないという問題である。
人間が大きな変化が見えない理由
情報を手に入れ、溜め込み、複製したり取り出したりするのにコ
ストがかかるので人はパターン化したがる(アンドレイ・ニコライ
ビッチの法則)。
その際に利用するパターン化したモデルとは役にはたつが気ま
ぐれにひどい副作用を起こす薬のようなものであり十分な注意
が必要であり、適切な懐疑主義が不可欠であるという。
このようなモデル、特にベル型カーブ(ガウス分布、正規分布と
も言う)を用いて予測を行い、講釈を述べる統計学者や経済学
者を著者は激しく非難する。
2つの国とランダム性
(1)月並みの国:従来の国。物理法則に縛られる世界。タイプ1
のランダム性に支配される。ここでは、極端にはずれた物は出て
こない。身長、体重の分布などは正規分布に近い。比較的予測
が可能。
(2)果ての国:拡張可能性のある世界。情報系の世界。本の売
り上げ、収入、都市の人口など。正規分布で扱えない世界。デー
タを積み重ねても知識はゆっくりと不規則にしか増えない。予測
のつかないことに支配される。
黒い白鳥が舞い降りる領域
月並みの国
(正規分布が過程できる)
ペイオフ:ここでは「対応
の成果」といった意味
白い白鳥(従来のアプ
ローチが可能な領域)
単純なペイオフ
フラクタル的ラ
ンダム性の世
界
複雑なペイオフ
灰色の白
鳥
黒い白鳥
(第4象限)
果ての国
(正規分布が過程できない)
黒い白鳥が舞い降りる領域であり、モデル化や予測が不 21
可能であるだけでなくやってはいけない領域。
灰色の白鳥の世界
マンデルブロ的ランダム性(フラクタル的ランダム性)の世界
富は拡張可能であり、マンデルブロ的な世界である。この環境
はべき乗則に従う(正規分布を仮定できない)。べき乗側の世界
は80/20ルールに従う。べき乗則を仮定すると起こり得ないと
思うことが正規分布を前提とするよりも起こりやすいことをうまく説
明できる。
べき乗則に従うとロングテイル現象が生じる。大勢の小物とほ
んの少しだけの超大物がいる世界。物事の不公平さが少しはまと
もになる。
販売
数量
べき乗則に沿っ
た曲線
本の点数
(注)マンデルブロは、フラク
タルの発明者
黒い白鳥が舞い降りる領域
月並みの国
ペイオフ:ここでは「対応
の成果」といった意味
白い白鳥(従来のアプ
ローチが可能な領域)
単純なペイオフ
フラクタル的ラ
ンダム性の世
界
複雑なペイオフ
灰色の白
鳥
黒い白鳥
(第4象限)
果ての国
黒い白鳥が舞い降りる領域であり、モデル化や予測が不
可能であるだけでなくやってはいけない領域。
23
第4象限への対応法
第4象限に対しては、反知識を利用して、失うものがほとんどな
く、万が一起これば得られるものが大きいものに賭けるのがよ
いと主張する。すなわち、トレーダとして使っているバーベル戦
略を導入する。これは可能な限り超保守的かつ超積極的にな
ることである。
お金の一部(85-90%ぐらい)をものすごく安全な資産(アメ
リカの国債など)に投資し、のこりはものすごく投機的な賭け
(オプションなど)に投資するのがよいという。
24
関連する面白い話
パスカルの判断:
私は神がいるほうにかける。神がいるかどうかは分か
らないが無神論だと神様がいなかってもいいことがあ
るわけはないが、神様がいたらひどいことになる。
したがって私が神様を信じているのは適切な行為な
のだ。
目次
1.はじめに
2.リスク社会学の動向
3.ITリスクの社会学的位置づけ
4.今後の展開
リスクの定義
工学分野の確率論的リスク評価では通常次のよう
に定義することが多い。
リスク=損害の発生確率x損害の大きさ
これ自体は間違いではない。しかし、他の指標も
考える必要がある。
27
リスクのその他の尺度
1.不確実性(incertitude):発生確率や被害規模の確実性指
標
2.同時偏在性(ubiquity):局地的か地球規模かなど。公平性
を示す指標
3.持続性(persistency):短期、中期、長期、数世代など時間
軸でとらえる尺度。世代間公平性に関する指標。
4.可逆性(reversibility):復元可能かどうかの指標。
5.晩発性(delay effect):潜在期間の観点から見る指標。
6.動員潜在力(potential mobilization):リスク認知に関する専
門家と一般の人々のギャップが政治問題化するかどうかの指
標。
谷口武俊「リスク意思決定論」大阪大学出版会,2008
28
ギリシャ神話にちなんだ6つのリスク類型
1.ダモクレス型リスク(原子力エネルギー、化学コンビ
ナート)
2. 2.キュクロープス型リスク(NBC兵器システム)
3. ピュティア型リスク(遺伝子工学利用、BSE感染)
4.パンドラ型リスク(残留性有機汚染物質、環境ホルモ
ン)
5.カッサンドラ型リスク(人為起源の気候変動)
6.メドーサ型リスク(送電線電磁界)
谷口武俊「リスク意思決定論」大阪大学出版会,2008
内のWBGU報告書(1999)紹介
WBGU:ドイツ連邦政府気候変動諮問委員会
29
リスクマネジメントの類型と基本戦略
マネジメント
アプローチ リスク類型
リスク
ベース
予防的
被害
規模
発生
確率
認識の
差%
デモクレス
高
低
大
原子力エ 災害ポテン
ネルギー シャルを低減
キュプ
ロープス
高
不確実
小
NBC兵
器
不確実 不確実
中
遺伝子工 予防原則を
適用する
学利用
不確実* 不確実
小
環境ホル 代替物を開
モン
発する
高
小
人為起源
気候変動
意識の向上
を図る
低
大
送電線電
磁界
信頼関係を
30
構築する
ピュティア
パンドラ
広範囲
高#
カッサンドラ (不確実)
メドウサ
低
例
行動戦略
発生確率の
確実性向上
%専門家と一般間 *持続性が高い・不可逆 #被害発生までの時間が長い
ダモクレス
紀元前4世紀の人。シラクーザ
の僭主(せんしゅ)ディオニシオ
ス1世の廷臣。彼が僭主の幸運
を絶賛したので、僭主は彼を王
座につかせ、その頭上に1本の
馬の尾毛で抜き身の剣をつるし
て供応し、王者にはつねに危険
が付きまとっていることを悟らせ
た故事が「ダモクレスの剣」とし
て伝わる(転じて危機一髪の状
態を意味する)。
31
リスクマネジメントの類型と基本戦略
マネジメント
アプローチ リスク類型
リスク
ベース
予防的
被害
規模
発生
確率
認識の
差%
デモクレス
高
低
大
原子力エ 災害ポテン
ネルギー シャルを低減
キュプ
ロープス
高
不確実
小
NBC兵
器
不確実 不確実
中
遺伝子工 予防原則を
適用する
学利用
不確実* 不確実
小
環境ホル 代替物を開
モン
発する
高
小
人為起源
気候変動
意識の向上
を図る
低
大
送電線電
磁界
信頼関係を
32
構築する
ピュティア
パンドラ
広範囲
高#
カッサンドラ (不確実)
メドウサ
低
例
行動戦略
発生確率の
確実性向上
%専門家と一般間 *持続性が高い・不可逆 #被害発生までの時間が長い
キュクロープス
ギリシア神話に登場する卓越
した鍛冶技術を持つ単眼の
巨人であり、下級神である一
族。あるいは、これを下敷きと
して後世に創られた伝説の生
物をも指す。
33
リスクマネジメントの類型と基本戦略
マネジメント
アプローチ リスク類型
リスク
ベース
予防的
被害
規模
発生
確率
認識の
差%
デモクレス
高
低
大
原子力エ 災害ポテン
ネルギー シャルを低減
キュプ
ロープス
高
不確実
小
NBC兵
器
不確実 不確実
中
遺伝子工 予防原則を
適用する
学利用
不確実* 不確実
小
環境ホル 代替物を開
モン
発する
高
小
人為起源
気候変動
意識の向上
を図る
低
大
送電線電
磁界
信頼関係を
34
構築する
ピュティア
パンドラ
広範囲
高#
カッサンドラ (不確実)
メドウサ
低
例
行動戦略
発生確率の
確実性向上
%専門家と一般間 *持続性が高い・不可逆 #被害発生までの時間が長い
ピュティア
壮大な山々に囲まれたデル
フォイのアポロン神殿は,
強力な神託を得られる場所
であったことから,古代ギリ
シャ世界では最も重要な聖
地とされていた。
そこでピュティアと呼ばれる
巫女が神懸かり(トランス)
状態となり,予言の神アポ
ロンの言葉を語った。
抽象的な予言が多かったと
される。
35
リスクマネジメントの類型と基本戦略
マネジメント
アプローチ リスク類型
リスク
ベース
予防的
被害
規模
発生
確率
認識の
差%
デモクレス
高
低
大
原子力エ 災害ポテン
ネルギー シャルを低減
キュプ
ロープス
高
不確実
小
NBC兵
器
不確実 不確実
中
遺伝子工 予防原則を
適用する
学利用
不確実* 不確実
小
環境ホル 代替物を開
モン
発する
高
小
人為起源
気候変動
意識の向上
を図る
低
大
送電線電
磁界
信頼関係を
36
構築する
ピュティア
パンドラ
広範囲
高#
カッサンドラ (不確実)
メドウサ
低
例
行動戦略
発生確率の
確実性向上
%専門家と一般間 *持続性が高い・不可逆 #被害発生までの時間が長い
パンドラ
神々によって作られ人類の災
いとして地上に送り込まれた
人類最初の女性。
神々にもらって開いてはいけ
ないと言われた箱を開いてし
まう。
すると、そこから様々な災い
が出ていくが、希望だけが
残った。
「パンドーラー」 ジュール・ジョゼフ・ル
フェーブル (1882)
37
リスクマネジメントの類型と基本戦略
マネジメント
アプローチ リスク類型
リスク
ベース
予防的
被害
規模
発生
確率
認識の
差%
デモクレス
高
低
大
原子力エ 災害ポテン
ネルギー シャルを低減
キュプ
ロープス
高
不確実
小
NBC兵
器
不確実 不確実
中
遺伝子工 予防原則を
適用する
学利用
不確実* 不確実
小
環境ホル 代替物を開
モン
発する
高
小
人為起源
気候変動
意識の向上
を図る
低
大
送電線電
磁界
信頼関係を
38
構築する
ピュティア
パンドラ
広範囲
高#
カッサンドラ (不確実)
メドウサ
低
例
行動戦略
発生確率の
確実性向上
%専門家と一般間 *持続性が高い・不可逆 #被害発生までの時間が長い
カッサンドラ
ギリシア神話に登場するイーリ
オス(トロイア)の王女。悲劇の
予言者として知られる。
アポローンに愛され、アポローン
の恋人になる代わりに予言能力
を授かった。しかしアポロンの愛
を拒絶してしまったため、カッサ
ンドラーの予言は誰にも信じら
れないよう新たに条件を付加さ
れてしまったという。
カッサンドラー(イーヴリン・ド・
モーガン画)
39
リスクマネジメントの類型と基本戦略
マネジメント
アプローチ リスク類型
リスク
ベース
予防的
被害
規模
発生
確率
認識の
差%
デモクレス
高
低
大
原子力エ 災害ポテン
ネルギー シャルを低減
キュプ
ロープス
高
不確実
小
NBC兵
器
不確実 不確実
中
遺伝子工 予防原則を
適用する
学利用
不確実* 不確実
小
環境ホル 代替物を開
モン
発する
高
小
人為起源
気候変動
意識の向上
を図る
低
大
送電線電
磁界
信頼関係を
40
構築する
ピュティア
パンドラ
広範囲
高#
カッサンドラ (不確実)
メドウサ
低
例
行動戦略
発生確率の
確実性向上
%専門家と一般間 *持続性が高い・不可逆 #被害発生までの時間が長い
メドウサ
メドウサはゴルゴン三姉妹の
一人で、顔は醜く、牙と歯は
鋭く、髪は蛇、その顔を見た
者は恐ろしさのあまり、たち
まち石になったという。
41
ITリスクは何型?
下記事象を調査
1.2000年問題
2.個人情報漏洩リスク
3.暗号の危殆化リスク
4.サイバーテロのリスク
5.大規模情報システム故障のリスク
詳細は、佐々木良一「ITリスクの考え
方」岩波新書、2008第2章、第4章参
照
42
スフィンクス
スフィンクス(Sphinx)は、エジ
プト神話やギリシア神話、メソ
ポタミア神話などに登場する、
ライオンの身体と人間の顔を
持った神聖な存在あるいは怪
物。
朝は四本足、昼は二 本足、
夕は三本足。この生き物は何
か?」というなぞなぞは世界
的に有名。
攻撃側が知的、動的な変化、キメラ(組み合わせ)的。
43
ITリスクはスフィンクス型リスク(1)
①発生確率はかなり高いがその確率は状況によって変化し
②影響は一般に小さいが、他のシステムに影響を与えることに
より巨大になる可能性もある。
③リスクをもたらすものは知的であり
④対応によって攻撃側の反応が動的に変化するというという
特徴がある。
⑤このため、1つの対策ではなく、多様な対策の組み合わせ
(キメラ)が必要になる。
由来:エジプト神話やギリシア神話、メソポタミア神話などに登
場する、ライオンの身体と人間の顔を持ったキメラに由来
44
ITリスクはスフィンクス型リスク(2)
① 1つの対策ではなく、多様な対策の組み合わせが
必要になる。
というITリスク固有の特徴以外に
② 1つのリスクが別のリスクを生み出すというリスク
対リスクの問題(多重リスクの問題)や
③ 関与者が多く関与者間の合意形成が重要になる
という
リスク共通の特徴もある。
多重リスクコミュニケータの開発
ITリスクマネジメントの方法への反映
45
目次
1.はじめに
2.リスク社会学の動向
3.ITリスクの社会学的位置づけ
4.今後の展開
今後の予定
(1)ITリスク学の対象領域の絞り込み
(2)リスク社会学のITリスクマネジメント技術へ
の反映方法の確立
(a)ITリスクに対するリスク社会学的掘り下げ
(b)動的リスクへの対応方法の確立
(3)リスク社会学以外の知見(リスク心理学など)
のITリスクマネジメント技術への反映方法の確立
(4)「ITリスク学入門」出版(2012年)
47
ITリスク学の構成
事前
ITリスク学
運用
事後
①ITリスクマネジメント技術
ITリスクマネジメント(狭義)
応用
②リスク社会
②ITリスク
科学的接近
社会学
③リスク心理
③ITリスク
学的接近
心理学
基礎
基盤とな
る学問
ITリスク
基礎技術
心理学
リスク学 社会学
経済学
安全学
ITリスク
アセスメント
ITリスクコミュ
ニケーション
④ITリスクの考え方
⑤リスク分
析・評価技術
信頼性・安
全性工学
⑦
危
機
管
理
技
術
この部
分に重
点化
⑥リスク対
策技術
情報セ
キュリティ
多重リ
スクコ
ミュニ
ケータ
情報工学・
ソフトウェ
ア工学
リスクマネジメントプロセスとの関連付け
コンテキスト・エスタブリッシュメント*
リ
ス
ク
コ
ミ
ュ
ニ
ケ
ー
シ
ョ
ン
リスクアセスメント
リスク分析
リスク同定(Identification)
リスク推定(Estimation)
リスク評価(Evaluation)
満足
Yes
リスク処理(Treatment)
満足
Yes
リスク受容(Acceptance)
No
No
リ
ス
ク
モ
ニ
タ
リ
ン
グ
と
レ
ビ
ュ
ー
ISO/IEC2
7/27005
*リスクマネジメントのための適用範囲と境界、組織と責任、各種基準などを設定
今後の予定
(1)ITリスク学の対象領域の絞り込み
(2)リスク社会学のITリスクマネジメント技術へ
の反映方法の確立
(a)ITリスクに対するリスク社会学的掘り下げ
(b)動的リスクへの対応方法の確立
(3)リスク社会学以外の知見(リスク心理学など)
のITリスクマネジメント技術への反映方法の確立
(4)「ITリスク学入門」出版(2012年)
50
動的リスク研究の候補
1.Moving Target Defense(米国)
新しい攻撃が出てくるたびに対策を考えるのではなく、
攻撃を予測して、出てきたら直ちに対策を行う環境の構築
2.Adaptive Defense
こちらの行動によって相手の行動が変わりうることを考
慮しての最適な対策手順の立案と実施
3.移行工学
暗号などにおいて古い対策と新しい対策が共存する環
境での矛盾のない安全な移行を可能にする手法の確立
ほかにもいろいろ考えられる。
MRCの発展の方向でもある。
51
今後の予定
(1)ITリスク学の対象領域の絞り込み
(2)リスク社会学のITリスクマネジメント技術へ
の反映方法の確立
(a)ITリスクに対するリスク社会学的掘り下げ
(b)動的リスクへの対応方法の確立
(3)リスク社会学以外の知見(リスク心理学など)
のITリスクマネジメント技術への反映方法の確立
(4)「ITリスク学入門」出版(2012年)
52
END
53