化学物質のためのリスクガバナンス 2015年度NITE講座 このバージョンは余りにも長いので配布しません 著者のWebサイトからダウンロードできるように、今晩、手配します http://www.yasuienv.net/ をアクセスして下さい (独)製品評価技術基盤機構 名誉顧問 安井 至 東京大学名誉教授 国際連合大学元副学長 (一財)持続性推進機構・EcoLead代表幹事 1 リスクとは ラテン語 risico が語源 その動詞がrisicareで、絶壁の間をぬって航行するという 意味 「日本語にはリスクに見合う言葉自体なし」 「国語辞典は“リスク=危険”と誤訳」 「日本は地政的に安全」 「もともと冒険する時代精神なし」 「安全と水はタダ」 「存在するリスクは自然災害」 以上 by 木下富雄氏 社会心理学者 京大名誉教授 リスクとは「他所からやってきて迷惑を掛ける厄介者」 多くの日本人は、リスクには諦観で対処する ライシャワー大使はこれを「タイフーンメンタリティ」 2 木下氏が必要と考えるリスク対応 「リスク嫌いの日本人も、安全/危険という二分法 的発想によるのではなく、リスクという確率的発想 に慣れるべきではないか」 「巨大技術(=原発)には、人文・社会系の参加が 必要」 「閉じた世界だけで安全を考えるのではなく、開い た世界で衆知を集めた体制を構築すべき」 これも、東日本大震災・福島第一原発事故以後の日本人 に対して述べられている言葉 http://www.aesj.or.jp/atomos/tachiyomi/2011-07mokuji.pdf 3 ISO31000の“リスク管理” 「リスクマネジメント 原則及び指針」 2009年11月に発行された 関係者・対象者 経営層 管理職(一般) リスク管理者 管理職(プロジェクト) こういうリスクもあり Risk 定義「不確実性が目的に与える影響」 以前の定義「事象の発生確率×事象の悪い効果」 これはむしろISO12100「機械の安全性」的定義 31000は、広範に適用可能な管理システムについての記 述だと考えれば納得できるが、実用としてのリスク分析用と しては、以前の定義で良い。以前のスキームが否定された 4 訳ではないことを再確認すべき。 用語(ISO31000) Risk Management 広範な概念で「活動」「方法」「戦略」などを 含む Risk Management Policy Risk Management Plan Risk Management Process Risk Attitude=Risk Managementに対す るその組織の「態度」、「風土」 5 Risk Management Process Policies Procedures Practices Communication 内部向け、外部向け 狭義のリスク対応Procedure Identify, Analyze, Evaluate, Treat, Monitor, Reviewのサイクル回す 6 狭義のリスク対応 必須項目 Identify, Analyze, Evaluate, Treat, Monitor, Review リスクの源:なぜ、Eventが起きるのか どちらかというと、内部で発生する Event:何かが起きた リスクへの対応に限定する感触 Eventの連鎖(Consequence):次に何が? スキルが 起きやすさ(Likelihood):確率のようなもの 求められる 社会全体に影響する 重大性(Significance): ◆迅速性 リスクへの対応には、別の枠組が ◆論理性 Eventのリスクレベル:Level of Risk ◆判断力 必要なのではないか。 ◆行動力 Risk対応(Treatment):Risk Modification Riskコントロール 次のEvent連鎖の防止 7 リスクの定義 定量的評価 2.リスクを定量的に評価する場合の定義 A. リスク=ハザード × 確率 工学的リスクと呼ぶべきか 用途:災害、事故、などの場合 B. リスク=ハザード × 曝露 しかし、感情リスクへの対応を考慮すべき事態が多い 疫学的リスクと呼ぶべきか 用途:毒性学、放射線、化学物質、環境など C. リスク=ハザード × 感情 定量性には否定的な個人見解 感情リスクと呼ぶべきか 用途は特定できない 8 健康を心配し過ぎると心筋梗塞で死亡 http://eurheartj.oxfordjournals.org/content/early/2013/06/20/eurheartj.eht216.abstract 9 リスク感覚とリスクプロファイル 日本流:農耕民族受容型 ex.航空機事故 欧州流:狩猟民族受容型 ex.原発事故 日本流 個人・空間・時間 etc. 我慢型のリスク受容 欧州流 個人・空間・時間 etc. 保険型のリスク受容 10 11 リスク・コミュニケーション失敗例 「隠したな!」不信型:SPEEDI 新規・未知型:ダイオキシン PM2.5が最新例 「古い」未知型:低線量被曝 特に、内部被曝 原発はもともと「安全神話」があり、「隠したな!」型の典型 的なもの 日本人好みの陰謀説に結びつく 実際には、化学物質などよりも不確実性の低い体系 遺伝子組換食品:未知型から非伝統嫌悪型に変身 食品そのものの安全性は、チェックされている 環境影響への疑義は若干残る 失敗の最大の原因は、「安全強調」・「双方向性の欠如」 =本当に知りたいことを適切に伝達するというマインドの欠如 12 啓蒙型リスコミ 一方向性のリスクコミでは不適切な情報が伝達される 例えば、Covello指標(1988,1989) 「リスク比較表現 の受容性」のランクの低い情報の伝達などが頻発する 第一ランク(もっとも受けいれられる比較) ・時期が異なる同一のリスクの比較、 ・基準との比較、 ・同一のリスクに対する異なる評価の比較 第二ランク(望ましさの劣る比較) ・何かを行うリスクと、それを行わないことの比較 ・同一問題に対する異なる解決策間の比較 ・他の場所で起こった同一リスクとの比較 13 第三ランク(さらに劣る比較) 第四ランク(わずかにしか受け入れられない比較) ・平均的リスクと特定の時期や場所における最大のリスク との間の比較 ・コストとの比較、あるいはコスト/リスク比での比較 ・職業リスクと環境リスクの比較 ・同一源泉に起因する他のリスクとの比較 ・同一の病気や怪我をもたらす他の特定要因との比較 ・リスクと便益との比較 第五ランク(ほとんど受けいられられない比較) ・関係の無いリスクとの比較(喫煙、車の運転、落雷など) 14 リスク・コミュニケーションの到達点 リスク・コミュニケーションは、次のレベル2を到達 可能な最高レベルとして行う双方向のプロセス 次のレベルのいずれかを到達点として共有する レベル0:相互理解の(若干の)向上・改善 レベル1:不完全な納得感の実現 レベル2:異なった意見を受け入れる状況の実 現=受容性の実現 レベル3:補償を含めた合意を形成する リスコミが上手く行かない。しかし、世界的に共通! 15 リスクガバナンスはリスク統治? Governanceの定義 by Business Dictionary; Establishment of policies, and continuous monitoring of their proper implementation, by the members of the Chemical Risks. governing body of an organization. =Who are the members of Governing Body? それは「ステークホルダー」 16 参考文献 http://irgc.org/wpcontent/uploads/2012/04/An_introduction_to_th e_IRGC_Risk_Governance_Framework.pdf 17 IRGCとは =International Risk Governance Council スイス連邦工科大学ローザンヌ校EPFLが中心 リスクガバナンスとは何か? 次の4段階からなる作業 定義をすれば、『リスクの統合的な制御』ぐらいか!?! 1.プレアセスメント=Pre-assessment 2.鑑定=Appraisal 3.分析と評価=Characterization and Evaluation 4.管理=Management コミュニケーション=Communicationは常時付随 失敗しないコミュニケーションの実現が最終目的だと 考えられている。 18 ここからスタート プレアセス 管理・対応 リスク・ガバナ ンスの枠組み IRGCより引用 鑑定 分析と評価 19 リスクガバナンスを実施する利点 By IRGC 以下のような事態の発生を回避できる リスクを受忍する不公平性の発生:例えば、国家間、組織間、 社会的なグループ間での不公平性 同じリスクを評価しマネジする異なったアプローチが存在する リスクプロファイルに関する状況:リスクの高い状況を過大評価 と、低いが広範に起きるリスクの過小評価 リスクトレードオフの不十分な考察 個別問題の二次的な相互影響や関連性に対する無理解 不効率な規制によるコストの発生 一般社会の理解に対する無理解 一般社会からの信頼性の喪失 20 リスコミの相手への配慮 By IRGC リスクと事実に関する知識の伝達は、情報を受け取 る側が、その利益、関心、信念、能力に応じて、選 択できるように配慮する リスク文化の多様性に対して、それを受け止め、配 慮することが重要。なぜならば、それぞれの特性に 応じて、異なった方法論が必要だから 21 準備:リスクのカテゴリ化 その1 概要 By IRGC 自然、技術、経済、環境のどれに起因しているか 単純、複雑、不確実、不明瞭などのどれに分類できるか リスクの分類 どのぐらい新しいリスク(課題)か。 広がり:地域、分散、国境を越えている、地球レベル。 対象(レンジ):ヒトの健康と安全、環境、資産、貿易など。 時間:リスクを解析するのに要する時間。 ハザードのタイプ:いつでも起きる、継続的に起きる、不 可逆性が強いか。 影響の遅延:暴露から影響が顕在化するまでの時間。 科学技術によってもたらされたリスクの場合、変化が段階 的だったか、急激だったか。 22 準備:リスクのカテゴリ化 その2 By IRGC リスクの評価、管理、対応などに関すること リスクの取り扱いに国際的な枠組みが必要か。 重要な社会的価値との関係、ビジネス上の見通し、 公正性の観点、安全保障の要求、貿易上の合意。 保険が有効かどうか。 一般社会の関心、ステークホルダーの関与。 法規制上の枠組み:国際的かどうか 強制力のレベル=規制、標準、ガイドライン、放任 政府の強い関与か、自主的な枠組みか。 23 1:プレアセスメント Pre-assessment 次のような議論を行うこと By IRGC 今取り上げているリスクとチャンスは何か このリスクの多様な側面は無いか われわれの評価に限界があることをどう設定すべきか すでに問題になっていて、対応をする必要性があるか 誰が関係者なのか。彼らの見解がこの問題の定義と取り扱う範 囲にどのように影響するか。 このリスクを定量的に評価することに使えるツールで、科学的あ るいは分析用ツールと言えるものは何か。 この問題に関する法的なあるいは規制的な枠組みはなにがあ るのか。 関連する政府、国際機関、ビジネス、人々の組織的な能力はど のようなものか。 24 1:プレアセスメントの再確認 By IRGC 欠落しがちなガバナンス 警告:知られているリスクの存在を示すシグナルが 検出されていない。もしくは、認識されていない。 スコープ:かなり狭い範囲にしか存在しないと思われ ているが、実は違うということはあるか。あるいは、 全く逆のケースはありうるか。 枠組み:異なった関係者が相反する見解を持ってい ることはあるか。 黒鳥:ハザードとありうるリスクに気づかない人々。 25 2.鑑定、値踏み=Appraisal 二種類のアセスメントがある それは、 By IRGC 1:科学的なリスクアセスメント 2:コンサーンConcernアセスメント 26 科学的なリスクアセスメント By IRGC 可能性のある被害や不都合な影響は何か? どのぐらいの頻度で起きるか? 被害はどのぐらいの広がりか? どのぐらい継続す るか? 可逆的は不可逆的か? 原因と影響の関係がどのぐらい明確になっているか ? どのような科学的・技術的・分析的なアプローチ・知 識・助言などをこのリスクに付随するインパクトの分 析に使うべきか? 一次的・二次的なベネフィット、チャンス、そして、あ りうる逆効果はどのようなものがあるか? 27 コンサーンConcernアセスメント By IRGC 懸念アセスメント 一般社会の懸念と理解はどのようなものか? このリスクに対する社会の反応はどのようなものか? ある種の運動化や争いになる可能性はあるか? 既存の組織、政府、メディアの役割は何か? リスクを管理しようとすると、関係者の利害やそれぞ れの目的などによって論争を起こすような状況を生 み出すか? 28 リスクの鑑定、値踏みで 弱点になりがちなもののリスト By IRGC 情報:リスクに関する科学的なデータはあるが、懸 念を解消するデータが不足している。もしも十分な 量の情報があったとしても、それが受け入れられて いない。 確信:データ・モデル・解釈の確定性が不足。 配慮不足:登場人物間の相互依存関係、相互作用 。あるいは、関係者とリスクの間の相互依存関係と か相互作用に対する配慮が不足。 利害関係者の懸念に対する不適切な対応。 これらの存在を詳細に検討し、弱点を予め把握する 29 3.リスク構造の分析と評価&決定 Characterization and Evaluation リスクの分析結果を活用して、そのリスク への対応を決定する段階 対応には、3種類ある 1.そのまま受容してしまう。 すべて受け入れるので、対策は不要。 2.受忍する(いやいやながら受容する)。 By IRGC リスクの悪影響の低減策が必要。 3.受忍も不可能 ⇒ 回避策を練る。 30 対応決定の判断時に不可欠な情報 By IRGC 社会的、経済的、環境面でのベネフィットとリスクが 解析されていること。 QoLへの影響はあるか。 倫理上の問題が起きる可能性はあるか。 代替するという方法の可能性はあるか。 特定の技術を選択すると、何かリスクに強い影響を 与えるか。 リスクを補償したり、減少させる可能性はあるか。 判断をする際に、どのような社会的な価値と規範を 考慮するか。 利害関係者の誰かが、リスク統治の過程で生じる 特定の結末を望んでいるということがあるか。 31 決定が失敗に終わる可能性 By IRGC =その後のガバナンスが失われる場合 不当な除外:ある利害関係者を無視したとき。 責任の回避による決定不能が起きたとき。 トレードオフに隠された問題があって、透明性が損な われたとき。 価値の見逃し:社会的ニーズ、環境影響、コストベネ フィット解析などでの見逃しがあったとき。 タイミングがずれたとき。 32 4.マネジメント or 対処法 受忍した場合に発生する By IRGC 行動を計画し実行する リスクを避ける・減らす・移転する・保持する その際、発すべき質問 責任をもって決定を行う人は誰か。 彼らはこの責任を受ける覚悟があるか。 オプションはあるか。技術的・規制的・組織的・教育的・補 償的なものが? これらのオプションの評価と優先度は? 国際協力、共通化などの適正な対応は? リスク削減が生み出す二次的リスクは? 対策をすることによって、新たなトレードオフがでてくるか? 対策の長期的な効果を維持するには? 遵守・強制・モニ ター・順応的管理など 33 マネジメントが失敗するケース By IRGC 隙間に落ちる。だれも責任を取らないため。 情報がいい加減だったため、不適正な対応になる。 不適正な規制。 短期的な結論が二次的な問題を引き起こす。 管理者のご都合主義による短期的な対応。 柔軟性を欠くこと。新しい知識が出たのに、リスクの再検証をし ない。 決定をしない。タイミングの悪い決定。 決定によってリスクとベネフィットの分配を不公平にする。 決定者が決定のもつインパクトから隔離状態に置かれる。 決定が無視される。もしくは、わざと不十分に実施される。 34 コミュニケーション By IRGC もっとも重要なことで常時行うことが必要 目的:利害関係者と市民社会の間で、リスクそのものの理解 が進む 結果:両者が、リスクガバナンスで果たすべき役割を理解す るようになる 方法:意図的に双方向で行い、その中で、意見を述べるよう にする 最終目標:リスク管理に対する信頼性を得ることができるか どうか リスクガバナンスの決定が行われた後には その決定の合理性を説明し、人々に、リスクとその管理、そ して、負うべき責任について、情報をすべて与えた上での意 志の決定を行うことを奨める 35 必須な考察すべき事項 for Communication By IRGC 情報を得た人々がその情報をどのように解釈しているか? リスクとハザードについて、何が良く知られているか? 誰によって、その情報が利害関係者や一般社会に伝達される のか? コミュニケーションがどのように設計されるか。特に、双方向 性の情報交換が有用かつ啓発的かつ時宜にかなうものにな るように。 利害関係者と一般社会の懸念が正確に表現されているか。 それを政策決定者は聞いているか。 コミュニケーションが規制側、リスク評価者や他のエクスパー ト、リスク管理者、関心の高いグループの間で、効果的に進め られているか。 リスク管理者の自分自身に対する自信はどの程度あるのか。 特に情報を作り、伝達し、そして、会話を進める面で。 メディアの役割は、何であったか。そして、何であるべきか。36 コミュニケーションが、 失敗する可能性について By IRGC 一方的な情報の伝達を行うこと。双方向の情報交換が絶対 的条件。 コミュニケーションの際、利害関係者によって、情報の理解と 受容がどのぐらい違うについて、配慮されていない。 疎外感:人々の、あるいは、主催者の懸念への配慮が、不 合理かつ不適切であった。これが起きると、リスクの全貌が 理解されることはなく、また、組織や最終決定に対する紛争 を誘発する。 決定プロセスにおける自己への自信と他からの信頼性のレ ベルが低い。これは、プロセス全体を弱いものにしてしまう。 37 この段階から再び プレアセスメントに戻る IRGCのリスクガバナンスとは結局何か 1.最終目的は、リスク・コミュニケーションに成功 することである 2.それには、このフレームに従って、各段階で の準備を十二分に実施しておくこと 3.具体的な課題について、この方法によって準 備をし、その成功例・失敗例を積み上げることに よって、優れたコミュニケーションを実現できるよ うになる!!!?? 38 ここからスタート プレアセス 管理・対応 リスク・ガバナ ンスの枠組み IRGCより引用 鑑定 分析と評価 39 例題として取り上げること 40 1.ヘキサメチレンテトラミン事件 水道水にホルムアルデヒドが検出され、 水道水の供給をストップしたため、給水車が 出動した事件 千葉県流山市で水道水にホルムアルデヒ ドが検出され、取水がストップ 2012年5月18日 平成24年 ホルムアルデヒド問題「排出元告知せず」 2012年05月26日 ホルムアルデヒド、化学会社9年前も同物 質排出 2012年5月26日 41 42 43 44 45 加水分解でホルムアルデヒド生成 (CH2)6N4+6H2O→ 6H2C=O+4 NH3 水道水の基準値 0.08mg/L cf. WHOの基準値は 0.9mg/L 11倍も厳しい 厳しい規制は、国民へのサービスか? それとも、、、、???? 46 基準の根拠となった実験 動物実験において、Til ら (1989)は雌雄各群 70 匹の Wistar ラットに、雄には 1.2、15、82 mg/kg/day を、雌には 1.8、21、109 mg/kg/day のホルムアルデヒドを 2 年間飲 水投与した。雌雄ともに最高用量群にのみ、摂餌、摂水、体 重の減少、胃粘膜壁の不規則な肥厚が認められた。病理組 織学的に、過角化症と限局性潰瘍を伴う前胃の乳頭状上皮 過形成、および潰瘍と腺過形成を伴う腺胃の慢性萎縮性胃 炎が観察された。さらに、腎相対重量の増加と腎乳頭壊死 の発現増加が認められた。しかし、胃を含め、諸臓器に腫 瘍発生は認められなかった。一般毒性に対する NOAEL(No observable adverse effect level=無毒性量) は、雄雌で 15 および 21 mg/kg/day である。 詳細リスク評価書シリーズ17 「ホルムアルデヒド」 中西準子、鈴木一寿著 丸善 平成21年 47 発がん物質 IARC グループ1 しかし、一般に、どのような有害物の場合でも、摂取の やり方によって健康影響が大きく異なる。 がんが発生するという実験的な根拠は、吸入する空気 にホルムアルデヒドを含ませると、ラットの鼻腔に腫瘍が 観察されたこと。しかし、マウスやハムスターでは認めら れていない。 ヒトについては、腫瘍との関係が詳細に研究されている ものの、説得力があるデータがあるレベルではない。 にもかかわらず、IARCがホルムアルデヒドをグループ 1(ヒトに対して発がん性あり)に分類したのは、基準をよ り安全サイドにするためだったと思われる。 詳細リスク評価書シリーズ17 「ホルムアルデヒド」 中西準子、鈴木一寿著 丸善 平成21年 48 水道水の一般的な基準の作り方 1 日に飲用する水の量を 2L 人の平均体重を 50kg(WHO では 60kg) 水道水由来の暴露割合として、TDI の 10% (消毒副生成物は 20%)を割り当てる条件 の下で、対象物質の 1 日暴露量が TDI を 超えないように評価値を算出した。 ただし、物質によっては異なる暴露シナリオ を用いている場合がある。 49 0.08mg/Lになった理由 NOAEL:15mg/kg/day に不確実係数:100(種差と個 人差にそれぞれ 10)を適用して、経口摂取による TDIは 150μg/kg/day と求められた。 これだと0.8mg/Lの規制値になるはずだった しかし、ホルムアルデヒドは入浴時等の水道水からの 気化による吸入暴露による影響も考慮に入れる必要 がある。したがって、気化による吸入暴露経路による 発がん性を考慮し、追加の不確実係数:10 を適用し TDI を 15μg/kg/day とした。 消毒副生成物であることから TDI に対する飲料水の 寄与率を 20%とし、体重 50kg のヒトが1日 2L 飲む と仮定すると、評価値は、0.08 mg/L と求められる。 50 水道法第四条 (水質基準) 第四条 水道により供給される水は、次の各号に掲 げる要件を備えるものでなければならない。 一 病原生物に汚染され、又は病原生物に汚染されたことを 疑わせるような生物若しくは物質を含むものでないこと。 二 シアン、水銀その他の有毒物質を含まないこと。 三 銅、鉄、弗素、フェノールその他の物質をその許容量をこ えて含まないこと。 四 異常な酸性又はアルカリ性を呈しないこと。 五 異常な臭味がないこと。ただし、消毒による臭味を除く。 六 外観は、ほとんど無色透明であること。 2 前項各号の基準に関して必要な事項は、厚生労働省令 で定める。 51 他の大きなリスクを考慮しない 真夏における熱中症 取水中止になれば、水道は早晩断水 給水車に真夏に行列を作ることに 行列の長さにもよるが、熱中症発症 水道水の厳しすぎる規制値は、命の危機 を招く可能性があるという認識なし むしろ、水道の給水を継続した方が良い? 飲料水はペットボトルを供給? 52 なぜこのような事態に!? この事件にも多様な原因がある 1.廃棄した事業者から処理事業者への 情報提供の不足 2.同じ事業者が過去にも同じミスをやって いるのに、改善されていない問題 3.処理事業者のレベルの問題 4.水道の基準値が厳しすぎる問題 5.分解生成物に毒性がある物質への対 応が不十分 53 対策として何が行われたのか 環境省:「ヘキサメチレンテトラミン」を水質汚 濁防止法(昭和45年法律138号。以下「法」と いう。)第2条第4項に規定する「公共用水域 に 多量に排出されることにより人の健康若し くは生活環境に係る被害を生ずるおそれがあ る 物質」(以下「指定物質」という。)に追加す る。 平成24年10月1日 同様に無害な物質であっても、分解生成物が 有害である物質の探索が行われた。 54 リスクガバナンスの準備 0.まずは準備 1.ステークホルダーの同定 環境省環境安全課 厚労省健康局水道課 共通 ヘキサメチレントリアミンを扱う企業 化学系企業からの廃棄を請け負う企業 当然ながら、 一般市民社会 メディア 55 準備:リスクのカテゴリ化 その1 概要 By IRGC 自然、技術、経済、環境のどれに起因しているか 単純、複雑、不確実、不明瞭などのどれに分類できるか リスクの分類 どのぐらい新しいリスク(課題)か。例がある:分解物 広がり:地域、分散、国境を越えている、地球レベル。 対象(レンジ):ヒトの健康と安全、環境、資産、貿易など。 時間:リスクを解析するのに要する時間。完了している ハザードのタイプ:いつでも起きる、継続的に起きる、不可 逆性が強いか。 影響の遅延:暴露から影響が顕在化するまでの時間。半日 科学技術によってもたらされたリスクの場合、変化が段階 的だったか、急激だったか。 56 準備:リスクのカテゴリ化 その2 By IRGC リスクの評価、管理、対応などに関すること リスクの取り扱いに国際的な枠組みが必要か。不要 重要な社会的価値との関係、ビジネス上の見通し、公正性 の観点、安全保障の要求、貿易上の合意。 保険が有効かどうか。 一般社会の関心、ステークホルダーの関与。弱い 法規制上の枠組み:国際的かどうか 強制力のレベル=規制、標準、ガイドライン、放任 政府の強い関与か、自主的な枠組みか。 57 1:プレアセスメント Pre-assessment 次のような議論を行うこと By IRGC 今取り上げているリスクとチャンスは何か このリスクの多様な側面は無いか そのものではなく分解物 われわれの評価に限界があることをどう設定すべきか すでに問題になっていて、対応をする必要性があるか ある 誰が関係者なのか。彼らの見解がこの問題の定義と取り扱う範 囲にどのように影響するか。 指摘済み このリスクを定量的に評価することに使えるツールで、科学的あ るいは分析用ツールと言えるものは何か。 毒性評価 この問題に関する法的なあるいは規制的な枠組みはなにがあ るのか。 PRTR法 関連する政府、国際機関、ビジネス、人々の組織的な能力はど のようなものか。 58 1:プレアセスメントの再確認 By IRGC 欠落しがちなガバナンス 警告:知られているリスクの存在を示すシグナルが検 出されていない。もしくは、認識されていない。 スコープ:かなり狭い範囲にしか存在しないと思われ ているが、実は違うということはあるか。あるいは、全 く逆のケースはありうるか。 枠組み:異なった関係者が相反する見解を持ってい ることはあるか。 黒鳥:ハザードとありうるリスクに気づかない人々。 YES 59 2.鑑定、値踏み=Appraisal 二種類のアセスメントがある それは、 By IRGC 1:科学的なリスクアセスメント 2:コンサーンConcernアセスメント 60 科学的なリスクアセスメント By IRGC 可能性のある被害や不都合な影響は何か? 給水を止めること どのぐらいの頻度で起きるか? めったにない 被害はどのぐらいの広がりか? どのぐらい継続するか? 可 逆的は不可逆的か? 広域・1日・可逆 しかし、死者がでる可能性あり(別の原因) 原因と影響の関係がどのぐらい明確になっているか? 明確 どのような科学的・技術的・分析的なアプローチ・知識・助言な どをこのリスクに付随するインパクトの分析に使うべきか? ライフサイクルに渡る追跡 一次的・二次的なベネフィット、チャンス、そして、ありうる逆効 果はどのようなものがあるか? 61 コンサーンConcernアセスメント By IRGC 懸念アセスメント 一般社会の懸念と理解はどのようなものか?なし このリスクに対する社会の反応はどのようなものか?なし ある種の運動化や争いになる可能性はあるか? なし 既存の組織、政府、メディアの役割は何か? リスクを管理しようとすると、関係者の利害やそれぞ れの目的などによって論争を起こすような状況を生 み出すか? なし 62 リスクの鑑定、値踏みで 弱点になりがちなもののリスト By IRGC 情報:リスクに関する科学的なデータはあるが、懸 念を解消するデータが不足している。もしも十分な 量の情報があったとしても、それが受け入れられて なし いない。 確信:データ・モデル・解釈の確定性が不足。 なし 配慮不足:登場人物間の相互依存関係、相互作用 。あるいは、関係者とリスクの間の相互依存関係と か相互作用に対する配慮が不足。 考察したリスクの範囲 利害関係者の懸念に対する不適切な対応。 これらの存在を詳細に検討し、弱点を予め把握する 63 3.リスク構造の分析と評価&決定 Characterization and Evaluation リスクの分析結果を活用して、そのリスク への対応を決定する段階 対応には、3種類ある 1.そのまま受容してしまう。 すべて受け入れるので、対策は不要。 2.受忍する(いやいやながら受容する)。 By IRGC リスクの悪影響の低減策が必要。 3.受忍も不可能 ⇒ 回避策を練る。 64 対応決定の判断時に不可欠な情報 By IRGC 社会的、経済的、環境面でのベネフィットとリスクが解析されて いること。 QoLへの影響はあるか。 ある 倫理上の問題が起きる可能性はあるか。 ある 代替するという方法の可能性はあるか。 ある 特定の技術を選択すると、何かリスクに強い影響を与えるか。 リスクを補償したり、減少させる可能性はあるか。 ある 環境中での分解物の毒性を考慮すること 水道法のホルムアルデヒドの規制値を緩める 判断をする際に、どのような社会的な価値と規範を考慮する か。 高齢者 配慮されなかった 利害関係者の誰かが、リスク統治の過程で生じる特定の結末 を望んでいるということがあるか。 ある(行政は変化を嫌う) 65 決定が失敗に終わる可能性 By IRGC =その後のガバナンスが失われる場合 不当な除外:ある利害関係者を無視したとき。 責任の回避による決定不能が起きたとき。 トレードオフに隠された問題があって、透明性が損な われたとき。 価値の見逃し:社会的ニーズ、環境影響、コストベネ フィット解析などでの見逃しがあったとき。 タイミングがずれたとき。 66 4.マネジメント or 対処法 受忍した場合に発生する By IRGC 行動を計画し実行する リスクを避ける・減らす・移転する・保持する その際、発すべき質問 責任をもって決定を行う人は誰か。 省庁 彼らはこの責任を受ける覚悟があるか。 なし オプションはあるか。技術的・規制的・組織的・教育的・補 償的なものが? これらのオプションの評価と優先度は? 国際協力、共通化などの適正な対応は? 取られなかった リスク削減が生み出す二次的リスクは? なし 対策をすることによって、新たなトレードオフがでてくるか? 対策の長期的な効果を維持するには? 遵守・強制・モニ ター・順応的管理など 67 マネジメントが失敗するケース By IRGC 隙間に落ちる。だれも責任を取らないため。 情報がいい加減だったため、不適正な対応になる。 不適正な規制。 短期的な結論が二次的な問題を引き起こす。 管理者のご都合主義による短期的な対応。 柔軟性を欠くこと。新しい知識が出たのに、リスクの再検証をし ない。 決定をしない。タイミングの悪い決定。 決定によってリスクとベネフィットの分配を不公平にする。 決定者が決定のもつインパクトから隔離状態に置かれる。 決定が無視される。もしくは、わざと不十分に実施される。 68 コミュニケーション 行われず By IRGC もっとも重要なことで常時行うことが必要 目的:利害関係者と市民社会の間で、リスクそのものの理解 が進む 結果:両者が、リスクガバナンスで果たすべき役割を理解す るようになる 方法:意図的に双方向で行い、その中で、意見を述べるよう にする 最終目標:リスク管理に対する信頼性を得ることができるか どうか リスクガバナンスの決定が行われた後には その決定の合理性を説明し、人々に、リスクとその管理、そ して、負うべき責任について、情報をすべて与えた上での意 志の決定を行うことを奨める 69 必須な考察すべき事項 for Communication By IRGC 情報を得た人々がその情報をどのように解釈しているか? リスクとハザードについて、何が良く知られているか? 誰によって、その情報が利害関係者や一般社会に伝達される のか? コミュニケーションがどのように設計されるか。特に、双方向 性の情報交換が有用かつ啓発的かつ時宜にかなうものにな るように。 利害関係者と一般社会の懸念が正確に表現されているか。 それを政策決定者は聞いているか。いなかった コミュニケーションが規制側、リスク評価者や他のエクスパー ト、リスク管理者、関心の高いグループの間で、効果的に進め られているか。 いなかった リスク管理者の自分自身に対する自信はどの程度あるのか。 特に情報を作り、伝達し、そして、会話を進める面で。 メディアの役割は、何であったか。そして、何であるべきか。70 コミュニケーションが、 失敗する可能性について By IRGC そもそも行われず 一方的な情報の伝達を行うこと。双方向の情報交換が絶対 的条件。 コミュニケーションの際、利害関係者によって、情報の理解と 受容がどのぐらい違うについて、配慮されていない。 疎外感:人々の、あるいは、主催者の懸念への配慮が、不 合理かつ不適切であった。これが起きると、リスクの全貌が 理解されることはなく、また、組織や最終決定に対する紛争 を誘発する。 決定プロセスにおける自己への自信と他からの信頼性のレ ベルが低い。これは、プロセス全体を弱いものにしてしまう。 71 この段階から再び プレアセスメントに戻る IRGCのリスクガバナンスとは結局何か 1.最終目的は、リスク・コミュニケーションに成功 することである 2.それには、このフレームに従って、各段階で の準備を十二分に実施しておくこと 3.具体的な課題について、この方法によって準 備をし、その成功例・失敗例を積み上げることに よって、優れたコミュニケーションを実現できるよ うになる コミュニケーションを行うという意志がなかった 72 リスクガバナンスの準備 0.まずは準備 1.ステークホルダーの同定 環境省環境安全課 厚労省健康局水道課 ヘキサメチレントリアミンを扱う企業 化学系企業からの廃棄を請け負う企業 共通 当然ながら、 一般市民社会 メディア 73 準備:リスクのカテゴリ化 その1 概要 By IRGC 自然、技術、経済、環境のどれに起因しているか 単純、複雑、不確実、不明瞭などのどれに分類できるか リスクの分類 どのぐらい新しいリスク(課題)か。例がある:分解物 広がり:地域、分散、国境を越えている、地球レベル。 対象(レンジ):ヒトの健康と安全、環境、資産、貿易など。 時間:リスクを解析するのに要する時間。完了している ハザードのタイプ:いつでも起きる、継続的に起きる、不可 逆性が強いか。 影響の遅延:暴露から影響が顕在化するまでの時間。半日 科学技術によってもたらされたリスクの場合、変化が段階 的だったか、急激だったか。 74 準備:リスクのカテゴリ化 その2 By IRGC リスクの評価、管理、対応などに関すること リスクの取り扱いに国際的な枠組みが必要か。不要 重要な社会的価値との関係、ビジネス上の見通し、公正性 の観点、安全保障の要求、貿易上の合意。 保険が有効かどうか。 一般社会の関心、ステークホルダーの関与。弱い 法規制上の枠組み:国際的かどうか 強制力のレベル=規制、標準、ガイドライン、放任 政府の強い関与か、自主的な枠組みか。 75 1:プレアセスメント Pre-assessment 次のような議論を行うこと By IRGC 今取り上げているリスクとチャンスは何か このリスクの多様な側面は無いか そのものではなく分解物 われわれの評価に限界があることをどう設定すべきか すでに問題になっていて、対応をする必要性があるか ある 誰が関係者なのか。彼らの見解がこの問題の定義と取り扱う範 囲にどのように影響するか。 指摘済み このリスクを定量的に評価することに使えるツールで、科学的あ るいは分析用ツールと言えるものは何か。 毒性評価 この問題に関する法的なあるいは規制的な枠組みはなにがあ るのか。 PRTR法 関連する政府、国際機関、ビジネス、人々の組織的な能力はど のようなものか。 76 1:プレアセスメントの再確認 By IRGC 欠落しがちなガバナンス 警告:知られているリスクの存在を示すシグナルが 検出されていない。もしくは、認識されていない。 スコープ:かなり狭い範囲にしか存在しないと思われ ているが、実は違うということはあるか。あるいは、 全く逆のケースはありうるか。 枠組み:異なった関係者が相反する見解を持ってい ることはあるか。 ハザードとありうるリスクに気づかない人々か。YES 77 2.鑑定、値踏み=Appraisal 二種類のアセスメントがある それは、 By IRGC 1:科学的なリスクアセスメント 2:コンサーンConcernアセスメント 78 科学的なリスクアセスメント By IRGC 可能性のある被害や不都合な影響は何か? 川に投棄した結果給水を止めること どのぐらいの頻度で起きるか? 二度目 被害はどのぐらいの広がりか? どのぐらい継続するか? 可 逆的は不可逆的か? 広域・1日・可逆 しかし、死者がでる可能性あり 別の要因で 原因と影響の関係がどのぐらい明確になっているか? 明確 どのような科学的・技術的・分析的なアプローチ・知識・助言な どをこのリスクに付随するインパクトの分析に使うべきか? 分解物のライフサイクルに渡る追跡 一次的・二次的なベネフィット、チャンス、そして、ありうる逆効 果はどのようなものがあるか? 79 コンサーンConcernアセスメント By IRGC 懸念アセスメント 一般社会の懸念と理解はどのようなものか? このリスクに対する社会の反応はどのようなものか? ある種の運動化や争いになる可能性はあるか? 既存の組織、政府、メディアの役割は何か? リスクを管理しようとすると、関係者の利害やそれぞ れの目的などによって論争を起こすような状況を生 み出すか? 80 3.リスク構造の分析と評価&決定 Characterization and Evaluation リスクの分析結果を活用して、そのリスク への対応を決定する段階 対応には、3種類ある 1.そのまま受容してしまう。 すべて受け入れるので、対策は不要。 2.受忍する(いやいやながら受容する)。 By IRGC リスクの悪影響の低減策が必要。 3.受忍も不可能 ⇒ 回避策を練る。 81 対応決定の判断時に不可欠な情報 By IRGC 社会的、経済的、環境面でのベネフィットとリスクが解析されて いること。 QoLへの影響はあるか。 ある 倫理上の問題が起きる可能性はあるか。 ある 代替するという方法の可能性はあるか。 ある 特定の技術を選択すると、何かリスクに強い影響を与えるか。 リスクを補償したり、減少させる可能性はあるか。 ある 環境中での分解物の毒性を考慮すること 分解物の生成について情報を付与すること 判断をする際に、どのような社会的な価値と規範を考慮する か。 利害関係者の誰かが、リスク統治の過程で生じる特定の結末 を望んでいるということがあるか。 相互に情報を出さない 82 決定が失敗に終わる可能性 By IRGC =その後のガバナンスが失われる場合 不当な除外:ある利害関係者を無視したとき。 責任の回避による決定不能が起きたとき。 トレードオフに隠された問題があって、透明性が損な われたとき。 価値の見逃し:社会的ニーズ、環境影響、コストベネ フィット解析などでの見逃しがあったとき。 タイミングがずれたとき。 83 4.マネジメント or 対処法 受忍した場合に発生する By IRGC 行動を計画し実行する リスクを避ける・減らす・移転する・保持する その際、発すべき質問 責任をもって決定を行う人は誰か。 担当者 彼らはこの責任を受ける覚悟があるか。 オプションはあるか。技術的・規制的・組織的・教育的・補 償的なものが? これらのオプションの評価と優先度は? 国際協力、共通化などの適正な対応は? リスク削減が生み出す二次的リスクは? なし 対策をすることによって、新たなトレードオフがでてくるか? 対策の長期的な効果を維持するには? 遵守・強制・モニ ター・順応的管理など 84 マネジメントが失敗するケース By IRGC 隙間に落ちる。だれも責任を取らないため。 情報がいい加減だったため、不適正な対応になる。 不適正な規制。 短期的な結論が二次的な問題を引き起こす。処理法が分から ないから川に捨てよう。 管理者のご都合主義による短期的な対応。 柔軟性を欠くこと。新しい知識が出たのに、リスクの再検証をし ない。 決定をしない。タイミングの悪い決定。 決定によってリスクとベネフィットの分配を不公平にする。 決定者が決定のもつインパクトから隔離状態に置かれる。 決定が無視される。もしくは、わざと不十分に実施される。 85 コミュニケーション 行われず By IRGC もっとも重要なことで常時行うことが必要 目的:利害関係者と市民社会の間で、リスクそのものの理解 が進む 結果:両者が、リスクガバナンスで果たすべき役割を理解す るようになる 方法:意図的に双方向で行い、その中で、意見を述べるよう にする 最終目標:リスク管理に対する信頼性を得ることができるか どうか リスクガバナンスの決定が行われた後には その決定の合理性を説明し、人々に、リスクとその管理、そ して、負うべき責任について、情報をすべて与えた上での意 志の決定を行うことを奨める 86 必須な考察すべき事項 for Communication By IRGC 情報を得た人々がその情報をどのように解釈しているか? リスクとハザードについて、何が良く知られているか? 誰によって、その情報が利害関係者や一般社会に伝達される のか? コミュニケーションがどのように設計されるか。特に、双方向 性の情報交換が有用かつ啓発的かつ時宜にかなうものにな るように。 利害関係者と一般社会の懸念が正確に表現されているか。 それを政策決定者は聞いているか。 なし コミュニケーションが規制側、リスク評価者や他のエクスパー ト、リスク管理者、関心の高いグループの間で、効果的に進め られているか。 いなかった リスク管理者の自分自身に対する自信はどの程度あるのか。 特に情報を作り、伝達し、そして、会話を進める面で。 なし メディアの役割は、何であったか。そして、何であるべきか。87 関係のありそうなリスクを分類し、各ス テークホルダーのリスクに落とす 以上のような検討を続け、各ステークホルダ ーのリスクを、他のステークホルダーが推測 して、リスト化する。 それを持ちよって、各ステークホルダーが他 のステークホルダーのリスクについて、適切 な指摘であるか、リスク減少のために講じる べき対策はあるか、などを議論する。 88 行政のリスク 市民レベルに健康被害がでること 規制を弱くすることへの反発 水道水中の有害物による健康被害 断水になることで給水車から水を受ける際に発 生するリスク 例えば、熱中症で死亡 市民レベル NPOなどの専門性のある団体 メディア リスクという概念を理解していない 規制を持っていること自体が行政の利権かも 省庁の上司・先輩に対する説明責任 89 物質を生産・使用した企業のリスク 物質そのものの毒性によるリスク 分解生成物の情報伝達不足による責任の 発生 物質を廃棄処理した企業のリスク 物質そのものを認識していない 分析能力を持たない 依頼先から信頼されない 90 一般市民社会 主として思い込みリスク 規制は強いほど、安全性が高いという思い込み 規制側と被規制側が対立構造にないと不安になると いう心理的構造 情報関係 原子力の規制が間違った最大の原因 何が真実かを出来る範囲で確認しようとしない。 同上 しようとしてもできない。 間違ったメディアの情報に踊らされる 極論で勝負するネット情報に惑わされる 仲間の中で、非常に限られた情報だけで満足する 仲間の外の情報を最初から受け入れられない体質になる 思い込みリスクの有害性に気づかない 91 メディアのリスク 有意な情報提供がなかった なんの主張も出なかった 情報提供そのものが無価値化するリスク 自らの主張があって、先に結論があると評価され、 その結果、そのメディアの信頼性を失う 上の逆に、ある特定のグループの熱烈な支持を得 る。しかし、副作用として、色付きのメディアになっ てしまう 色付き以外の種類の情報が出せなくなる テレビなどの主要メディアであれば、英国のタブロ イド紙的なメディアの餌食になる 主要メディアでなければ、早晩、消滅する 92 再度 リスクガバナンスとは何か まず、ある事象に関わるステークホルダーが集ま る機会をもつことが前提 参加者は、上述のケースであれば、 行政:国と地域で幅広く 製造・流通関係の企業 廃棄物処理の企業 地域住民 河川下流の住民 メディア(中立的な立場、偏向的な立場) 課題となっている題材について、リスクガバナンスを理 解しているコーディネータ 93 続 目的の事象について各ステークホルダーに関わる不 確実性(≒リスク)のリストを作成する まずは、リスト化されたリスクについて、その主体別 のリスク(例えば行政のリスク)について、他の主体 からの修正提案に基いて議論をする それによって、お互いの立ち位置が相互に理解され るようになる リスクガバナンスのループを回して、様々な立場から 見たリスクの総体を記述する このような作業によって確立した「高い相互信頼」に 基いて、対策を決定する しかし、必ず結論に到達するとは限らないが。。。。 94 その2 胆管がん事件 NHKの立岩陽一郎氏の書いた記事 http://gendai.ismedia.jp/articles/-/34025?page=10 http://gendai.ismedia.jp/articles/-/34120 現代ビジネスなるWebサイト、「週刊現代」程度の 信憑性だと思われる。 事実誤認もある 例えば、物質の混同 78-87-5 1,2-ジクロロプロパン 542-75-6 1,3-ジクロロプロペン(別名D-D) 95 準備:胆管がんの事件 中西準子先生のWebサイトをご覧下さい 事業者が余りにもひどすぎる PRTRデータの届出が無くなったのは、事業者側の 単純ミス。これは、今後、見張りを入念にする必要 あり 中西先生からのメッセージ: リスクがよく分かっている物質を、リスクがあるから という理由で、リスクの分かっていない物質に代替す るのはやめて下さい。決定的な失敗になる可能性が あるので。このような代替を推奨する売り込みがある ことも、認識しておくべき 96 胆のう及びその他の胆道死亡者数 20000 18000 16000 14000 12000 10000 8000 人口動態 2011年版 6000 4000 2000 0 1960 1965 1970 1975 1980 1985 1990 1995 2000 2005 2006 2007 2008 2009 2010 2011 97 胆管がんが予測できなかったのか 洗浄剤は、ジクロロメタン、ジクロロプロパンを含有 ジクロロメタン 用途溶剤 沸点40°PRTR物質 1,2ージクロロプロパン 用途溶剤 沸点95°PRTR物質 マウスに6940mg/m3 2年間 肝細胞に良性腫瘍 マウスに50mg/日 経口 2年間 肝細胞腫瘍 投与量に 比例しなかったために「偶発的」と判定 IARC グループ2B(人に対して発がん性があるかもしれない) ラットに69.3mg/m3 を13週間 鼻腔粘膜過形成 IARC グループ 3 だったが、現在はグループ 1 低濃度ではCYP経路での代謝→発がん性なし 高濃度になるとGST経路での代謝→発がん性 98 2つの代謝経路 CYP経路 GST経路 99 SANYO-CYPという企業 大阪市中央区 「校正印刷」を専門にする中小企業 ポスターなどの印刷物を刷る前段階の、色 合いを確認するための作業 印刷機7台 換気装置はあった。 4台で1200m3/hr メイン1台 これが止まっていた。 理由は、紙の伸縮に影響する湿度コントロール 100 その3:顔料に非意図的PCB PCB濃度が50ppmを超した製品が7種 同 0.5ppmを超した製品が23種 有機顔料の主な用途は、印刷インキ、塗料、樹 脂着色料など ピグメントレッド-2 ピグメントレッド-9 ピグメントレッド-38 ピグメントレッド-112 ピグメントレッド-254 ピグメントブラウン-25 ピグメントオレンジ-13 ピグメントオレンジ-16 ピグメントバイオレット-23 ピグメントグリーン-7 ピグメントグリーン-36 ピグメントグリーン-58 ピグメントイエロー-12 ピグメントイエロー-13 ピグメントイエロー-14 ピグメントイエロー-17 ピグメントイエロー-55 ピグメントイエロー-81 ピグメントイエロー-83 ピグメントイエロー-87 ピグメントイエロー-124 ピグメントイエロー-152 ピグメントイエロー-165 101 Pigment Yellow 12 102 103 104 105 Pigment Green 7 106 Ortho #Cl NO 4 NO 4 NO 5 NO 6 MO 5 MO 5 MO 5 MO 5 MO 6 MO 6 MO 6 MO 7 NO =Non Ortho MO =Mono Ortho 107 そろそろPCBの毒性のすべてを 解明すべきではないか PCB(Polychlorinated biphenyl)とは総称で ある 209種類ある個々の急性毒性などの毒性を ひと通りチェックし、懸念の有無を判定するこ とに、研究費を用意するべきではないか 特に、2塩化物は副生しやすいようだが、そ の毒性はどの程度のものなのか 108 その他の例題 次の事象について、リスクガバナンスの実施 を検討せよ 4.DAGの発がん性が否定されたこと 5.塩ビモノマーが一般物質になったこと 109 4.ジアシルグリセロール(DAG)のリスク 食品安全委員会では、平成17年9月に厚生労働大臣から諮 問された高濃度にジアシルグリセロールグリセロールを含む食 品について、平成27年3月10日の第552回食品安全委員会 において評価結果をとりまとめました。 実験動物において、グリシドール脂肪酸エステル(GE)を不純 物として含む経口投与によるDAG油の発がんプロモーション作 用は否定され、問題となる毒性影響は確認されなかった。 食用油に微量に含まれるGEが代謝されたグリシドールについ ては、遺伝毒性発がん物質である可能性を否定できないと考 えた。 しかしながら、現在使用されている食用油については、一定の 仮定を置いて保守的に試算した値でも、暴露マージン(MOE) は10,000をわずかに下回る程度であり、直接健康影響を示唆 するものではないと判断した。 110 5.クロロエチレン(塩ビモノマー)が 優先化学物質を外れる http://www.meti.go.jp/policy/chemical_management/kasinhou/information /ra_14122501.html 平成26年12月25日 経済産業省 製造産業局 化学物質管理課 化学物質安全室 化学物質の審査及び製造等の規制に関する法律(昭和48 年法律第117号)第2条第5項に基づく優先評価化学物質に ついて次のとおりお知らせいたします。 平成26年12月19日に開催された審議結果を踏まえ、「クロ ロエチレン(別名塩化ビニル)」(優先評価化学物質通し番号 :13)について、化審法第11条に基づく優先評価化学物質 の指定の取消しを行うことが了承されました。 111 IRGCは何を取り扱っているか http://www.irgc.org/issues/ Regulation of Carbon Capture and Storage Risk Governance of Nanotechnology Risk Governance of Synthetic Biology Risk Governance Guidelines for Bioenergy Policies Governance of Solar Radiation Management Rebound Effect on Energy Efficiency Risk Governance of Unconventional Gas Development 要するにほとんどすべてのコミュニケーションを必要とする事象 これまでのコミュニケーションを代替する手法かもしれない 112 結論 問:IRGC流のリスクガバナンスを「リスク統治」と訳す べきか 答:個人的にはNoである。少なくとも、上から目線でな いアプローチだから むしろ、「失敗しない、丁寧なコミュニケーション手法」 であり、結果として、自然にリスクの理解が進み、問題 の発生が防止される 解決できるかどうかは不明 むしろ、「リスク発現防止のためのコミュニケーション」 とでも訳すべき手法 この手法が示すこと=積極的に情報を開示できない ことが最大のリスクなのかもしれない 113
© Copyright 2024 ExpyDoc