人間とコンピュータ 2006年度2学期 第6回 本日の内容 ヒューマンエラー(Human Error) • ヒューマンエラーとは? – ミスは凡ミス,影響は深刻 • エラーの形 – スリップとミステーク • フェールセーフの考え方 – 人は間違うもの – 間違っても深刻なことにならないように設計 2 ヒューマンエラーとは? • 人間のミス(人為ミス)のこと • 不本意な結果を生み出す行為 • 不本意な結果を防ぐことに失敗すること 3 ヒューマンエラーとは?(2) • 人間のミス(人為ミス)のこと • 不本意な結果を生み出す行為 • 不本意な結果を防ぐことに失敗すること 特徴: やったことは「凡ミス」 被害は最悪(;_;) 4 ヒューマンエラーとは?(3) • やったことは「凡ミス」なのに被害甚大 事例:ジェイコム株の誤発注事件 2005年12月8日東証マザーズで,みずほ証券の担当者 61万株@1円 売り 61万円で 1株の売り 注文っと 5 ヒューマンエラーとは?(4) 大損害 • やったことは「凡ミス」なのに被害甚大 実際の売値77万円1株として,61万株は 事例:ジェイコム株の誤発注事件 469,700,000,000円,約4697億円 2005年12月8日東証マザーズで,みずほ証券の担当者 61万株@1円 売り 61万円で 1株の売り 注文っと 6 ヒューマンエラーとは?(5) 実際の価格が77万円1株として,5万3千株 •成立として,40,810,000,000円,約408億円 やったことは「凡ミス」なのに被害甚大 事例:ジェイコム株の誤発注事件 売る価格が1円なので,5万3千円 2005年12月8日東証マザーズで,みずほ証券の担当者 約408億円の損害 61万株@1円 そ,そん なぁ... 売り 7 ヒューマンエラーとは?(6) • 間違いは本当に「凡ミス」といえるようなミス • ところが,その影響が悲惨なことがある • 人は結構間違いを犯す – どんな間違いを犯すかを理解して(エラーの形) – 間違いが起きないか,間違いが起きても大丈夫 なようにする(フェールセーフ) 8 エラーの形(1) • どんなエラーがあるかを考えよう • スリップとミステーク • スリップ(slip) – 意識しないで脇道にそれてしまうエラー • ミステーク(mistake) – 意識的に良く考えたせいで起きるエラー 9 エラーの形(2) • スリップ型のエラー – 日常の行動は無意識 – いくつもの行動を同時に行えるのは無意識レベ ルにまで作業を習慣化しているから(ながら) • 話ながら歩く,テレビを見ながら食事する... – スリップ型はそんな無意識の中で,行為が類似し ている時に間違えてしまう – 外界の要因が引き寄せて起きる – そもそも意図していなかったことをやってしまう 10 エラーの形(3) • スリップの細分類 6つに分けられる 乗っ取り型エラー 記述エラー データ駆動型エラー 連想活性化エラー 活性化消失エラー モードエラー 11 スリップ型のエラー • 乗っ取り型エラー 記述エラー データ駆動型エラー 連想活性化エラー 活性化消失エラー モードエラー 12 スリップ型のエラー(2) • 乗っ取り型エラー – しょっちゅう行う活動(なれた活動)があるとして, その活動が,意図していた行為を乗っ取る 例:ある曲を演奏していたら,いつのまにかよく知っ ている曲を演奏していた. 例:洋服を着替えに寝室に行ったら,ベットに入っ てしまった. 13 スリップ型のエラー(3) • 乗っ取り型エラー – しょっちゅう行う活動(なれた活動)があるとして, AがBを乗っ取る! その活動が,意図していた行為を乗っ取る Aの行為は習熟しているが,Bの行 例:ある曲を演奏していたら,いつのまにかよく知っ 為はあまり慣れていない ている曲を演奏していた. 例:洋服を着替えに寝室に行ったら,ベットに入っ Aの最初の段階にBが類似している てしまった. 14 スリップ型のエラー (4) • 記述エラー – 意図した行為をしようとしていて,その行為と共通 点を持つものと間違えて行ってしまう. 例:蓋の開いた洗濯物入れにシャツを入れようとし ていて,蓋の開いたトイレに投げ入れてしまった. 例:カップにコーヒーを注ごうとしていて,茶碗につ いでしまった. 15 スリップ型のエラー (5) やろうとする行為について思い浮か • 記述エラー べる浮かべ方の細かさが不十分 – 意図した行為をしようとしていて,その行為と共通 点を持つものと間違えて行ってしまう. 白くて丸い ものの中に 例:蓋の開いた洗濯物入れにシャツを入れようとし シャツを入 ていて,蓋の開いたトイレに投げ入れてしまった. れる 例:カップにコーヒーを注ごうとしていて,茶碗につ ぼんやりと思う いでしまった. 目の前の課題に十分な注意が払えない 16 スリップ型のエラー (6) 正解と間違いの対象が類似している • 記述エラー – 意図した行為をしようとしていて,その行為と共通 点を持つものと間違えて行ってしまう. 例:蓋の開いた洗濯物入れにシャツを入れようとし ていて,蓋の開いたトイレに投げ入れてしまった. 例:カップにコーヒーを注ごうとしていて,茶碗につ いでしまった. 間違った対象と正しいものが近くにある 17 スリップ型のエラー (7) • 自動的な動作(データ駆動)型エラー – 人間の動きは自動的(反射的)な部分がある データ駆動:何か感覚的な情報が入ってくると,そ れにすぐに反応する! – 意図していた行為の途中にデータ駆動の活動が 割り込んで意図していなかった行動を引き起こす 例:電話をかけようと思い,何気なく電話機を見たら, その電話の番号が書いてあった.気がつくと,そ の番号を押していた.(かからない) 18 スリップ型のエラー (8) • 連想活性化エラー – 頭の中の考えや連想が誤った行為を引き起こす 例:電話が鳴った.「どうぞお入り下さい!」 19 スリップ型のエラー (9) • 活性化消失エラー – 何をするつもりだったのか忘れてしまう – 行おうとしている行動系列の一部は忘れてしまう のに,残りは覚えている – 物忘れ 例:寝室に用事があったのだが,歩いているうちに 何をしにいくつもりだったのか忘れてしまった 20 スリップ型のエラー (10) • モードエラー – 装置にいくつかの異なる操作モードがあるとき, あるモードではOKなのに,違うモードでは同じこ とをやっても違う意味を持つような時に起きる 例:ストップウォッチでタイムを計ろうとして,リセット 例:コンピュータのキーボード,シフトキーを押す, 押さないで同じキーでも意味がかわる 21 スリップ型のエラー (11) • モードエラー 同じボタンなのに,モードが違うと – 装置にいくつかの異なる操作モードがあるとき, 役割が変わる あるモードではOKなのに,違うモードでは同じこ とをやっても違う意味を持つような時に起きる できることと>装置の触れる部分 装置が現在どの状態にあるのか 例:ストップウォッチでタイムを計ろうとして,リセット が分かりにくい,見えない 例:コンピュータのキーボード,シフトキーを押す, 押さないで同じキーでも意味がかわる なんて時に多く見られる →電子機器などに多い 22 スリップ型のエラー (12) • スリップ型エラーを見つけ出すには? – どうやったら間違いに気づくか? フィードバックがあるなら,簡単 (変だから) フィードバックがないなら,難しい(気がつかない) ただし,間違っていることには気づくけど 何を間違えているのかには気づきにくい 23 スリップ型のエラー (13) • スリップ型エラーの間違いはどこか? – 人の行為にはいろんな段階がある – 間違いはそのどこかの段階で起きている 例:自転車でコンビニに行く 自転車でコンビニに行く/店の前に自転車をとめる/右 左折する/ハンドルを右左にひねる/ペダルをこぐ/重 心を曲がる方向に傾ける/筋肉に運動信号を送る... レベルは違うが同時に行われている.これらのどこでも間 違いの原因になる.どこが間違ったかを探すのは難しい 24 スリップ型のエラー (14) • がんばれデザイナー スリップ型エラーへの対応 1. スリップが生じる前に,防止するデザイン – モード数を減らす工夫,やっていることがわかり やすく改良 2. スリップが起きた時に,見つけて直すことが 容易になるようにするデザイン – 難しいです 25 エラーの形(4) • ミステーク型のエラー – 考えて行動して,間違うようなエラー – 不適切なゴールを選んでしまったために発生 選択ミス,状況把握の誤り,関連要因の考慮不足 人の思考の構造に深く関わっている 26 ミステーク型のエラー(1) • 人の思考って?(いくつかのモデル) 合理的論理的秩序立っている といいつつ... – 過去の経験に基盤がある(記憶に依存)! – 経験の記憶の価値は一定でない • よくあることより,めったにないことの方に強い記憶 – 思考と経験はかなり密接に結びつく 何かを解決するための行為は経験を思い出すこと でおこなわれることが多い(と思われる) 27 ミステーク型のエラー(2) • 思考行動のモデル えっ とー 過去の出 来事は... 問題発生 過去の経験, 記憶を検索 ○○○ ○▲○ □□□ 過去の経験 28 ミステーク型のエラー(3) • 思考行動のモデル これ かー ! ▲ ○○○ ○▲○ □□□ 検索結果 過去の経験 類似の記憶を 見つける 29 ミステーク型のエラー(4) • なぜ間違いが起こるか? これ かー ! ▲ ○○○ ○▲○ □□□ 検索結果 過去の経験 ここが間違い – そもそも,この検索が間違っていた 30 ミステーク型のエラー(5) • 過去との類似を間違えてしまう理由 ①過去を標準化してしまう • 個々の事例をよくあることとして整頓する ②特異な過去を思い浮かべてしまう • 滅多にないことをとても重要なことのように感じる 何か発生(実は初めて起きた珍しいできごと) →①だと,ありふれたことと解釈して行動 →②だと,間違った特殊事例だと思い込む どちらにしても,稀に起きる初めての事柄には× 31 ミステーク型のエラー(6) • ミステーク型エラーの発見 気がつくのはかなり難しい – 説明好きの人間の性質が悪さする 例:機械故障の警報機がなった. 時々誤作動をしていたので,今度も誤作動だろうと判断 (本当は故障していた) 例:庭で飼い犬がほえている おなかがすいているのだろうと餌を与えた (本当は泥棒が庭にいた) 32 ミステーク型のエラー(7) • 結果を知っているか,知らないか で,問題に対する予測,判断は大きく違う 世の中で起きた事件や事故を振り返って – 「当たり前」「どうして~しなかったのか」と責める ことが多く見られるが... – その時点では状況の見え方は全然違う このことは理解しておいたほうが良い 33 ミステーク型のエラー(8) • 社会的圧力とミステーク – 見逃せないエラーの発生原因 例:1983.大韓航空機の撃墜事故(ロシア上空) 恐らくINSへのプログラム入力を間違えて,変な ところを飛んだ(INS=慣性航法装置:自動操縦 のためのプログラムみたいなもの) • プログラムは地上でしか入力できない→6ヶ月で3機が INSプログラムミスで戻った→戻ると経費がかさむ • そこで戻ると処罰と会社が通達していた • 恐らくそれで,この飛行機はそのまま飛んだ 34 ミステーク型のエラー(9) あ,間違えている..でも.. • 社会的圧力とミステーク – 見逃せないエラーの発生原因 処罰されるしなぁ... 例:1983.大韓航空機の撃墜事故(ロシア上空) 恐らくINSへのプログラム入力を間違えて,変な ところを飛んだ(INS=慣性航法装置:自動操縦 安全のために,間違いを のためのプログラムみたいなもの) 正すのは当たり前の行為. • プログラムは地上でしか入力できない→6ヶ月で3機が それを罰するという社会的 INSプログラムミスで戻った→戻ると経費がかさむ • そこで戻ると処罰と会社が通達していた 圧力をかけたので,悲劇 • 恐らくそれで,この飛行機はそのまま飛んだ になった 35 ミステーク型のエラー(10) • 社会的圧力とミステーク 例:2005.JR西日本福知山線脱線事故 • 私鉄との乗客獲得争い→過密ダイヤ • 当日の運転ミス→遅れの発生→取り返そうとする運転 • カーブでの減速無視→脱線 • ダイヤに遅れると会社の罰則 • 速度制限を強制するシステムの設置の遅れ • 安全よりも利益を優先する経営 36 ミステーク型のエラー(11) • 社会的圧力とミステーク 例:2005.JR西日本福知山線脱線事故 世の中で起こる事故や事件の背景に, • 私鉄との乗客獲得争い→過密ダイヤ • 当日の運転ミス→遅れの発生→取り返そうとする運転 こうした社会的圧力 • カーブでの減速無視→脱線 社会的デザインの悪さ • ダイヤに遅れると会社の罰則 が関係することは多い • 速度制限を強制するシステムの設置の遅れ • 安全よりも利益を優先する経営 37 休憩(1) • 道案内の矢印はどこまで解釈できるか? – これは右 38 休憩(2) • 道案内の矢印はどこまで解釈できるか? – これは左 – 左右は問題なさそう 39 休憩(3) • 道案内の矢印はどこまで解釈できるか? – これは? 40 休憩(4) • 道案内の矢印はどこまで解釈できるか? – これは? 41 休憩(5) • 道案内の矢印はどこまで解釈できるか? – これは? 42 休憩(6) • 道案内の矢印はどこまで解釈できるか? – これは? ここが下り階段だったら? 43 休憩(7) • 道案内の矢印はどこまで解釈できるか? – これは? ここが上り階段だったら? 44 休憩(8) • 道案内の矢印はどこまで解釈できるか? – これは? ここが平らな道だったら? 45 休憩(9) • 道案内の矢印はどこまで解釈できるか? – これは 向こうへ行く? 向こうから来る? ここが平らな道だったら? 46 休憩(10) • 道案内の矢印はどこまで解釈できるか? – これは 向こうへ行く? 向こうから来る? ここが平らな道だったら? 47 休憩(11) • 道案内の矢印はどこまで解釈できるか? – これは good ここが平らな道だったら? 48 休憩(12) • 道案内の矢印はどこまで解釈できるか? – これも good ここが平らな道だったら? 49 休憩(13) • 道案内の矢印はどこまで解釈できるか? – 上向き矢印が向こうに進むのか – 下向き矢印が向こうに進むのか 実は決まりが見えてこない 時に混乱を招く 海外はどうか?ぜひ見てきてください. 50 フェールセーフ(1) • fail safe:故障,ミスなどで起きる被害を最小 にするという考え方 – 人間の活動ではエラーは起きる! – 自動化が進んでいる現代ではますます起きる! – 自動化が進むと深刻さは増す! →こうした前提のもとでデザインをする 51 フェールセーフ(2) • エラーに備えて何をするか 1. エラーの原因を理解→発生を最小に 2. やってしまっても元に戻せる設計,戻せない ことならば,やりにくくする 3. エラーが発生したら,気づきやすく,気づい たら直しやすく エラーとは何だ?とよく考えてみる 52 エラーとは何だ? • 普通はわざとエラーを起こすわけでない →間違うとしてもそれなりに理由があるはず – ミステーク • 与えられた情報が不完全か誤りやすいものだった • 間違えた時点での判断は,恐らく妥当だった – スリップ • デザインが貧弱だったか,人が注意散漫だった 普通は,間違えた人だけのせいでない 人は間違うのだという理解のもとにデザインをする 53 間違いを起こさせない技法 • 間違えられなくする「強制選択法」 – 物理的な制約:できないことはできない – インターロック – ロックイン – ロックアウト 54 間違いを起こさせない技法(2) • インターロック – 適切な順番でないと動かないように設計 例:電子レンジは,扉を開ける前に電源を切らない といけない.動いている時に空けると切れる 例:洗濯機の脱水も,回したままでは動かない.蓋 を開けるととまる. 55 間違いを起こさせない技法(3) • ロックイン – 操作を不注意に止めてしまうのを防ぐ 例:コンピュータの「シャットダウン」 いきなり電源が切れない 電源が切れる前に,終了処理をしていないアプリ ケーションの終了処理をユーザに促す 56 間違いを起こさせない技法(4) • ロックアウト – 危険なところへの立ち入りとか,起きて欲しくない ことを防ぐための仕掛け 例:ビルの避難経路 • 非難する時に地上でちゃんと外に出られるように 地下へは簡単に進めない 非常口 地下に進む道 ここには作らない 57 間違いを起こさせない技法(5) • 強制選択法 – 普段は割りと不便なことが多い しかし – いざ,という時に深刻なエラーに発展するのを未 然に防ぐ – エラーが起きても最小限のミスで済む という重要な役割を果たす うまくデザインして不便に感じないようにできれば◎ 58 フェールセーフ(3) • 踏み切りで車がエンスト エンジンがかからない... – マニュアル車なら • ギアを1速に入れる,ブレーキから足を離す • エンジンキーをまわす,まわす,まわす これで動くようにできている – オートマ車および警報機がなっちゃった時 • 遮断機横にある非常ボタンを押す • (助手席左下の発煙筒を発火させ,手に持って電車に向かって走 る) こうした事情があって,非常ボタンで電車を止めても罰金 等にはならない 59 フェールセーフ(4) • 安全第一で不慮の事故防止 例:石油ストーブ,ファンヒーター,電気ストーブ 倒れると,自動的に電源,火が消える 例:こたつ,電気ストーブ 熱くなりすぎると,電源が切れる(ヒューズが飛ぶ) 例:ホットカーペット 一定時間が過ぎると,電源が切れる(低音やけど防止) 60 まとめ • 人はミスを犯す – ミスを見越したデザインが道具には求められる – スリップとミステーク – 社会的圧力も見逃せない • その場では,その後とは違う判断もある – 後からその人の行動を責めるのはナンセンス – 間違いが起きないか,被害最小を目指すべき – フェールセーフの思想 – 安全第一のデザイン(道具も社会も) 61 まとめ(2) • 自動化が進んだ世の中は危ないぞ! – 頭を使っていないので,思わぬミス,うっかりミス を誘発しやすい – 不便な方が安全,という面もある • 簡単にはできないので,モノへの対応も慎重 – ことを起こすと,その影響もでかい • 誰でも大失敗をおかしやすい • 簡単,便利,手軽という道具が持つ怖さも知 るべき 62
© Copyright 2024 ExpyDoc