意外性と意図帰属 岐阜大学工学部応用情報学科 寺田和憲 伊藤昭 人間と機械の違い • 人間は心を持つが機械は心を持たない • 心を持つ＝心的状態の帰属(mental state attribution)が可能 • 心：意図(intention)，信念(belief)，願望 (desire) Machine Human Mind Algorithm Mechanism Observer Attribution 機械：法則による振舞予測が可能 • 設計スタンス • 振舞の入出力関係が固定されている • アルゴリズム，メカニズムなど法則によって予 測可能 • 機械自身が目的を持って自発的に動くことは ない 心的状態の帰属原因 • ロボットはこれまでに提案されている要因を 備えている – 外見，自己推進性，随伴性，目的志向性，合理 性，等終局性 合理性 • DennettとGergely • 合理性を仮定しなければ，新規な状況におい てどう振舞うかは予測できない • 目的に対する手段を選択する際に考慮され る – 損失するエネルギーを最小にする – 最短時間 – 最短経路で到達 • 帰属するべき意図の探索範囲を限定できる ロボットに対して意図帰属をさせるた めにはどうすればよいか？ • 意外性を備えればよい 振舞に対する意図帰属 • 不良設定問題 – 単一の意図は多種の振舞を生成する →表面的な振舞から意図を同定することが困難 • 意図の探索範囲を限定する必要がある – 合理性 – 等終局性 – 知識 • 人間の行動一般に関する知識 • その人の持っている知識 • 状況に関する知識 心的状態の帰属の必要性 • 意図は多様な振舞を生成する • 振舞の多様性 1. 意図が遷移した結果，振舞が変化する 2. 特定の意図がバリエーション豊富な振舞を生成する 3. 意図と振舞が一致しない場合（嘘，皮肉など）がある • 振舞いの起源となる意図を帰属することで – 振舞の抽象化による認知負荷の軽減 – 振舞の予測を簡単にする – 振舞に心を感じるのは心を感じる必要があるから（有 益だから） 振舞の多様性を示唆する要因 • 振舞の多様性は方策の変化から生まれる – 意図そのものが遷移 – 同一の意図を実現するためのインスタンスとしての 方策の変化 • 方策の変化に対して適切に対応し，再度意図を 帰属しなおさなければならない • 方策の変化の知覚 – 予測と観測の不一致： • 「意外」(unexpected)という主観的概念を生成する • 意外性は意図帰属の必要性のインジケーター 持ち上げ行為の予測における unexpectedness • 被験者は，行為者が荷物の重さを正しく見積もって いたか否かを答える • False expectationのときにSTSがより賦活 [Saxe2004] Saxe, R.; Xiao, D.-K.; Kovacs, G.; Perrett, D. I. & Kanwisher, N. A region of right posterior superior temporal sulcus responds to observed intentional actions. Neuropsychologia, 2004, 42, 1435-1446 隠れ状態におけるunexpectedness • 障害物の後ろを歩いて行く人を見せる • 後ろで3秒止まっていた場合にSTSがより賦活 – 通常3.5秒で通過 [Grezes2004] Grézes, J.; Frith, C. D. & Passingham, R. E. Inferring false beliefs from the actions of oneself and others: an fMRI study NeuroImage, 2004, 21, 744 - 750 意外性と騙し • 騙し – – – – 意図的に相手の錯誤を引き起こすこと 表面的な振舞いと意図が乖離している 意外性が含まれ，意図帰属を行わなければ理解できない振舞 騙しが成立するのは心的状態が外部から観測不可能だから • 意図帰属の必要性を満たしている • 騙されたことの認識 – 帰属している意図と振舞の乖離に気付くことで起こる→意外性 として認識される • 詐欺にあったことに気付くのは，代金を支払ったのに商品が届かな いなど，通常の商取引の手順を逸脱した事象の発生 – ある振舞に対して騙されたと感じることはその振舞に対して意 図帰属を行わない限り起こらない – ロボットに騙されたと感じることはロボットに意図帰属を行った という証拠になる 意外性の生物学的意味 • 意外性：人間らしさ，生物らしさ，知性の本質 • 固定方策 – 変化する環境や競合状態においては弱い • 突然変異（オフラインでの方策変化） • 強化学習における探索パラメータ（オンラインで の方策変化） • 変化そのものの発生は偶然性に頼るしかない • しかし，変化しっぱなしの方策は意味がない – 合理性の評価が必要 • ランダムさと合理性の両方を併せ持たなければ ならない 仮説 • 以上の論理によって検証するべき仮説は – ロボットが意外な（人間の予測を裏切るような）動 作を生成することで，人間はロボットに騙されたと 感じる． • タスク – だるまさんがころんだ だるまさんがころんだ • 英語圏ではRed Light, Green Lightという遊び – 世界各国に同様のゲームがある • 一人の鬼と複数のプレーヤに分かれて行う • ルール – 鬼は一カ所に留まり，プレーヤはある程度離れた場所からス タートする – 鬼はプレーヤと反対側を向いて「だるまさんがころんだ」と唱え る – プレーヤはその間に鬼に近づく – 唱え終わった鬼はプレーヤの方を向いて動いていないかどう か確認する • 勝敗 – プレーヤ：鬼にタッチすれば勝ち – 鬼：プレーヤが動いていることを指摘すれば勝ち だるまさんがころんだにおける騙し • 鬼の唱詠速度や動作の速度が一定であれば 鬼に近づくのは簡単 • 鬼の戦略 – 動作や唱詠の速度，タイミングをコントロール – 例） • 唱詠速度を途中で急激に上げ素早く振り向く – 「だーーーるーーーまーーーさんがころんだ」 – ゆっくり唱えると思わせておいて予測を裏切る 本実験で実装 • 唱えに入ると見せかけてまたプレーヤの方を振り向く 実験目的 • 「人間の予測を裏切るようなロボットの振舞は， 人間にロボットに騙されたと感じさせる」か否 かを調べる • 方法 – だるまさんがころんだを題材とする – だるまさんがころんだをプレイできるロボットを作 成する – だるまさんがころんだにおける騙しを実装する – 被験者を用いて調べる 実験装置 • 入出力装置を備えた移動ロボット • 全高：110cm • 2 脚に駆動用モータ，2 脚にキャス ター – 最高速度は約80cm/sec • 音声出力 • 視覚的情報提示用のLED • 人間の動きを同定するためのカメラ • プレーヤのタッチを明示化するため のスイッチ 実験環境 条件 • 騙し条件 – 騙し動作を出力 • 標準パターンの動作＋欺きパターンの動作 • プレーヤが今まさにタッチしようとしたタイミングで唱詠速度を上げて突然振り 返る • 必ずロボットが勝つ • 統制条件 – 規則的動作を出力 • 標準パターンの動作のみ • 必ず被験者が勝つ • 被験者間 • 本実験における騙し – 本当は唱詠速度をコントロールできたり，素早い動きができるのに， 能力を過小評価させるように振舞う 欺きを効果的にするための工夫 • プレイ中に動き検出は全く行わない – 欺きパターンを出現させる前にゲームが終了して しまわないようにするため – 常に同じパターンの行動を出力し，プレーヤがロ ボットの行動モデルを形成しやすくするため • 欺きパターンではプレーヤの動きにかかわら ず，必ず動きを検出したことにする – 疑った被験者はいなかった 人間の動き検出 • 高精度な動き検出 • OpenCVライブラリを用いて実装 • 至近距離だと動きを同定されないようにするの は困難 • 人間の動きを検出すると，筺体内のLEDが点灯 し，動きを同定していることを明示する – 被験者の目的はLEDを点灯させないようにロボットに 近づくこと – 実際のプレイ中では人間の動きを一切同定しない – 真剣にプレイさせることが目的 事前教示 • ゲームの前に，プレーヤに ロボットの前で動いてもら い，ロボットが高性能な動 き認識能力を持っているこ とを信じさせる． – 標準パターン出力中にプ レーヤの動きが同定され ないことによって発生する， 本当は動き同定していな いのではないかというプ レーヤの疑いを払拭する ため 実験方法 • 実験はロボット対被験者1 名で行い，ロボット は常に鬼になる． • 被験者へのインストラクション – 「LEDを点灯させないようにロボットに近づいてロ ボットの上部のボタンを押してください」 • プレーヤはロボットが「だるまさんがころんだ」 と唱えている間だけ動くことを許される – 動作中は動きを同定できないため 被験者 • 21 歳から46 歳までの20 名(男性16 名，女性 4 名) 質問項目 • 騙されたかどうか – Q1 ロボットに裏をかかれた – Q2 ロボットの動作は規則的だった – Q3 ロボットの行動は読みやすかった • 誰とのゲームだったか – Q4 実験者とのゲームだった – Q5 ロボットとのゲームだった 「騙されたと感じたか」どうかのアンケート 結果 ** * ** 5 Rating 4 3 騙し 条件 2 統制条件 1 Q1 裏をかかれた Q2 規則的だった Q3 予測しやすかった 「誰とのゲームだったか？」のアン ケート結果 * 5 Rating 4 3 2 騙し 条件 1 統制条件 0 Q4 実験者と のゲーム Q5 ロ ボッ ト と のゲーム まとめ • 意図を持っているように見えるロボットを作るために， 観察者における意図帰属の有用性と必要性を考え ることで，振舞の意外性が意図帰属のきっかけにな ることを論理的考察によって導き，人間とロボットの インタラクション実験を通じて，ロボットが意外な振 舞をした場合に意図帰属が行われることを確認した
© Copyright 2024 ExpyDoc
