産業競争力懇談会（ＣＯＣＮ）２０１６年度推進テーマ候補活動企画書（scope of work）【提案テーマのタイトル】自律型人工知能間の挙動調整【提案企業・大学・法人】日本電気株式会社【提案内容】１．提案の背景・理由ビッグデータ処理技術や機械学習アルゴリズムの進展により、人工知能の能力が大幅に向上し、実世界の多くの場面に適用されていくことが想定される。特に、様々なシステムが自律型人工知能にコントロールされることにより、新たな価値が生み出されることが期待される。例として、クルマの自動運転、工場設備等の自動機器制御、家庭・オフィス・店舗における自律ロボット、および水道・電気等のインフラの自動運用等が挙げられる。このようなシステムを広く普及させるため、これらをコントロールする自律型人工知能間の挙動調整が不可欠である。例えば、交差点に複数の自動運転車が侵入する場合、同一工場内で多くの機器が同じリソースを同時に要求する場合、あるいは複数のロボットが矛盾した指示を主（あるじ）から受ける場合に適切に調整されない場合には、利用者の安全性が確保できないことや、安定的に稼働されないことが考えられる。しかしながら、最適な自動型人工知能間の挙動調整ができれば、効率的な運用成果や、バラバラに動作するなかでは得ることができないシナジー効果が期待できる（末尾に注）。２．産業競争力強化上の目標・効果 AI 間の挙動調整が社会実現するためには、調整の仕組み/制度/仕様などの取り決めが必要であることは自明であるが、「問題が起きた時の製造責任の所在」など、事業者が安心して技術開発から実用化に取り組むための法整備や社会的なコンセンサスが必要とされる。例えば、他の機器からの制御指示による問題が起きた場合の製造責任の所在、通信品質の悪化による協調判断が失敗した場合の製造責任の所在等を明確にすることで、AI 間の挙動調整に必要な仕組み構築や技術開発が加速されると想定する。本提案テーマでは、「自律 AI 間の調整／協調による社会価値創出」を実現するために、AI 間の情報交換に関して、一定の規約（プロトコル）やサービスレベルを定めるとともに、製造責任の所在を特定できる状態とすることを第一の目標とする。他者の過失による製造責任が問われないことで、事業者が安心して AI 間の調整技術／協調化技術に投資できる環境を整える。第二の目標は、規約やサービスレベルを規定・修正する場やプロセスを整備することにある。これにより、様々なサービスが、継続的に創造される状態となる。我が国の社会インフラの効率化、国民の安心・安全の確保、豊かで質の高い生活の実現など、様々な価値創造の可能性がある。第三の目標は、この規約やサービスレベルを遵守するために必要な社会インフラが整備され、稼働している状態の実現である。規約やレベルの遵守状況を監視する AI 管制オペレータ・システムが必要であれば、（航空管制のように）常時監視し、事故が起こらなくとも、規約違反を検知・警告する仕組みを、他国に先駆けて構築する。３．検討内容と想定される課題（政策、技術・システム開発、規制改革、人材育成など）前記目標の達成には、次の３つの検討が必要である。第一に、調整原理の確立である。AI 間で自己の動作意図や予定、相手に対する動作依頼や依頼に対する対価等をやり取りし、大域的に最適な挙動を導出、互いに合意に至るまでの手順原理が必要である。この原理は、様々な状況毎に必要となる。例えば、権限を持った調停者の有無や、市場原理が働く調整の場の有無、次に言及するプラットフォームの信頼性（通信の失敗の可能性等）、悪意を持つ調整相手の有無等である。第二に、上記の調整原理を実行するプラットフォームである。実世界において AI 間の挙動調整を実行させるには、調整に必要な情報を安全かつ確実に交換するための標準化されたプロトコルや、危険回避やシナジー効果実現に必要な品質の通信／処理基盤、合意された挙動の履行を確認でき、対価を清算できるシステム等が必要である。第三に、法制度・社会ルールの策定である。技術的には挙動を調整・実行することが可能であっても、調整を無視した利用者がでれば、社会的な秩序が維持できない。法制度等に担保された社会ルールの確立が必要となる。４．想定される解決策と官民の分担調整原理に関しては基本原理等をアカデミア主導、競争力源泉となるアルゴリズムを民間主導と想定する。調整プラットフォームの技術開発に関しても同様であるが、市場原理に従う場の形成等は民間主導、また、ベンダー横断の実証実験等については官主導を想定する。第三の法制度・社会ルールの策定は既存の公共機能（交通、警察等）との連携も含めて官主導を期待する。５．テーマ活動の想定活動期間本提案プロジェクトの活動期間は、2016 年度から主要な国家プロジェクト（以下、NP）が開始するまでとする。最初の NP は 2017 年度の開始を目指す。NP 最終年度（2021 年度）には、例えば自動運転車の AI 調整／協調を実現できる状態を目指す。なお、自動車各社は、「2020 年までの自動運転の実現」で凌ぎを削っているため、調整／協調の気運が高まるのは、それ以降と見込んでいる。６．出口目標と提言実現の推進主体案本提案プロジェクトの成果目標は、起案する NP が達成すべき目標の設定、課題・検討体制の具体化である。目標には、達成度を評価できる KPI と、その達成により得られる社会インパクトの定量的な見積もりを含める。課題・検討体制の具体化としては、起案する NP と他の活動（自動運転であれば、ＳＩＰ自動走行システム、企業活動など）との関係を整理し、各課題の担当主体／検討体制の要件を決定する。これにより、NP に適格な参加者が集まると期待される。本提案プロジェクトの推進主体は、調整原理／プラットフォーム技術を担う企業や研究機関、適用ドメイン（自動運転、機械制御、ロボット、インフラ等）企業、通信キャリア、大学、関係府省庁を想定する。７．推進体制案全体事務局は提案企業であるＮＥＣを想定する。その下に調整原理、調整プラットフォーム、調整制度／ルールの部会を組成し、参加メンバーによって、さらに適用ドメイン別の部会を組成する。各部会の推進主体は、調整原理：アカデミア、調整プラットフォーム：電機業種系企業、調整制度：政府系あるいはコンサル業種系メンバーを想定する。ドメイン部会に関しては例えば、自動運転ドメイン（自動車メーカー系、交通管制系、輸送・流通系等）、機器制御ドメイン（大規模製造系、機械系、プラントシステム系等）、ロボットドメイン（ロボットメーカー系、居住空間環境系、家電系等）、インフラドメイン（ユーティリティー系、需要家側システム系等）を想定する。【課題の詳細例】現在、各メーカーは独自に AI 制御を開発しており、メーカー間での協調制御は検討されていない。将来、これに伴う課題が、脊髄系 AI と大脳系 AI の両面で発生すると想定される。脊髄系 AI とは反射神経に係る制御を意味し、大脳系 AI とは、異なる目的・方針が存在する状況下での自動判断や、同一目的を達成するための共同作業・判断を意味している。脊髄系 AI の代表例である車の自動運転では、センシングした外部環境情報をもとに自動判断する技術が研究開発されているが、この自動判断は各社の競争領域として設定され、協調は判断/制御を伴わない地図情報整備などに限ると明言されている。しかしながら、例えば、２台の自動運転車が出合い頭に正面衝突しかけた場合、互いに相手を避けようと同方向に動いてしまい、衝突を回避できないことも考えられる。他の例として、生産ラインが動的に組み変わる Industrie4.0 の世界において、生産機器（ローラー、ロボットアームなど）が協調されないまま AI 化されると、精緻に加工タイミングを調整できず、生産物が損傷するといった問題も起こり得る。一方、大脳系 AI としては、例えば、インフラ点検中のドローンが偶然に重大事件に遭遇しても、個別 AI 判断では、警察への通報をすることまでしかできない。周囲にある宅配用ドローンを呼び寄せて、群として犯人の行方を追う、といった臨機応変な協調判断ができない。注）現在、自動運転の分野では、自動間で通信を行い危険回避に活用する研究がされているが、これは自分以外の自動車を環境の一部とみなして、より詳細な情報を得ることを主眼としており、自分の意図の表明や相談により互いの挙動を調整するものではない。参考：内閣府戦略的イノベーション創造プログラム（ＳＩＰ） ④「安全運転支援システム・自動走行システムの情報収集技術の種類」 http://www8.cao.go.jp/cstp/gaiyo/sip/iinkai/jidousoukou_14/shiryo14-2-2-9.pdf