土木学会応用力学委員会逆問題小委員会ホームページ入門へのガイド 2014.1 逆問題からみた各分野の関係 1. 線形ガウスの逆問題の定式化ここでは，場が何らかの手法で離散化され，観測に関する情報が以下の式で表せる問題について述べる． z = H(x) + v 観測量zは未知量ベクトルxの関数H(x)で与えられ，観測量誤差vが加えられるとする．観測量は応答の一部である．未知量xはモデルのパラメタなどである．通常，モデルパラメタは所与であり，それを元に応答を求める．すなわち上記式にそのまま代入して解き，これを順問題（順解析）とよぶ．それに対してzからxを求めることを逆問題（逆解析）と呼ぶことにする．観測量zは未知量ベクトルxの関係が以下のように線形で，観測量誤差vがガウス分布で与えられる場合を線形ガウスの問題と呼ぶことにする． z = Hx + v 1) 基本的定式化線形ガウスの問題では最尤法の考え方から線形最小二乗法が誘導される．線形ガウスの世界は非常に見通しが良く非適切性の問題も含めて理論的には完成されている．非適切性（ill-posed problem，ほぼ同義と思われるが共線性とも呼ばれる）とは簡単にいうと情報不足の問題である．例えば未知量ベクトルが2次元，観測量ベクトルが1次元であれば1つの式で2つの未知量を推定する問題となり，当然解くことはできない（唯一の解は存在しない）． 2つの式が与えられたとしても似たような式（独立性に乏しい）であれば実質的には解くことが困難である．本質的に情報が不足しているのであれば解が唯一に求められないのが当然であり，いかに高度な方法を使って解を算定したとしても，それは何らかの形で情報，条件を付加していることに注意しなくてはならない．例えば確率に基づく逆問題では事前情報が重要な役割を担うが，これは陽な形での未知量への情報の付加である．その定式化ではベイズ推定， MAP(Maximum A Posteriori)がキーワードになる．一般逆行列の考え方もよく知られているが非適切性に対応する場合は結局情報の付加，あるいは解空間の制限としての意味をもつ．観測情報を満たす解のうち，未知量ベクトルのノルムを最小にする解を選んでいることに相当する．2乗ノルムであれば，事前情報の平均ベクトルとして0ベクトルを仮定して十分小さな観測誤差を与えた場合と同じ解となる．チホノフの正則化もよく知られているがやはり同様に情報の付加として解釈できる． 2) フィルタリングやクリギング確率場に対する補間法であるクリギング(Kriging)も線形最小二乗問題の特殊な場合として誘導することができる．また，カルマンフィルタ(KF, Kalman Filter)も逐次型の線形最小二乗法として解釈することができる．基礎理論の「線形逆問題の定式化と基礎知識」に逆問題の一般的目的関数からクリギングやKFの誘導について簡単に述べているので参照されたい． 1 土木学会応用力学委員会逆問題小委員会ホームページ入門へのガイド 2014.1 2 非線形，非ガウスの逆問題 1) 非線形最小二乗法や最適化手法の導入逆問題はなんらかの目的関数の最小化問題として解釈することができる．1.2で述べた線形ガウスの世界であれば簡単にその最小化問題を解くことができ，最小化のための特別な手法は必要としない．しかし，非線形あるいは非ガウスの問題になると陽には解けなくなるためなんらかの数値的な手法が必要となる．非線形最小二乗法としてはGauss-Newton 法やMarquardt法などが有名である．非線形最小二乗の枠組みを超える場合（例えば，観測誤差の標準偏差などのハイパーパラメタも推定する場合，ガウス分布以外の観測量誤差を考慮する場合，など）非線形最小二乗法を用いることができなくなるため，DFP法，BFGS法などの最適化法が必要となる．これらの方法では微分値（目的関数や観測量に対する未知量による微分）が必要となるが，未知量の数が多い場合は数値微分の適用は実質的に困難になる．上記，非線形最小二乗法や最適化手法はいわゆる局所解探索手法であり，得られた解は大域解である保証はない．近年では計算機能力の発達もあり，遺伝的アルゴリズム(Genetic Algorithm, GA)や粒子群最適化法(Particle Swarm Optimization)などの大域解探索手法も選択肢となってきた． 2) 非線形のフィルタリング（推定値の確率分布も求める場合）前述の1)の最適化手法では目的関数を最小化する値が求められる．確率論的に述べると観測情報から推定される未知量ベクトルの確率分布を最大にする値（局所解探索手法であれば極大にする値）を求めていることに相当する．線形ガウスの問題であれば非常に単純・明確であり平均値ベクトルとその共分散行列で完璧に確率分布が表現される．時間更新（時間方向に未知量が変化することのモデル化）を考慮したフィルタリングにおいても線形ガウスの枠組みであればカルマンフィルタ(KF)として知られる明解なアルゴリズムとなる．一方，非線形，非ガウスになると急に難しくなる．拡張カルマンフィルタ（Extended Kalman Filter）は、非線形モデルを平均値等の代表値付近で線形近似することにより、カルマンフィルタの適用を可能にする手法である．また，無香カルマンフィルタ（Unscented Kalman Filter）は平均値周りにシグマ点と呼ばれる複数のサンプル点を設け，これらの統計的性質に基づいて共分散行列を推定するもので，非線形性が強い問題においては，拡張カルマンフィルタよりも良好な性能を示すことが知られている．さらに，多数の実現値の集合（アンサンブルと呼ばれる）により確率分布を直接表現するモンテカルロ近似を利用したのが，アンサンブルカルマンフィルタ（Ensemble Kalman Filter）である．EnKFは計算量が多くなるものの，いかなる形状の確率分布も取り扱えるため，非線形性だけでなく，拡張カルマンフィルタや無香カルマンフィルタで前提とされるガウス性も不要となるのが特長である．アンサンブルカルマンフィルタと並んでモンテカルロ近似を用いたもう一つの代表的なフィルタリング手法として粒子フィルタ（Particle Filter）があり，これは実現値を観測との近さに基づいて取捨選択することで状態量の修正を行う．また，観測方程式が非線形の場合にも適用が可能であり，この点でアンサンブルカルマンフィルタよりもさらに汎用的なフィルタ手法であると言えるが，状態量の次元数が多くなると適用が途端に困難となる問題も存在する．以上のフィルタリング手法における観測情報をモデルに取り込みながら，状態量の修正・更新を繰り返すスキームは遂次データ同化とも呼ばれ，特にアンサンブルカルマンフィルタおよび粒子フィルタは近年その応用が進みつつある． 2 土木学会応用力学委員会逆問題小委員会ホームページ入門へのガイド 2014.1 3 その他の関連話題 1)モデル選択パラメタを決めるだけでなく，パラメタの数（モデルの複雑さ）も決めるにはモデル選択の考え方が必要となる．モデル選択では情報量基準が最小となるモデルを選ぶ．情報量基準としてはAIC(A Information Criteria)，BIC(B Information Criteria, 誘導の経緯は異なるがMDL, Minimum Digital Lengthと等価)が有名である． 2)最適観測点の問題へ逆問題の精度は用いることができる観測情報に依存する．観測情報は基本的には多いほどよいが，同じようなデータばかり集めてもあまり意味をもたない．効率的（経済的）な逆問題とするためには，少ないコストでより精度の高い推定を行うための最適な観測点配置を考えることが必要となる．コストと推定の精度はトレードオフの関係にある．推定の精度を表す指標としては推定値の共分散行列に基づく方法がいくつか提案されている．このうち共分散行列の行列式に基づく方法はガウス分布を仮定すると情報エントロピーとしての意味をもつ．不確定性に注目するだけでなくリスク（あるいは便益）に注目したVoI(Value of Information)に基づく方法も近年では検討されている．以 3 上