ステレオ視に用いる超広角低歪レンズの Bスプラインによるカメラ

ステレオ視に用いる超広角低歪レンズの
B スプラインによるカメラキャリブレーション
○河西 元, 坪内 孝司, 原 祥尭, 大矢 晃久 (筑波大学)
Camera Calibration Using B-Spline
for Stereo Vision with Super-Wide-Angle and Low-Distortion Lenses
*Hajime Kawanishi, Takashi Tsubouchi, Yoshitaka Hara, and Akihisa Ohya (Univ. of Tsukuba)
Abstract– This paper compares three calibration methods for a binocular stereo camera equipped with super-wide-angle
low-distortion lenses. Radial distortion of a wider view-angle lens, which becomes more difficult for undistortion, is a
common property of such a lens; this in turn affects camera parameter estimation. Conventionally, polynomial model
have been employed for undistortion. We wonder if employment of a B-spline distortion model will give more proper
fit to radial distortion properties. Therefore, we apply 6th and 12th order polynomials and B-spline model to the target
super-wide-angle low-distortion lens. Effectiveness of the B-spline model is characterized through experimental curve
fitting to distortion layout data, camera calibration with regular lenses, and evaluation of 3D reconstruction.
Key Words: Stereo Camera, Camera Calibration, Lens Distortion, B-Spline
1
緒言
ロボットを遠隔操作して作業を行うためにも,またロ
ボット自身が自律的に行動するためにも,ロボット周囲
の環境を把握することが必要であり,そために外界セン
サが必要である.ロボット周囲にある対象物の 3 次元形
状が取得できると,その対象物をハンドリングしたり回
避するのに都合が良い.このような場合,ステレオカメ
ラや 3D レーザスキャナ,赤外線深度センサを用いる.
特に周囲環境が暗くなければ,ステレオカメラは瞬間的
にその形状を取得でき,屋外でも安定して運用可能であ
る.また 3 次元形状と同時に使用するカメラによってカ
ラーまたはモノクロ画像を取得できる利便性もあり,し
ばしばロボットに搭載される.
周囲環境の把握には,そのセンサの持つ視野の広さが
重要であり,一般に,それが広いほどロボットの行動範
囲が広がり,死角にある障害物との衝突危険性も低くで
きる.ステレオカメラの視野角は,そのカメラに装着し
たレンズに依存する.視野を広げるためにはより広角の
レンズを装着する必要があるが,従来の広角レンズでは,
そのレンズの視野が広角なほど,特有な樽型歪みが大き
くなった.エピポーラ線が画像の水平方向の走査線上に
あると仮定する平行カメラモデルでステレオ視をするた
めには,レンズの歪みを補正して透視投影モデルが成り
立つように画像を補正する必要があるが,その歪みが大
きいと歪み補正の残留誤差も大きくなる傾向があり,ス
テレオ視には不利になっていた.
一方,レンズの光学設計やレンズそのものの製造法の
発展により,広角なレンズであっても,それにより取得
された画像の見た目にはほとんど歪みの感じられない工
業用広角カメラレンズが開発され市販されはじめている
1, 2)
.特に日東光学株式会社と Theia Technologies LLC
の共同開発によって,超広角でありながら低歪なカメラ
レンズとして市販されている「Theia レンズ」2) は 1/3 イ
ンチサイズの撮像素子を用いた場合の水平視野角が 125
度でありながら,光学歪曲収差が-3% 以下を実現してい
る.歪曲収差がこの程度であれば,従来の歪みの大きな
広角レンズに比べ画像処理による歪み補正の負担も低く
なり,広い視野をステレオカメラで得られやすくなるこ
とが期待できる.そこで,筆者らはこの Theia レンズを
用いたステレオ視の試みを行っている 3–5) .
1 対 2 台のビデオカメラによるステレオ視を行うにあ
たっては,レンズの残留歪みの除去や遠近効果への対処
など,解決すべき課題がある.しかし,平行カメラモデ
ルによるステレオ視については,OpenCV2.46) に,すで
にこのための標準の実装があり,レンズ歪補正のための
内部パラメータと,カメラの相対位置関係を求めて平行
カメラモデルをより成り立たせる画像補正(平行化)の
ための外部パラメータを求める手続きが用意されてい
る.後述するが,Theia レンズの設計データによれば,
理想像高と歪み率との関係が十分なめらかではあるが単
調ではないため,OpenCV 2.4 で採用されている多項式
近似を用いたレンズ歪みモデルが,このレンズの歪みに
対して十分なフィッティングができるのかどうかについ
て筆者らは確認の必要があると考えている.
本稿では,Theia レンズを用いて 2 眼ステレオ視を行
う場合に,OpenCV2.4 上に実装されている 6 次多項式
による歪み補正モデル,その次数を 12 次とした場合の
歪む補正モデル,および B スプライン関数を用いたレン
ズ歪みモデルを示し,それらを用いて実際に歪み補正を
行い比較を行ったので報告する.
2 ステレオカメラのキャリブレーション
2.1
概要
2 眼ステレオ視により 3 次元形状を正しく復元するに
は,ステレオ視に関するモデルと,そのモデルに応じた
カメラについての諸パラメータが必要である.これは大
別すると二種類あり,一つは 1 台のカメラにおいて外界
から撮影画像へ投影される変換過程を表す内部パラメー
タ,もう一つは 2 つのカメラ間の相対位置関係を表す外
部パラメータである.さらに内部パラメータには画像へ
の投影モデルを表すカメラ内部パラメータと,レンズ歪
みモデルを構成する歪みパラメータが含まれる.また外
部パラメータはカメラ間の位置姿勢(平行移動および回
転)を表すパラメータを含む.
これらのステレオカメラの諸パラメータを求める作業
をカメラキャリブレーションと呼ぶ.カメラに対し直接
的な測定によってこれらのパラメータを導出するのは困
難であるため,既知の実空間上の 3 次元点とその点の画
像平面上への投影点との対応を制約条件として利用し,
パラメータを推定する手法がよく用いられる.特にキャ
リブレーションボードと呼ばれる,チェス盤や水玉など
の模様を白黒でコントラスト高く描いた平面状の板を利
用することが多い.チェス盤模様の正方形の頂点や,水
玉の中心点などを既知の特徴点として利用する.平面上
にこれらが描かれていれば,これらが水平面上にあるこ
とを仮定し,またそれらの特徴点の間隔なども既知とし
て扱う.
本稿では,Zhang の手法 7) をキャリブレーションに
使用している.Zhang の手法は OpenCV ライブラリや
Matlab などで利用可能なツールとして実装され広く用
いられている.本稿でも,OpenCV ライブラリ上の実装
を利用している.この手法では,一度レンズ歪みを無視
して解析的手法によってパラメータを推定し,それを初
期値として反復解法を行う.解析的手法によって適切な
初期値を求めることができるため反復解法における適
切な解が求まりやすい,収束が早まるなどの利点を持
つ.また,反復解法ではレンズ歪みモデルを扱うことが
できるため全てのパラメータを同時に推定することがで
きる.
2.2
曲収差を表すパラメータ, p1 , p2 , . . . は円周方向歪みを
表すパラメータである.式 (1) を実際に用いる場合,第
一項は係数 k1 , k2 , k3 の項までを使うことが多い.また,
第二項では係数 p1 , p2 だけを有効にし,多項式近似の部
分は用いない場合が多い.
2.3 B スプライン歪みモデル
本稿は,Brown の多項式歪みモデルとの対照に,B ス
プライン関数を用いたレンズ歪みモデルを用いてみるこ
とが主題である.B スプラインの歪曲収差特性を表現す
る方法については,すでにいくつかの研究が存在する.
Remy ら 9) は歪曲収差を B スプライン関数を用いて表
現し,既知の光軸中心位置と格子状模様の撮影結果から
歪曲収差の補正を行っている.Jie-Shou ら 10) は同様に
歪曲収差 B スプライン関数を用いて表現し,魚眼レンズ
によって生じる歪曲収差を光軸中心位置や焦点距離など
のカメラパラメータに無関係な手法で補正している.上
述の手法はいずれも歪曲収差に関するパラメータ推定を
カメラの投影パラメータが既知として行う手法である.
上述した Zhang の手法 7) は他方,現在の主流である
反復解法により全体のパラメータを同時に推定する手法
を採用している.本稿では,Zhang の手法をベースに B
スプライン関数を用いた歪曲収差モデルを用いたパラ
メータ推定を実装し,従来の多項式関数によるモデルを
用いた場合との比較を行う.
B スプライン関数は節点(knot)で区切られた区分ご
とに適用される多項式が変化する関数で,節点において
多項式が滑らかに接続するように構成される.節点を
q0 , q1 , . . . , qN (q0 ≤ q1 ≤ . . . ≤ qN ) のように定義する
と,B スプライン関数は式 (2) のように表せる.




Brown の多項式による歪みモデル
通常,カメラによって撮影した画像には,そのレンズ
の特徴に起因する歪みを受けている.その歪みモデルを
求めておけば,歪みを受けた実画像から歪みを取り除い
た画像を生成することにより歪み補正を行うことができ
る.レンズ歪みモデルとしてよく用いられるものが,歪
みの主要な要素である歪曲収差(radial distortion)と円
周方向歪み(tangential distortion)を扱った Brown の歪
みモデル 8) である.
式 (1) に示す Brown の歪みモデルは,歪曲前の座標
(x̄, ȳ) から歪曲後の座標 (xd , yd ) を算出する公式を与え
ており,式中の右辺の第一項目が歪曲収差,第二項が円
周方向歪みを表す.それぞれ多項式近似を用いて表現し
ている.
)[ ]
[ ] (
x̄
xd
2
4
6
=
1
+
k
r
+
k
r
+
k
r
+
·
·
·
1
2
3
ȳ
yd
[
]
2
2
2p1 x̄ȳ + p2 (r + 2x̄ )
+
(1 + p3 r2 + p4 r4 · · · )
p1 (r2 + 2ȳ2 ) + 2p2 x̄ȳ
(1)
ここで,x̄, ȳ は光軸の画像平面上の投影点(光軸中心)
を原点とした透視投影モデルに基づく理想的な投影点の
座標である.r は光軸中心からその点までの距離で像高
1
と呼ばれ, r = [x̄2 + ȳ2 ] 2 である.係数 k1 , k2 , . . . は歪
BK (x) =
a0,0 + · · · + a0,K−1 xK−1
a1,0 + · · · + a1,K−1 xK−1
..
.



aN−1,0 + · · · + aN−1,K−1 xK−1
(q0 ≤ x ≤ q1 )
(q1 ≤ x ≤ q2 )
..
.
(qN−1 ≤ x ≤ qN )
(2)
ここで,a は各区分で曲線を構成する多項式の係数であ
る.BK (r) は K 階で (K − 1) 次の B スプライン関数であ
る.B スプライン関数 BK (r) は次式 (3) のように B スプ
ライン基底の線型結合として求められる. N−1
BK (r) =
∑ α i Bi,K
(3)
i=0
Bi,K (r) は第 i 区分の B スプライン基底,αi は第 i 区分に
対応する係数である. Bi,K (r) はドブァ・コックスの
算法により,次式 (4),(5) を用いて再帰的に計算できる.
{
1 (qi ≤ r < qi+1 )
Bi,0 (r) = 0
(r < qi , r ≥ qi+1 )
Bi,K (r) =
(4)
x − qi
qi+K − x
Bi,K−1 (r) +
Bi+1,K−1 (r)
qi+K−1 − qi
qi+K − qi+1
(5)
以上により,式 (2) の形の区分多項式を得ることができ
る. 本稿では,B スプライン関数を歪曲収差の表現に
用いた次式 (6) の B スプライン歪みモデルを用いる. [ ]
xd
yd = B̆(x̄, ȳ, α, p)
[ ]
x̄
= (1 + BK (r)) ȳ +
[
]
2p1 x̄ȳ + p2 (r2 + 2x̄2 )
(1 + p3 r2 + p4 r4 · · · ).
p1 (r2 + 2ȳ2 ) + 2p2 x̄ȳ
(6)
Table 1 Specification of Theia lens (MY125M).
画角(水平, 垂直)
F値
適合受像素子
歪曲収差
焦点距離
X 
[ ]
i
x̄
Y
i

ȳ = [R T ] 0 
1
1
[ ]
xd
yd = B̆(x̄, ȳ, α, p)
[ ′ ]
[ ]
xd
xd
y′ d =M yd
1
1
B スプライン歪みモデルのフィッティング
本稿では OpenCV2.4 に採用されている,Zhang の手
法 7) を使用した実装を利用している.使用した Brown
の多項式歪みモデルへのフィッティングは OpenCV 上
の実装を用いているので,本章では B スプライン歪みモ
デルへのフィッティングについて述べる.
3.1
B スプライン歪みモデルのパラメータ
レンズの歪みに対して B スプラインモデルをフィッ
ティングさせることを考える.B スプライン関数は節点
q と係数 α の二つのパラメータを求めることによって一
意に得られる.節点位置の最適化を行うことは難しいた
め,本稿では節点を予め決定しておき,係数 α をパラ
メータとして扱う方式をとる.
フィッティングのために比較的少数のデータが与えら
れた場合,節点の決定にあたってはシェーンバーグ・ホ
イットニの条件を参考にする.シェーンバーグ・ホイッ
トニの条件より,節点を式 (7) を満たすようにとれば,
データセットのすべての点を通るような B スプライン
関数を得ることができる.
q0 = q1 = · · · = qK−1 = r0
r j + r j+K
( j = 0, 1, . . . , N − K − 1)
q j+K =
2
qN = qN+1 = · · · = qN+K−1 = rN
[
fx
M= 0
0
0
fy
0
(10)
(11)
]
[
cx
r11
cy , R = r21
r31
1
r12
r22
r32
]
[ ]
r13
t1
r23 , T = t2
r33
t3
(12)
M はカメラ内部パラメータを含むカメラ行列で fx , fy
は x 軸,y 軸方向のスケールパラメータ,cx ,cy は光軸
中心位置である.また R,T は平面上座標系からカメラ
座標系への変換を表す回転行列と並進ベクトルである.
α, p はレンズ歪みモデルのパラメータである.
N 個の特徴点の写る L 枚の画像が得られたとき,式
(8) を用いて,式 (13) のような全画像・全特徴点につい
ての二乗誤差関数を最小化することでパラメータを推定
することができる.
L N
j
p, R j , T j )∥2
(13)
i
(7)
カメラキャリブレーションへの適用
配置が既知の特徴点が描かれた平面物体があり,特徴
[
]T
点の XY 平面上での三次元座標 Xi = Xi Yi 0 (i =
0, 1, . . . , N) がわかっているとき,それらが全て画像
中に写っていれば,特徴点検出によって対応する画像中
[
]T
(i = 0, 1, . . . , N) が得られ
の二次元座標 xi = xi yi
る.Zhang の手法では,複数のパラメータを持ち,平面
上座標から画像座標への投影計算を行う再投影関数 m̆
を導入し,反復解法によって座標のペアについてフィッ
ティングを行い,パラメータを推定する.本稿では,歪
みモデルに式 (6) の B スプライン関数を用いた,式 (8)
のような再投影関数を用いている.
[ ]
x′ i
= m̆(Xi , M, α, p, R, T )
y′ i
(9)
ここで,M ,R,T は以下の行列を表す.
∑ ∑ ∥xi − m̆(Xi, j , M, α,
一方で,カメラキャリブレーションのようにデータ数が
多い場合は上記条件にのっとると節点が多くなりすぎる
ため,他の方法で適当な節点を決める必要がある.
3.2
1.28 [mm]
この関数は微分可能であり,次のような計算を含む.
ここで,α は B スプライン関数の係数ベクトル, p は円
周方向歪みのパラメータベクトルである.
3
125, 109 [deg]
F/1.8–全閉
1/3”CCD(CMOS)
−3.0 % 以下(水平)
(8)
4 Theia レンズ MY125M の設計特性
Theia レンズシリーズは Theia Technologies LLC が取
得したレンズ設計に関する特許を基に,日東光学株式
会社との共同で開発した超広角かつ低歪を実現したカ
メラレンズである.Table 1 に本稿で扱う Theia レンズ
MY125M の特性を示す.1/3 インチ撮像素子を利用した
場合に 125 度の水平視野角を有し,歪曲収差による変位
量は水平方向で最大でも −3 [%] 以下と非常に小さい.
日東光学株式会社の厚意により,理想像高のサンプ
ル 値 と 対 応 す る 歪 曲 率 の 値 の セ ッ ト 31 組 か ら な る
MY125M の歪曲収差設計値のデータセットを入手し
た.これをもとにした Fig. 1 に MY125M の歪曲収差設
計値のグラフを示す.歪曲率が理想像高 1.5 [mm] 付近
まで増加したあと急激に減少しており,単純な二次関数
的な増減でなく複雑な変化をしていることがわかる.歪
曲収差を抑えるために複数のレンズを用いて光学的に補
正を行うため,複数レンズの歪曲収差特性の組み合わせ
により,このような特性を持つと考えられる.
2
2
0
Radial distortion [%]
Radial distortion [%]
0
-2
-4
-6
-2
-4
-6
-8
6 degree polynomial
Data points
-8
-10
0
-10
0
0.5
1
1.5
2
Ideal imaged-height [mm]
2.5
0.5
3
Fig. 1 Radial distortion design of MY125M (provided
by Nitto Kogaku K.K.) .
1
1.5
2
Ideal imaged-height [mm]
2.5
3
Fig. 2 Fitting of 6 degree polynomial model to Radial
distortion design of MY125M.
2
MY125M 歪曲収差設計値へのフィッティング
5.1
まず,本稿で比較しようとしている歪みモデルが,こ
のレンズの設計値に対してどのような残留誤差を残すか
を確認するため,Fig. 1 に示したデータセットから算出
した 31 組の理想像高–歪曲像高データセットを用いた
フィッテイング実験を行った.比較のための Brown の
歪みモデルによる多項式近似関数として式 (14),(15) の
6 次・12 次の多項式を用いたモデルを利用した.
(
)
r = 1 + k1 r2 + k2 r4 + k3 r6 r
(14)
(
)
r′ = 1 + k1 r2 + k2 r4 + k3 r6 + k4 r8 + k5 r10 + k6 r12 r
(15)
′
-2
-4
-6
-8
12 degree polynomial
Data points
-10
0
1
1.5
2
Ideal imaged-height [mm]
2.5
3
2
0
-2
-4
-6
-8
Cubic spline curve
Data points
-10
0
0.5
1
1.5
2
Ideal imaged-height [mm]
2.5
3
Fig. 4 Fitting of 3 degree (cubic) B-spline model to Radial distortion design of MY125M.
6 degree polynomial
12 degree polynomial
3 degree B-spline
4
Error of fitting [um]
式 (14) は OpenCV の標準的な実装で用いられている.
式 (15) は本稿で比較のためにより高い次数でのフィッ
ティングがどうなるかをみるために用いた.また,対照
となる B スプライン関数の階数 K は 4(区分多項式の次
数 3)とし,節点には理想像高のデータ値から式 (7) に
従って計算した 35 点を用いる.関数のフィッティング
はデータ値と二乗誤差をレーベンバーグ・マーカート法
を用いて最小化することで行った.また,フィッティン
グ結果を Fig. 2,Fig. 3,Fig. 4 に示す.フィッティング
結果の曲線は理想像高 0.1 [mm] 単位でサンプリングし
た点を描画し,その上からフィッティングに用いたデー
タセットを描画している.また Fig. 5 に各データ点にて
算出した各モデルによるフィッティング誤差を画像素子
上での値に換算したものを示す.6 次の多項式モデルで
は最大誤差が 2 [µ m] 程度であり,これは実際の画像で
は約 1/2 [pixel]∼1/4 [pixel] に相当する.OpenCV 2.4
のステレオマッチング関数においては 1/16 [pixel] 以下
の単位で視差値の計算を行うため,この誤差が視差値に
影響することが懸念される.12 次の多項式モデルでは
次数を増やした結果誤差が減少し,B スプラインモデル
では誤差がほとんどなくなっている.あくまで歪曲収差
の設計値に対するフィッティングではあるが,原理的に
B スプラインモデルがもっとも特性にフィットする能力
があることがわかる.
0.5
Fig. 3 Fitting of 12 degree polynomial model to Radial
distortion design of MY125M.
Radial distortion [%]
実験
5
Radial distortion [%]
0
2
0
-2
-4
0
0.5
1
1.5
2
2.5
3
Ideal imaged-height [mm]
Fig. 5 Error of fitting with each distortion models.
5.2 MY125M を装着したステレオカメラのキャリブ
レーション
次に,実物の MY125M を装着したステレオカメラに
ついて,前節と同様の 3 種類の歪みモデルを用いたカメ
ラキャリブレーションを行った.使用したステレオカメ
ラは基線長を 0.1 [m] とし,2 台のカメラが平行となるよ
うに固定した平行ステレオカメラである.カメラには,
1/3 インチサイズの CCD 撮像素子が採用され,ピクセル
Table 2 Final RMSE of minimization
Distortion model
6 degree polynomial
12 degree polynomial
3 degree B-spline
RMSE(left)
0.1926 [pixel]
0.1686 [pixel]
0.1665 [pixel]
RMSE(right)
0.2225 [pixel]
0.2047 [pixel]
0.2042 [pixel]
2
Fig. 6 26 images for calibration of intrinsic parameter
and lens distortion parameter of left camera.
Radial distortion [%]
0
-2
-4
-6
MY125M design
6 degree polynomial(Left)
12 degree polynomial(Left)
3 degree B-spline(Left)
-8
-10
0
0.5
1
1.5
2
Ideal imaged-height [mm]
2.5
3
Fig. 8 Obtained radial distortion curve by calibration of
left camera with MY125M.
2
Fig. 7 26 images for calibration of intrinsic parameter
and lens distortion parameter of right camera.
サイズ 4.65 [µ m] の PointGrey 製の FL2-08S2C を使用
した.レンズのフォーカスを奥行き 1.0 [m] ほど先に合
わせ,絞りを白飛びが発生しない程度に調整した.取得
画像の解像度は XGA( 1024 × 768 [pixel] ) とした.キャ
リブレーションボードとしては,チェス盤模様を印刷し
た紙をアクリル板に貼り付けたものを使用する.この
ボードのチェス盤模様のグリッド交点を特徴点とし,特
徴点の配置はグリッド幅 0.02 [m],交点数は縦横 9 × 13
である.ステレオカメラの両カメラでれぞれキャリブ
レーションボードを撮影し,Fig. 6,Fig. 7 に示すキャ
リブレーション画像セットを作成した. パラメータの
推定は 3.2 節で述べた Zhang の手法を用いて行う.比較
のため,式 (6) の B スプライン歪みモデルと,式 (16),
式 (17) に示す 6 次と 12 次の多項式歪みモデルの 3 種を
用いた場合について,同じ画像セットを用いてそれぞれ
キャリブレーションを行った.B スプラインの節点につ
いては,前節で使用したものと同じ条件を用いた.
[ ] (
)[ ]
xd
x̄
2
4
6
yd = 1 + k1 r + k2 r + k3 r
ȳ
[
]
2
2
2p1 x̄ȳ + p2 (r + 2x̄ )
+
p1 (r2 + 2ȳ2 ) + 2p2 x̄ȳ
(16)
)[ ]
[ ] (
xd
x̄
2
4
6
8
10
12
=
1
+
k
r
+
k
r
+
k
r
+
k
r
+
k
r
+
k
r
1
2
3
4
5
6
yd
ȳ
[
]
2
2
2p1 x̄ȳ + p2 (r + 2x̄ )
+
(17)
p1 (r2 + 2ȳ2 ) + 2p2 x̄ȳ
Radial distortion [%]
0
-2
-4
-6
MY125M design
6 degree polynomial(Right)
12 degree polynomial(Right)
3 degree B-spline(Right)
-8
-10
0
0.5
1
1.5
2
Ideal imaged-height [mm]
2.5
3
Fig. 9 Obtained radial distortion curve by calibration of
right camera with MY125M.
Fig. 8,Fig. 9 にキャリブレーションの結果得られた
左右カメラそれぞれの歪曲収差の特性の曲線を示す.レ
ンズの製造上の都合により歪曲収差の曲線はレンズ個
体ごとに異なることが多いが,概形は設計と同じとなる
はずであるため,参考として設計値による曲線も同時
に示している.Fig. 8,Fig. 9 では各モデルでの曲線は
似たような形をとっているが,わずかに違いが見られ
る.Table 2 に式 (13) の最小化の結果得られた最終的な
二乗誤差値の全特徴点での平均平方根誤差(Root Mean
Square Error)を示す.二乗誤差値の平均平方根である
ため,これらの値は特徴点 1 点あたりの誤差値を表す.
最終的な RMSE では,左右カメラどちらにおいても B
スプライン歪みモデルが多項式歪みモデルより小さな値
となっており,実際のキャリブレーションにおいてやや
良好なフィッティングができていることがわかる.
5.3
ステレオ視による 3 次元形状復元実験
本稿の主題は,レンズの歪みモデルの比較にあった
が,その目標には 2 眼ステレオ視がある.本節では,前
節の 3 種類の歪みモデルによりそれぞれ得られたパラ
メータを用いて,ステレオ画像に対してステレオ視処理
を行い,良好な 3 次元形状が復元できることを確認す
る.ステレオ画像の平行化を行うために,キャリブレー
ションボードを左右カメラ双方に写るように新たに撮
影した画像セット 40 組を用いて外部パラメータを求め
た.キャリブレーションボードは前節と同様のものを
使用した.歪み補正・ステレオ平行化・3 次元形状復元
を行うにあたり,復元結果の評価のためのベンチマー
ク画像を作成した.このベンチマーク画像は A3 用紙に
192 × 144 点のランダムドットパターンを印刷し,並べ
て 4.2[m] × 0.3[m] のパターンとしてものを 1 [m] 離れた
地点から撮影した画像である.ランダムドットパターン
はテクスチャ特徴が豊富であるため正しいステレオ相関
が得やすくなり,正しく 3 次元復元されれば奥行きが
1.0 [m] の地点に平面として現れるはずである.Fig. 10
に今回用いるベンチマーク画像を示す. ベンチマーク
画像に対してそれぞれの歪みモデルを用いた歪み補正・
ステレオ平行化を施し.加えてステレオ相関処理と 3 次
元復元を行った.本稿では,ステレオ相関処理に伝統的
なブロックマッチングアルゴリズムを用いた.ブロッ
クマッチングのウィンドウサイズは 33 [pixel] とした.
Fig. 11,Fig. 12,Fig. 13 に,3 次元復元を行った結果,
マッチングが得られた点群とそれらをステレオカメラの
水平面に投影した結果を示す.正面図では各モデルとも
にパターン周辺でよくマッチングが成功していること
がわかる.B スプライン歪みモデルが最もよい復元が可
能であるという予想であったが,目視では多項式モデル
と顕著な差は見られない結果となった.この原因として
考えられることは,キャリブレーションに使用した特徴
点の検出精度や数が不足している,求められた外部パラ
メータの精度が低い,パターンとカメラとの距離が近す
ぎたために違いが小さく確認しづらくなっている,など
がある.今後,より改善された条件で再度実験を行うこ
とを予定している.
5.4
Theia レンズによるステレオビジョンの一例
ステレオビジョンに Theia レンズを用いることで,広
い視野角の三次元形状を復元可能である.本節では,
筆者らの構築したステレオビジョンシステムの一例を
示す.前節までの実験で用いたものとは別に,基線長
0.3 [m] の水平ステレオカメラを構築した.ここで,新し
く構築したステレオカメラについて,歪みの補正実験で
はもっとも良かった B スプライン歪みモデルを使用し
たカメラキャリブレーションを再度行い,外部パラメー
タを求めた.Fig. 14(b),Fig. 14(a) にこのステレオカメ
ラを用いて壁に沿って配置された棚の約 2 [m] 手前に
カメラをおいて撮影したものを示す.また,Fig. 15(a),
Fig. 15(b) に,Fig. 14(b),Fig. 14(a) に歪み補正を施し
た画像を示す.なお,これらは歪み補正によって変形し
た中から内側の矩形領域を取り出したものである.これ
らの画像にさらにステレオ平行化を施し,三次元復元
を行った結果を Fig. 16(a),Fig. 16(b),Fig. 16(c) に示
す.ステレオマッチングには,前節の実験と同じブロッ
クマッチングアルゴリズムを使用した.この例では水平
方向で約 120 度の視野角に渡る三次元形状が復元され
ており,非常に広角な三次元復元が可能であることがわ
かる.
6 結言
本稿では,Theia レンズ MY125M のように複合的な
歪曲収差特性を持つレンズで精度よくステレオ視を行う
ことを動機として,歪曲収差の表現に 6 次,12 次の多
項式モデル,および B スプライン関数を使用した歪曲収
差モデルを用いてキャリブレーションを行い比較を行っ
た.実験として MY125M の歪曲収差設計値に対しての
フィッティングや MY125M の実物を用いたカメラキャ
リブレーションを行い,B スプライン歪みモデルではよ
り良好な結果が得られることを示した.しかし,ステレ
オカメラに Theia レンズ MY125M を装着することで広
角な視野の三次元復元が可能であることは確認できたも
のの,三次元復元実験では OpenCV 標準の実装の多項式
モデルとあまり差が見られない結果となった.よって,
実験条件を改善した上で再度実験を行い,より明確な有
効性を示すことができるかを吟味することが今後の課題
である.
謝辞
本研究の一部は,資源エネルギー庁からの委託事業と
してIRIDが受託しその組合員である三菱重工が実施
した「平成 25 年度補正予算廃炉・汚染水対策事業費補
助金事業」により行われた.
参考文献
1) 超広角固定焦点高解像度レンズ(興和光学株式会社). http:
//www.kowa.co.jp/opto/products/wide_megapixel.htm
2) Theia レンズ (日東光学株式会社).
http://www.nittohkogaku.co.jp/zoom/theia/
3) 河西 元, 原 祥尭, 坪内 孝司, 大矢 晃久: “超広角低歪なレンズの高
次多項式モデルを用いたカメラキャリブレーション”, ロボティク
ス・メカトロニクス講演会予稿集, 2014.
4) Takashi Tsubouchi, Hajime Kawanishi, Yoshitaka Hara, and Akihisa
Ohya: “Calibration of a Binocular Stereo Camera with Super-WideAngle and Low-Distortion Lenses”, Int. Conf. on Maintenance Science and Technology (ICMST), 2014.
5) 河西 元, 原 祥尭, 坪内 孝司, 大矢 晃久: “超広角低歪なレンズを用
いたステレオ視のためのキャリブレーション”, 第 20 回ロボティ
クスシンポジア予稿集, 2015.
6) OpenCV.
http://opencv.org/
7) Zhengyou Zhang: “A Flexible New Technique for Camera Calibration”, IEEE Trans. on PAMI, vol. 22, no. 11, pp. 1330–1334, 2000.
8) Duane C. Brown: “Decentering Distortion of Lenses”, Photogrammetric Engineering, vol. 32, no. 3, pp. 444–462, 1966.
9) Sandrine Remy, Michel Dhome, Nadine Daucher, and Jean-Thierry
Lapreste: “Estimating the Radial Distortion of an Optical System;
Effect on a Localization Process”, Proc. of IEEE Int. Conf. on Image
Processing (ICIP), 1994.
10) Jie-Shou Lu, Chih-Li Huo, Yu-Hsiang Yu, and Tsung-Ying Sun: “A
Novel Calibration Method Based on Heuristic B-spline Model for
Fish-eye Lenses”, Proc. of IEEE Int. Conf. on System Science and
Engineering (ICSSE), 2013.
(a) Left image
(b) Right image
Fig. 10 Benchmark images for the experiment of 3D reconstruction.
(a) 3D points (orthogonal projection)
(b) Projected to horizontal plane
Fig. 11 3D reconstruction with 6 degree polynomial distortion model.
(a) 3D points (orthogonal projection)
(b) Projected to horizontal plane
Fig. 12 3D reconstruction with 12 degree polynomial distortion model.
(a) 3D points (orthogonal projection)
(b) Projected to horizontal plane
Fig. 13 3D reconstruction with 3 degree B-spline distortion model.
(a) Left image
(b) Right image
Fig. 14 The images for our example of 3D reconstruction.
(a) Left image
(b) Right image
Fig. 15 The undistorted images.
(a) Front view
(b) Birds eye’s view
Fig. 16 Our example of 3D reconstruction with Theia lens.
(c) Top view