TOP > 国内特許検索 > 焦点ぼけ構造を用いたイメージング装置及びイメージング方法 > 明細書

明細書 :焦点ぼけ構造を用いたイメージング装置及びイメージング方法

発行国 日本国特許庁(JP)
公報種別 特許公報(B2)
特許番号 特許第4437228号 (P4437228)
公開番号 特開2007-128009 (P2007-128009A)
登録日 平成22年1月15日(2010.1.15)
発行日 平成22年3月24日(2010.3.24)
公開日 平成19年5月24日(2007.5.24)
発明の名称または考案の名称 焦点ぼけ構造を用いたイメージング装置及びイメージング方法
国際特許分類 G06T   1/00        (2006.01)
FI G06T 1/00 A
請求項の数または発明の数 5
全頁数 25
出願番号 特願2005-322870 (P2005-322870)
出願日 平成17年11月7日(2005.11.7)
新規性喪失の例外の表示 特許法第30条第1項適用 Lecture Notes in Computer Science,Vol.3767,pp.303-314,2005年10月発行,にて発表
審査請求日 平成17年12月8日(2005.12.8)
特許権者または実用新案権者 【識別番号】504202472
【氏名又は名称】大学共同利用機関法人情報・システム研究機構
発明者または考案者 【氏名】児玉 和也
個別代理人の代理人 【識別番号】100097320、【弁理士】、【氏名又は名称】宮川 貞二
【識別番号】100100398、【弁理士】、【氏名又は名称】柴田 茂夫
【識別番号】100096611、【弁理士】、【氏名又は名称】宮川 清
【識別番号】100098040、【弁理士】、【氏名又は名称】松村 博之
【識別番号】100123892、【弁理士】、【氏名又は名称】内藤 忠雄
【識別番号】100131820、【弁理士】、【氏名又は名称】金井 俊幸
【識別番号】100134278、【弁理士】、【氏名又は名称】吉村 裕子
審査官 【審査官】田中 幸雄
参考文献・文献 児玉和也,多数の焦点合わせ画像群の統合的変換処理に基づく画像生成の検討,映像メディア処理シンポジウム 第8回シンポジウム資料,日本,2003年11月14日,73-74頁
児玉和也ほか,複数の異なる焦点画像からの多様な映像生成,映像情報メディア学会誌,日本,社団法人映像情報メディア学会,2000年 3月20日,第54巻 第3号,426-430頁
調査した分野 G06T 1/00
特許請求の範囲 【請求項1】
撮影対象に関して焦点又は視点を変更して撮影された撮影画像群であって、各撮影画像間の焦点ぼけが3次元以上のぼけフィルタにより関連付けられる焦点ぼけ構造を持つ撮影画像群を、一まとまりの画像群として統合し及びフーリエ変換して統合的フーリエ変換撮影画像を形成するフーリエ変換・統合手段と;
前記統合的フーリエ変換撮影画像から任意の視点、絞り、焦点合わせに対応する3次元以上のぼけフィルタを用いてフィルタ処理を行い、前記任意の視点、絞り、焦点合わせに対応する周波数成分を抽出して選択的フーリエ変換画像を形成する周波数成分抽出手段と;
前記選択的フーリエ変換画像を逆フーリエ変換及び切出して、前記任意の視点、絞り、焦点合わせに相当する前記撮影対象に関する視覚イメージ画像を生成する逆フーリエ変換・切出手段とを備え
前記撮影画像群は、撮像空間を表す直交座標系において、光軸方向に等間隔な焦点合わせの異なる複数の撮影画像からなり;
前記フィルタ処理における視点、絞りはレンズ中心のピンホールと異なる視点、絞りを含み、前記フィルタ処理に用いるフィルタは前記視点、絞りを通る光束に対応する;
焦点ぼけ構造を用いるイメージング装置。
【請求項2】
前記撮影画像群は、実空間座標(x、y、z)を直交座標(X=fx/z,Y=fy/z,Z=1-f/z、fは焦点距離)に変換した前記撮像空間において、前記光軸方向であるZ方向に焦点合わせの異なる複数の撮影画像からなる;
請求項1に記載の焦点ぼけ構造を用いるイメージング装置。
【請求項3】
コンピュータにより実行される方法であって;
撮影対象に関して焦点又は視点を変更して撮影された撮影画像群であって、各撮影画像間の焦点ぼけが3次元以上のぼけフィルタにより関連付けられる焦点ぼけ構造を持つ撮影画像群を取得する画像群取得工程と;
前記画像群取得工程で取得した撮影画像群を、一まとまりの画像群として統合し及びフーリエ変換して統合的フーリエ変換撮影画像を形成するフーリエ変換・統合工程と;
前記統合的フーリエ変換撮影画像から任意の視点、絞り、焦点合わせに対応する3次元以上のぼけフィルタを用いてフィルタ処理を行い、前記任意の視点、絞り、焦点合わせに対応する周波数成分を抽出して選択的フーリエ変換画像を形成する周波数成分抽出工程と;
前記選択的フーリエ変換画像を逆フーリエ変換及び切出して、前記任意の視点、絞り、焦点合わせに相当する前記撮影対象に関する視覚イメージ画像を生成する逆フーリエ変換・切出工程とを備え
前記撮影画像群は、撮像空間を表す直交座標系において、光軸方向に等間隔な焦点合わせの異なる複数の撮影画像からなり;
前記フィルタ処理における視点、絞りはレンズ中心のピンホールと異なる視点、絞りを含み、前記フィルタ処理に用いるフィルタは前記視点、絞りを通る光束に対応する;
焦点ぼけ構造を用いるイメージング方法。
【請求項4】
前記撮影画像群は、実空間座標(x、y、z)を直交座標(X=fx/z,Y=fy/z,Z=1-f/z、fは焦点距離)に変換した前記撮像空間において、前記光軸方向であるZ方向に焦点合わせの異なる複数の撮影画像からなる;
請求項3に記載の焦点ぼけ構造を用いるイメージング方法。
【請求項5】
請求項3又は請求項4に記載の焦点ぼけ構造を用いるイメージング方法をコンピュータに実行させるためのプログラム。
発明の詳細な説明 【技術分野】
【0001】
本発明はイメージング装置及びイメージング方法に関する。詳しくは、撮影対象に関する焦点ぼけ構造を持つ画像群から任意の視点、絞り、焦点合わせに相当する視覚イメージ画像を生成するイメージング装置及びイメージング方法に関する。
【背景技術】
【0002】
コンピュータ利用のX線断層撮影の基本手法では、平行X線を人体の周囲に360度回転させて撮影する。これにより、一連の画像中にあらゆる角度からみた情報が蓄積され、これらの情報を基に、任意の方向から見た、複数層の人体断層写真を得ることができる。このように平行透過光を用いて対象物の周囲から撮影すれば、任意の方向から見た任意の断層の合焦点画像を生成できる。
これに対して、物体を透過しないしかも非平行な可視光を用いるカメラによる撮影画像の場合は如何であろうか。
【0003】
カメラによる撮影画像については、ライトフィールドレンダリング(Light Field Rendering)による画像生成法が知られている。例えば撮影対象を、カメラを2次元平面にアレイ状に並べて、異なる視点から撮影し、2次元×2次元の撮影画像データを取得する。これらのデータに基づいてコンピュータ演算し、カメラ側の任意の視点及び視線方向から見た透視画像を生成できる。
【0004】
また、発明者は、カメラの撮像面を移動して焦点合わせの異なる撮影画像群を取得し、これに基づいてコンピュータ演算により画像を生成するマルチフォーカスイメージング(Multi Focus Imaging:MFI)を用いて、全焦点画像を生成している。(非特許文献1参照)
【0005】
また、発明者達は焦点合わせの異なる複数の撮影画像と生成画像とを、ぼけ関数による畳み込みを表す定数を含む恒等式で関係付け、焦点合わせの異なる撮影画像から任意の焦点合わせ画像を生成する方法を提案している。また、相澤達は焦点合わせの異なる複数の撮影画像と生成画像とを、ぼけパラメータを含むフィルタ関数を用いて関係付け、焦点合わせの異なる撮影画像から任意の焦点合わせ画像を生成する方法を提案している。(特許文献1,2参照)
【0006】
図17にスタンフォード大学で提案されたプレノプティックカメラ(Plenoptic Camera)で撮影された焦点合わせの異なる複数(図17では5枚)の画像を示す。
図18は、プレノプティックカメラについて説明するための図である。2次元空間を例えば4×4の領域に分割してレンズアレイ等を配して多眼カメラのように機能させ(4×4の異なる視点から対象物を見ることと等価である)ている。いわば2次元空間にさらに2次元空間を形成することにより、コンピュータ上で4次元空間が実現されているといえる。したがって、これから3次元のMFI画像をコンピュータ演算により作成することが可能である。すなわち、図17に示すような焦点合わせが異なる画像を生成することが可能である。(非特許文献2参照)
【0007】

【特許文献1】特開1999-295826号公報(段落0018~0033、図1)
【特許文献2】特開2001-223874号公報(段落0023~0097、図1~13)
【非特許文献1】多数の焦点合わせ画像群の統合的変換処理に基づく画像生成の検討、児玉和也、映像メディア処理シンポジウム第8回シンポジウム資料、p73~74、2003年11月12日~14日
【非特許文献2】Light Field Photography with aHand-Held Plenoptic Camera Ren Ng(Stanford Univ.)等 [online]、2005年4月[2005年8月24日検索]、インターネット <URL:http://graphics.stanford.edu/papers/lfcamera>
【発明の開示】
【発明が解決しようとする課題】
【0008】
しかしながら、MFIによる方法では未だ任意の視点、絞り、焦点合わせに相当する視覚イメージ画像を生成できておらず、焦点合わせの異なる複数の撮影画像と生成画像とを、恒等式またはフィルタ関数を用いて関係付ける方法は、いずれも撮影画像と生成画像とを2次元情報として直接関連付け、連立方程式の解を求めるものであるが、対象の多様な3次元情報を完全に反映した恒等式またはフィルタ関数が具体的に定義されておらず、その場合の完全解を得る方法も示されていない。また、プレノプティックカメラを用いて焦点合わせの異なる複数の視覚イメージ画像が得られているが、4次元情報から視覚イメージを得ており、情報量が過多であるために処理量が多いという問題があった。また、1台のカメラで撮影面を複数に分割して使用するために、解像度が悪いという問題があった。
【0009】
本発明は、撮影対象に関する焦点ぼけ構造を持つ撮影画像群から任意の視点、絞り、焦点合わせに相当する視覚イメージ画像を生成できる、新規なイメージング装置及びイメージング方法を提供することを目的とする。
また、3次元情報から視覚イメージ画像を得て処理量を少なくすること、解像度を向上することを目的とする。
【課題を解決するための手段】
【0010】
本発明は、焦点ぼけ構造を持つ画像群から任意の視点及び視線方向、絞り、焦点合わせに相当する視覚イメージ画像を生成するものである。これは、前述のライトフィールドレンダリング(LFR)とマルチフォーカスイメージング(MFI)とを結びつけることにより、実現できたものである。すなわち、MFIにおける多焦点画像群の視線の方向から、LFRを用いて視線方向を変更し、任意の視点+視線方向からの画像に変換している。
【0011】
上記問題を解決するために、本発明の第1の態様に係る焦点ぼけ構造を用いるイメージング装置1は、例えば図10に示すように、撮影対象Qに関する焦点ぼけ構造を持つ撮影画像群g(X,Y)を統合及びフーリエ変換して統合的フーリエ変換撮影画像G(u,v,w)を形成するフーリエ変換・統合手段3と、統合的フーリエ変換撮影画像G(u,v,w)から焦点ぼけに係る3次元以上のフィルタ処理を用いて任意の視点、絞り、焦点合わせに対応する周波数成分を抽出して選択的フーリエ変換画像A(u,v,w)を形成する周波数成分抽出手段5と、選択的フーリエ変換画像A(u,v,w)を逆フーリエ変換及び切出して、任意の視点、絞り、焦点合わせに相当する撮影対象Qに関する視覚イメージ画像a(X,Y)を生成する逆フーリエ変換・切出手段6とを備える。
【0012】
ここにおいて、撮影画像群が焦点ぼけ構造を持つとは、撮影画像群が焦点合わせ、視点等を変更して体系的に撮影され、その撮影画像を統合することにより、ぼけの状態が統合画像の各位置においてほとんど変化しないことをいう。また撮影画像群の変化は焦点合わせのみ、視点のみに限られず、両者共変化しても良い。また、焦点ぼけに係るフィルタとは、複数の実空間平面に焦点が合うようにして撮影した場合の、複数の撮像面で得られる焦点ぼけの程度を表すフィルタをいう。また、フィルタ処理は、明細書内で(式2)、(式3)で具体的に示されるが、このようなガウス分布に基づく関数に限られるものではなく、例えば視点を変化させる場合、魚眼レンズ、レンチキュラレンズを用いる場合等には、円柱型、階段状円柱型、これらの変形等の異なる関数となり得る。また、視覚イメージ画像とは、コンピュータ演算により生成される、視覚で感知可能な画像をいい、静止画像だけでなく、動画像、彩色画像も含まれる。
【0013】
このように構成すると、対象物に関する焦点ぼけ構造を持つ撮影画像群から任意の視点、絞り、焦点合わせに相当する視覚イメージ画像を生成する新規なイメージング装置を提供できる。また、3次元情報から視覚イメージを得て処理量を少なくでき、解像度を向上できる。
【0014】
また、本発明の第2の態様は、第1の態様に係る焦点ぼけ構造を用いるイメージング装置において、焦点ぼけ構造を持つ撮影画像群g(X,Y)を、焦点を異にして撮影した画像群又は視点を変えて撮影した画像群から構成する。このように構成すると、焦点ぼけ構造を持つ画像群を確実かつ容易に得ることができる。
【0015】
上記問題を解決するために、本発明の第3の態様に係る焦点ぼけ構造を用いるイメージング方法は、例えば図11に示すように、撮影対象Qに関する焦点ぼけ構造を持つ撮影画像群g(X,Y)を取得する画像群取得工程(S001)と、画像群取得工程で取得した撮影画像群g(X,Y)を統合及びフーリエ変換して統合的フーリエ変換撮影画像G(u,v,w)を形成するフーリエ変換・統合工程(S003)と、統合的フーリエ変換撮影画像G(u,v,w)から焦点ぼけに係る3次元以上のフィルタ処理を用いて任意の視点、絞り、焦点合わせに対応する周波数成分を抽出して選択的フーリエ変換画像A(u,v,w)を形成する周波数成分抽出工程(S004)と、選択的フーリエ変換画像A(u,v,w)を逆フーリエ変換及び切出して、任意の視点、絞り、焦点合わせに相当する撮影対象Qに関する視覚イメージ画像a(X,Y)を生成する逆フーリエ変換・切出工程(S005)とを備える。
【0016】
このように構成すると、撮影対象に関する焦点ぼけ構造を持つ撮影画像群から任意の視点、絞り、焦点合わせに相当する視覚イメージ画像を生成する新規なイメージング方法を提供できる。また、3次元情報から視覚イメージを得て処理量を少なくでき、解像度を向上できる。
【0017】
また、本発明の第4の態様は、第3の態様に係る焦点ぼけ構造を用いるイメージング方法において、焦点ぼけ構造を持つ撮影画像群g(X,Y)を、焦点を異にして撮影した画像群又は視点を変えて撮影した画像群から構成する。このように構成すると、焦点ぼけ構造を持つ画像群を確実かつ容易に得ることができる。
【0018】
また、本発明の第5の態様は、第3の態様又は第4の態様に係る焦点ぼけ構造を用いるイメージング方法をコンピュータに実行させるためのプログラムの発明である。
【発明の効果】
【0019】
本発明によれば、撮影対象に関する焦点ぼけ構造を持つ撮影画像群から任意の視点、絞り、焦点合わせに相当する視覚イメージ画像を生成できる、新規なイメージング装置及びイメージング方法を提供できる。
また、3次元情報から視覚イメージ画像を得て処理量を少なくでき、解像度を向上できる。
【発明を実施するための最良の形態】
【0020】
[第1の実施の形態]
本実施の形態では、焦点合わせを変えて撮影した画像群から、焦点ぼけに係る3次元のフィルタ処理を用いてレンダリングすることにより、任意の視点、絞り、焦点合わせに相当する画像を作成する例を説明する。
まず、発明の原理について説明する。
【0021】
図1は透視座標と直交座標との関係を説明するための図である。実空間は本来透視座標系で表されるが、本発明の大半の処理は変換を適用した直交座標系で表される。図1(a)は実空間を表すもので、カメラの絞りをピンホールと仮定し、実空間におけるカメラからの視線を矢印で示す。図1(b)は座標変換後の空間を表す。実空間ではカメラのピンホールを原点O(0,0,0)とし、座標変換後の空間ではカメラの光軸上の焦点距離の位置を原点O(0,0,0)とする(本明細書中ではここを除きOは透視座標系の原点を示し、図面中では透視座標系及び直交座標系の原点を示す)。透視座標で左右方向をx、上下方向をy、前後方向をz(前方を+)とし、直交座標で左右方向をX、上下方向をY、前後方向をZ(前方を+)とする。透視座標系の座標は(x,y,z)で、直交座標系の座標は(X,Y,Z)で表す。
【0022】
カメラから座標(p,q,f)(fは焦点距離)を見た視線は、実空間では直線(x,y)=(z/f)*(p,q)(x=(z/f)*p、y=(z/f)*qと2つの式をまとめて示したもので、以下もこのような表現を用いる。*は乗算演算子である。)で表され、座標変換後の空間では、(X,Y)=(p,q)で、±Z方向に延びる直線に対応し、(p、q)一点として撮影される。すなわち、直交座標系では無限遠を見る視線は±Z方向に延びる平行線となる。また、Q1,Q2は撮影対象であり、実空間では同じ寸法でも、カメラに近い方が大きく表される。カメラの光軸方向については、透視座標系でカメラから距離f,Nf/(N-1),…,Nf/i,…,Nf/2,Nf,∞にあるxy平面上の撮影対象は、直交座標系では0,1/N,2/N,…,(N-i)/N,…,(N-2)/N,(N-1)/N,1と、原点からZ方向に等間隔に配置されたXY平面上に変換される。透視座標系と直交座標系とで、(X,Y)=(f/z)*(x,y)、Z=(1-f/z)と座標変換される。
【0023】
図2は図1のカメラのピンホールをレンズに置換した場合の透視座標と直交座標との関係を示す。図2(a)は実空間(透視座標系)を、図2(b)は座標変換後の空間(直交座標系)を表す。レンズ上の原点から見た視線の他に、点(s,t,0)から見た視線も示す。また、(a)では情景(Scene)側(+z側)と共に像(Image)側(-z側)の光線も併せて示す。図2(a)の透視座標系において、原点O(0,0,0)から見た視線に比して点(s,t,0)から見た視線は+z側で(s、t,0)だけ平行移動する。原点O(0,0,0)及び(p,q,f)を通る光線とこれに平行な点(s,t,0)及び(p+s,q+t,f)を通る光線は焦点距離-fの平面で一致するので、点(s,t,0)及び(p+s,q+t,f)を通る光線は、+側で、(x,y)=(z/f)*(p,q)+(s,t)で表わされ、-側で、(x,y)=(z/f)*(p+s,q+t)+(s,t)で表わされる。透視座標系と直交座標系とで、z≧fでは、(X,Y)=(f/z)*(x,y)、Z=(1-f/z)、z≦-fでは、(X,Y)=(f/z)*(x,y)、Z=-f/zと座標変換される。
【0024】
図2(b)の直交座標系において、視点が原点O(0,0,0)にある場合と(s,t,0)にある場合で無限遠を見る視線はz=∞で一致するので、視点(s,t,0)から点(p+s,q+t,f)を見た視線は、直線

(X,Y)=(p,q)+(1-Z)*(s,t)・・・(式1)

で表わされる。また、透視座標系における平行光束は、原点O(0,0,0)から半径r(いま点(s,t,0)はこの円周上にあるものとする)のレンズを通して、焦点距離-fの平面の焦点に集光する。この平行光束は、直交座標系において、(X,Y)=(p,q)であるZ方向に延びる直線を軸とし、(式1)の直線をこの軸の周りに回転した円錐の内部で表される。
【0025】
レンズを使用することは、光束の情報を含むことになる。そして、撮像空間においてz値の異なる多数の面があり、ある面に焦点を合わせると、他の面では焦点ぼけが発生することとなるが、ぼけ情報は光束情報を含むものであり、この光束情報に含まれる実空間の情報を抽出できる可能性がある。
【0026】
図3に直交座標系において、無限遠からの光とZ方向に並ぶ平面群との関係を示す。図3はMFI(マルチフォーカスイメージング)モデルで表現したものである。図3は+側(Scene側)と-側(Image側)両方の図を兼ねている。図において、Z方向に並ぶ複数(N+1層)のXY平面は、直交座標系では、Z=0,1/N,2/N,…,(N-i)/N,…,(N-2)/N,(N-1)/N,1の位置にある。透視座標系では、+側でz=f,Nf/(N-1),…,Nf/i,…,Nf/2,Nf,∞の位置に対応し、-側でz=-∞,-Nf,-Nf/2,…,-Nf/i,…,-Nf/(N-1),-fの位置に対応する。+側で無限遠からの光束が矢印間の斜線部分と見ることができ、-側でレンズ透過後の光束が矢印間の斜線部分と見ることができる。
【0027】
無限遠からの平行光束は原点Oを中心とする半径r(点(s,t,0)はこの円周上にあるものとする)のレンズを通過する。この光束は、直交座標系で図3に示すように、点(p,q)と無限遠(Z=1)を結ぶ線を中心軸とし、底面(Z=0)で半径r(点(p+s,q+t)はこの円周上にある)の円を有する円錐の内部で表される。この平行光束はレンズを通過後、焦点距離-fの平面(Z=1)の焦点に集光し、その後、次第に広がりZ=0(z=-∞に対応する)の平面では、底面(Z=0)で点(p、q)を中心とする半径r(点(p+s,q+t)はこの円周上にあるものとする)の円となる。すなわち、この光束は点(p、q)と焦点(Z=1)を結ぶ線を中心軸とし、底面(Z=0)で半径rの円を有する円錐の内部で表される。したがって、Z方向に並んだXY平面群は、+側(Scene側)において、無限遠からの平行光束と円で交わり、その円の中に平行光束の情報を有し、また、-側(Image側)において焦点(-f)通過後に平行光束と円で交わり、これらの面を撮像面とする撮影画像はこの円の中に平行光束の情報を有している。
【0028】
このように無限遠からの平行光は焦点に集光するが、実空間、透視座標系でz=Nf,Nf/2,…,Nf/i,…,Nf/(N-1),fのxy平面に物体(撮影対象)がある場合は、物体からの反射光が発生し、それぞれ、撮像空間、直交座標系でZ=(N-1)/N,(N-2)/N,…,(N-i)/N,…,2/N,1/N,のXY平面に結像する。これらの場合には、物体からの反射光による光束は、Z=(N-1)/N,(N-2)/N,…,(N-i)/N,…,2/N,1/N,0の平面を頂点とする+-両側に広がる円錐で表される。したがって、+側(実空間側)において各XY平面は物体からの反射光と円で交わり、その円の中に物体(撮影対象)の情報を有している。また、-側(撮像空間側)において各XY平面はレンズ透過光と円で交わり、これらの面を撮像面とする撮影画像はこの円の中に物体(撮影対象)の情報を有している。ここに、実空間でn層目のXY平面の情報(明るさ)をf(X,Y,Z)=f(X,Y)、n層目のXY平面に焦点を合わせて撮影された画像、即ち,撮像空間でn層目のXY平面で得られる取得画像をg(X,Y,Z)=g(X,Y)とする。なお、Z=n/Nである。
【0029】
MFIモデルでは、レンズを通る全ての光線が使用されるので、円錐の内側で光束は連続的であり、円錐内の全ての情報を含んでいる。これにより、焦点の異なるN枚の取得画像g(X,Y)に基づいて、レンダリングにより任意の視点、絞り、焦点合わせに相当する視覚イメージ画像を生成できる。
【0030】
図4に、3次元ぼけフィルタを介した実空間情報(+z側)(Scene)と撮影画像(-z側)(Image)群との関係を示す。図4(a)は撮影対象を含む実空間情報、撮影画像、3次元ぼけフィルタの関係を模式的に示し、図4(b)は3次元ぼけフィルタの概念を模式的に示す。実空間情報f(X,Y,Z)と撮影画像群g(X,Y)を統合した統合的撮影画像g(X,Y,Z)とはフィルタh(X,Y,Z)により関係付けられる。すなわち、実空間情報f(X,Y,Z)にフィルタh(X,Y,Z)を作用することにより、統合的撮影画像g(X,Y,Z)を得る。撮像画像群g(X,Y,Z)=g(X,Y)は焦点合わせを変化させて、すなわち撮像面を変えて撮影した画像群であり、焦点が合う平面上の物体は明瞭な画像として、焦点が合わない平面上の物体は焦点ぼけした不明瞭な画像として撮影される。そして、撮像画像群g(X,Y)を統合したものが統合的撮影画像g(X,Y,Z)といえる。フィルタは、各XY平面上(1=<n=<N)で焦点が合うように撮影した場合の、各XY撮像面(1=<n=<N)で得られる焦点ぼけの程度を表すフィルタである。模式的には、焦点が合う平面を頂点とする+-両側に広がる円錐で表される。すなわち、図4(b)に示すように焦点に近いほどXY平面と交わる円は小さく、ぼけの程度が低く、焦点から遠いほどXY平面と交わる円は大きく、ぼけの程度も大きくなる。
【0031】
幾何光学において、焦点合わせの異なる複数の撮影面を関連付けるぼけ行列は
【数1】
JP0004437228B2_000002t.gif

と表現される。このぼけ行列を畳み込み演算のフィルタとして表現すると、
【数2】
JP0004437228B2_000003t.gif
と表される。
これを周波数領域で表すと、
【数3】
JP0004437228B2_000004t.gif
と表される。
【0032】
図5は実空間情報(Scene)f(X,Y,Z)、撮影画像(Image)群g(X,Y,Z)、フィルタh(X,Y,Z)の関係を模式的に示す。図5(a)はMFIモデルを示す。3次元形状を有する(ここでは形状がX,Z方向に変化し、Y方向に一様である)物体(撮影対象)Qを太線で示し、Z方向に並ぶ各XY平面に焦点を合わせて撮影した場合の光線の状況を示す。図5(a)において、焦点は観察方向を表わす光線の交点で示され、光線は光束内で連続的である。光線の広がりは撮影画像群g(X,Y,Z)のぼけの程度を表している。f(X,Y,Z)=0の何もない領域もぼけているとみなせる。
【0033】
図5(b)は実空間情報f(X,Y,Z)と撮影画像群g(X,Y,Z)とをフィルタh(X,Y,Z)で結合する過程を示す。すなわち、焦点が合った撮像面では明瞭な画像が得られるが、焦点が合わない撮像面ではぼけを含む画像が得られる。フィルタh(X,Y,Z)はこのような変換フィルタの機能を有している。
【0034】
次に、3次元ぼけフィルタh(X,Y,Z)の性質を考える。実空間情報f(X,Y,Z)に対応する撮影画像群g(X,Y,Z)を考える。例えば実空間f(X,Y,Z)を1つの方向から観察した場合、視線に直交しかつ焦点が合う撮像面で明瞭に観察でき、焦点が合わない面ではぼけて観察される。これは、例えばn=1~5の各撮像面に適用される。このようなフィルタがh(X,Y,Z)である。
【0035】
この関係はフーリエ空間でも適用される。実空間情報f(X,Y,Z)に対応するフーリエ空間をF(u,v、w)、撮影画像群g(X,Y,Z)に対応するフーリエ空間での統合的フーリエ変換撮影画像をG(u,v、w)、フィルタh(X,Y,Z)に対応するフーリエ空間でのフィルタをH(u,v、w)とする。フーリエ空間ではフィルタH(u,v、w)は(式3)で表され、良好に観察できる周波数領域を抽出する。また、後述するように、フーリエ空間では周波数成分で表現することにより、統合的撮像空間g(X,Y,Z)に基づいて、特定の周波数成分を抽出し、コンピュータ演算することにより、任意の視点、焦点合わせ、絞りの画像を生成できる。
【0036】
フーリエ変換画像F(u,v、w)は実空間情報f(X,Y,Z)のフーリエ変換画像である。また、統合的フーリエ変換撮影画像G(u,v,w)は各層の撮影画像群g(X,Y)をコンピュータ演算等により統合処理しフーリエ変換したものである。
【0037】
図6は3次元ぼけフィルタの周波数特性例を示す。図6(a)は実空間情報のフーリエ変換画像F(u,v,w)に3次元ぼけフィルタH(u,v,w)をかけて統合的フーリエ変換撮影画像G(u,v,w)が抽出される過程を示す。フィルタH(u,v,w)は(式3)で表されるものである。このフィルタは、MFIモデルでは、光束に垂直な平面群に係る周波数成分を抽出するものである。図6(b)はレンズのぼけがガウス分布となっている場合のフィルタH(u,v,w)の例である。原点O(0,0,0)ではデルタ関数で抽出され、uv平面上ではH(u,v,w)≠0なので抽出されるが、w軸上では原点を除いてH(u,v,w)=0なので抽出されない。図6(c)はピンホールカメラの場合のフィルタH(u,v,w)の例で、uv平面上のみ抽出される。
【0038】
図7は、原点O(0,0,0)(以下(0,0)と省略して示す。)から(s,t,0)(以下(s,t)と省略して示す。)ずれた位置から半径rのアイリスを有する仮想カメラで撮影した場合を説明するための図である。図7(a)は実空間像f(X,Y,Z)から撮像空間における焦点合わせの異なる視覚イメージ画像群a(X,Y,Z)=a(X,Y)を得るもので、フィルタh(X,Y,Z;r,s,t)は、図7(a)のようにレンズを通る光束が傾斜した円錐領域を通るものに対応する。なお、これらの視覚イメージ画像群を統合したものが選択的生成画像a(X,Y,Z)である。図7(b)はフーリエ変換画像F(u,v,w)から特定の周波数成分を抽出した選択的フーリエ変換画像A(u,v,w)を得るもので、これに対応するフーリエ空間のフィルタは、図7(b)のように傾斜した平面群に係る周波数領域を抽出するフィルタH(u,v,w;r,s,t)となる。このように、原点O(0,0)からずれた位置(s,t)から半径rのアイリス(絞り)を有する仮想カメラで撮影した場合においても、フィルタを用いて、特定の周波数成分を抽出して選択的フーリエ変換画像A(u,v,w)を取得可能であり、選択的フーリエ変換画像A(u,v,w)をさらにフーリエ逆変換すれば選択的生成画像a(X,Y,Z)を生成でき、これを任意のXY面で切り出すことにより、任意の視点、絞り、焦点合わせに相当する視覚イメージ画像a(X,Y)=a(X,Y,Z)を生成可能であるといえる。
【0039】
ここにおいて、仮想カメラで視点(s,t)からアイリスrで撮影した場合の3次元ぼけフィルタは(式4)で表され、周波数空間では(式5)で表される。
【数4】
JP0004437228B2_000005t.gif

【0040】
図8は、フーリエ空間における、撮影で取得される撮影画像G(u,v,w)とコンピュータ演算により生成される生成画像(選択的フーリエ変換画像)A(u,v,w)間の関係を示す。実空間情報f(X,Y,Z)のフーリエ変換画像をF(u,v,w)、半径rのアイリスを用いて、原点から撮影したときの撮影画像をG(u,v,w)、そのときのフィルタをH(u,v,w)、原点(0,0)からずれた位置(s,t)から半径rのアイリスを有するカメラで撮影したと仮定してコンピュータ演算により生成される選択的フーリエ変換画像をA(u,v,w)、そのときのフィルタをH(u,v,w;r,s,t)とすると、

G(u,v,w)=H(u,v,w)F(u,v,w) ・・・(式6)
A(u,v,w)=H(u,v,w;r,s,t)F(u,v,w)・・・(式7)

が成立する。
【0041】
これにより周波数領域における、撮影画像G(u,v,w)と選択的フーリエ変換画像(視覚イメージ画像をフーリエ変換したもの)A(u,v,w)の関係は、

A(u,v,w)=H(u,v,w;r,s,t)H(u,v,w)-1G(u,v,w)・・・(式8)

となる。このことは、MFIで取得された画像から、任意の視点、絞り、焦点合わせに相当する選択的生成画像a(X,Y,Z)を生成可能なことを意味する。
【0042】
図9は、視覚イメージ画像が生成可能な場合の条件を示す。これは取得した複数枚の撮影画像群g(X,Y)の情報中に生成される視覚イメージ画像a(X,Y)の情報が存在する場合に生成可能ということである。すなわち、取得した撮影画像に係る3次元ぼけフィルタがH(u,v,w)=0となる領域に、生成される画像の3次元ぼけフィルタでH(u,v,w;r,s,t)≠0となる領域が存在すれば、H(u,v,w;r,s,t)H(u,v,w)-1が定まらず、イメージ画像を得ることができない。また、H(u,v,w)≠0となる領域にのみ、H(u,v,w;r,s,t)≠0となる領域が存在すれば、すべての領域でH(u,v,w;r,s,t)H(u,v,w)-1が定まり、視覚イメージ画像a(X,Y)の生成が可能である。
【0043】
図10に本実施の形態におけるイメージング装置の構成例を示す。
図10において、Qは撮影対象である。1はイメージング装置であり、演算処理、制御処理を行う演算制御装置2、撮影画像を取得する画像取得手段8としての撮像装置、取得した撮影画像、演算過程や演算結果で生成された画像を記憶する画像記憶手段9、取得した撮影画像、演算過程や演算結果で生成された画像を表示する画像表示手段10等から構成される。演算制御装置2は、焦点ぼけ構造を持つ撮影画像群g(x,y)を統合及びフーリエ変換して統合的フーリエ変換撮影画像G(u,v,w)を形成するフーリエ変換・統合手段3、統合的フーリエ変換撮影画像G(u,v,w)からフィルタ処理を用いて任意の視点、絞り、焦点合わせに適応する周波数成分を抽出して選択的フーリエ変換画像A(u,v,w)を形成する周波数成分抽出手段5、選択的フーリエ変換画像A(u,v,w)を逆フーリエ変換及び切出して、任意の視点、絞り、焦点合わせに相当する撮影対象Qに関する視覚イメージ画像a(X,Y)を生成する逆フーリエ変換・切出手段6、イメージング装置1を構成する各手段を制御して、イメージング装置1としての機能を果たさせる制御手段7等から構成される。また、撮像装置8は焦点合わせに応じて撮像面の位置が可変に構成され、焦点合わせの異なる撮影画像群g(x,y)、すなわち、焦点ぼけ構造を持つ撮影画像群を撮影可能である。
【0044】
図11に本実施の形態におけるイメージング方法の処理フロー例を示す。
まず、画像取得手段としての撮像装置8により、撮影対象1に関する焦点ぼけ構造を持つ撮影画像群g(x,y)を撮影し、取得する(画像取得工程:ステップS001)。撮像面は、直交座標系で等間隔になるように調整される。次に、撮影により取得した焦点ぼけ構造を持つ撮影画像群g(x,y)を画像記憶手段9に記憶する(取得画像記憶工程:ステップS002)。画像記憶手段9への記憶は、演算制御装置2の演算過程や演算結果が得られた段階等でも可能である。次に、フーリエ変換・統合手段3により、これらの撮影画像群g(x,y)を統合及び座標変換して統合的撮影画像g(X,Y,Z)とし、次いで、統合的撮影画像g(X,Y,Z)をフーリエ変換して、統合的フーリエ変換撮影画像G(u,v,w)を得る(フーリエ変換・統合工程:ステップS003)。
【0045】
次に、周波数成分抽出手段5により、フィルタ処理を用いて、統合的フーリエ変換撮影画像G(u,v,w)から任意の視点、絞り、焦点合わせに対応する周波数成分を抽出して選択的フーリエ変換画像A(u,v,w)を形成する(周波数成分抽出工程:ステップS004)。詳しくは、(式8)を用い、統合的フーリエ変換撮影画像G(u,v,w)にH(u,v,w;r,s,t)H(u,v,w)-1を作用させて演算し、選択的フーリエ変換画像A(u,v,w)を形成する。ここでは、必ずしも実空間情報のフーリエ変換画像F(u,v,w)を求める必要はなく、H(u,v,w;r,s,t)H(u,v,w)-1を1つの演算子として作用させている。なお、実空間情報のフーリエ変換画像F(u,v,w)を求めても良いが、その精度は撮影画像群g(X,Y)の層数や層間隔に依存するので、その値にある程度の広がりが生じる。
【0046】
次に、逆フーリエ変換・切出手段6により、抽出された選択的フーリエ変換画像A(u,v,w)を逆フーリエ変換して、選択的生成画像a(X,Y,Z)とし、次いで、選択的生成画像a(X,Y,Z)を座標変換し、任意の視点、絞り、焦点合わせに相当する撮影対象Qに関する視覚イメージ画像a(x,y)を切出し生成する(逆フーリエ変換・切出工程:ステップS005)。次に、画像表示手段10に生成された視覚イメージ画像a(x,y)を表示する(イメージ画像表示工程:S006)。
【0047】
ここにおいて、フーリエ変換・統合工程(ステップS003)において、まず、撮影画像群g(x,y)をフーリエ変換してフーリエ変換撮影画像群G(u,v)とし、次いで、これを統合及び座標変換して統合的フーリエ変換撮影画像G(u,v,w)を得ても良い。また、逆フーリエ変換・切出工程(ステップS005)において、選択的フーリエ変換画像A(u,v,w)から、視覚イメージ画像のフーリエ変換画像A(u,v)を抽出し、これを逆フーリエ変換及び座標変換して、視覚イメージ画像a(x,y)を生成しても良い。また、座標変換と統合の順序はどちらを先にしても良く、座標変換と切出の順序もどちらを先にしても良い。
【0048】
図12は、撮影画像群から生成される視覚イメージ画像の第1の例を示す。最も左側の列にアイリスr=1.0、(s,t)=(0,0)として撮影した複数枚(64枚)のMFI撮影画像群g(X,Y)を示す。撮影対象の形状は三面鏡のように真中の部分が奥側になっている。これら撮影画像群g(X,Y)の右側に矢印を介して、これらの画像群g(X,Y)に基づいて生成された視覚イメージ画像a(X,Y)を示す。視覚イメージ画像a(X,Y)の左側の列にはアイリスr=0.0(ピンホール)、右側の列にはアイリスr=0.2の場合を、いずれも(s,t)=(0,0)の状態で示す。図12では、Z=16,28,40に焦点を合わせた画像を抽出して示す。r=0.2の状態では、画像のボケは、アイリスr=0とr=1の間にあることが解る。
【0049】
図13は、撮影画像群から生成される視覚イメージ画像の第2の例を示す。最も左側の列のMFI撮影画像群g(X,Y)は図12と同じである。これら撮影画像群g(X,Y)の右側に矢印を介して、これらの画像群g(X,Y)に基づいて生成された視覚イメージ画像a(X,Y)を示す。5行×5列の視点の異なる画像を得ることができた。これらの視覚イメージ画像については、アイリスr=0.0であり、s,tはそれぞれ、-0.5、-0.25,0,+0.25,+0.5の5段階を示す。左側の列ほど撮影対象Qの左側から、右側の列ほど撮影対象Qの右側から、上側の行ほど撮影対象Qの上側から、下側の行ほど撮影対象Qの下側から見えているのが解る。
【0050】
図14は、撮影画像群から生成される視覚イメージ画像の第3の例を示す。最も左側の列のMFI撮影画像群g(X,Y)は図12と同じである。これら撮影画像群g(X,Y)の右側に矢印を介して、これらの画像群g(X,Y)に基づいて生成された視覚イメージ画像a(X,Y)を示す。3列の視覚イメージ画像を得ることができた。図14では、Z=16,28,40に焦点を合わせた画像を抽出して示す。これらの視覚イメージ画像については、アイリスr=0.2であり、左側の列では(s,t)=(+0.5,0.0)、中央の列では(s,t)=(0.0,-0.5)、右側の列では(s,t)=(-0.25,+0.25)における画像である。それぞれの列で、撮影対象Qの右側、下側、左上側から少しぼけて見えているのが解る。
【0051】
以上より、焦点ぼけ構造を持つ撮影画像群から任意の視点、絞り、焦点合わせに相当する視覚イメージ画像を生成できることが解る。
【0052】
[第2の実施の形態]
次に第2の実施の形態について説明する。
本実施の形態では、視点を変えて撮影した画像群から、フィルタ処理を用いてレンダリングすることにより、任意の視点、絞り、焦点合わせに相当する画像を生成する例を説明する。
【0053】
図15は本実施の形態におけるイメージング方法を説明するための図である。広角カメラを横一列に並べてオーバーラップするように撮影する例である。これにより、異なる視点から観察された撮影対象の撮影画像群を取得することができる。これらの視点が異なる撮影画像を比較すると、撮影対象の或る1点から様々な方向に発する光線が含まれている。このことは、視点を変えて撮影した撮影画像は本質的にある仮想レンズについての焦点ぼけ情報を含むことを意味しており、視点を変化させた多数の撮影画像により、焦点ぼけ構造を持つ撮影画像群を構成できる。この場合、撮影対象の任意の点についてできるだけ広範囲の撮影画像に含まれることが好ましいので、広角カメラを用いることが望ましく、またできるだけ広範囲の視点から撮影することが好ましい。以上により、これら視点の異なる撮影画像群を元にして、任意の視点、絞り、焦点合わせに相当する視覚イメージ画像を生成可能である。例えば、矢印で示される視点からみた視覚イメージ画像を生成可能である。なお、広角カメラを平面内に2次元アレイ状に配置しても、焦点ぼけ構造を持つ撮影画像群を構成でき、任意の視点、絞り、焦点合わせに相当する視覚イメージ画像を生成可能である。
【0054】
[第3の実施の形態]
次に第3の実施の形態について説明する。本実施の形態も第2の実施の形態と同様に、視点を変えて撮影した画像群から、フィルタ処理を用いてレンダリングすることにより、任意の視点、絞り、焦点合わせに相当する画像を生成する例である。
【0055】
図16は第3の実施の形態におけるイメージング方法を説明するための図である。第2の実施の形態で述べた複数の広角カメラを撮影対象を取り囲むように円環状に配置して撮影する例を示す。これにより、異なる視点から観察された撮影対象物の多数の撮影画像を取得することができる。しかも撮影対象の周囲360度からの情報を得ることができる。これら視点の異なる撮影画像群を元にして、撮影対象の周囲360度からの視点、絞り、焦点合わせに相当する視覚イメージ画像を生成可能である。例えば、図中の三角形で示される視点からみた視覚イメージ画像を生成可能である。また、大小さまざまなカメラが混在しても良く、また、カメラの配置は円環状でなくても撮影対象を一周するように取り囲んで配置されていれば良く、また、撮影対象を半球状(ドーム状)に取り囲んで配置されていても良い。また、視覚化の範囲が360度未満でも、その部分のみを円弧状に囲んでいれば良い。
【0056】
[第4の実施の形態]
本実施の形態は、第1の実施の形態と第2の実施の形態又は第3の実施の形態を組み合わせるものである。すなわち、撮影対象に関し、焦点合わせ及び視点を変えて撮影した複数の画像から、フィルタ処理を用いてレンダリングすることにより、任意の視点、絞り、焦点合わせに相当する視覚イメージ画像を作成するものである。
例えば広角カメラを横一列に並べてオーバーラップするように撮影し、さらにそれぞれの広角カメラについて、撮像面を動かしながら焦点合わせを変えて撮影する。これにより、いわば、第1の実施の形態及び第2の実施の形態を合わせた撮影画像群が得られ、これらの撮影画像群に基づいて、任意の視点、絞り、焦点合わせに相当する視覚イメージ画像を生成可能である。
【0057】
[第5の実施の形態]
非特許文献2において、複数方向からの光線を用いて撮影した撮影画像に基づいて、レンダリングを行なうことにより、焦点合わせの異なる複数の画像が得られることが実証されている。したがって、複数の視点からの撮影画像を用いて、焦点合わせの異なる画像群が得られれば、第1の実施の形態で説明した原理と手法によって、任意の視点、絞り、焦点合わせに相当する視覚イメージ画像を生成可能である。
【0058】
[第6の実施の形態]
以上の実施の形態では、単色光を想定して説明したが、色彩の異なる複数の光線を用いて、任意の視点、絞り、焦点合わせの彩色画像を生成しても良い。色彩の異なる光線に同一の視点、絞り、焦点合わせを採用することはもちろん可能であるが、色彩毎に視点、絞り、焦点の異なる画像を生成することも可能である。この場合、フーリエ変換・統合工程、周波数成分抽出工程、逆フーリエ変換・切出工程を色彩毎に行なう。これにより、従来とは異なる構成、雰囲気の視覚イメージ画像を提供できる。
【0059】
[第7の実施の形態]
以上の実施の形態では、静止画像を想定して説明したが、動画像に適用することも可能である。例えば、視点又は焦点合わせの少なくとも1つを時間的に変化させて視覚イメージ画像を生成することにより、動的画像を得ることが可能である。また、画像取得手段8としても撮像装置にビデオカメラを使用し、撮影対象の動的振る舞いを時系列的に、視点又は焦点合わせを変えて撮影した撮影画像群を画像記憶手段9に蓄積しておき、動画編集手段を設けて、動的振る舞いについて編集することにより、任意の視点、絞り、焦点合わせに相当する動的視覚イメージ画像を生成可能である。
この場合、プレノプティックカメラに比して少ない情報量で任意の視点、絞り、焦点合わせに相当する動的視覚イメージ画像を生成可能なので、高速処理が可能であり、本発明は動画の分野に適していると解される。
【0060】
また、本発明は以上の実施の形態における焦点ぼけ構造を用いるイメージング方法を、コンピュータに実行させるためのプログラムとして、また当該プログラムを記録したコンピュータ読み取り可能な記録媒体としても実現可能である。プログラムは、コンピュータに内蔵のROMに記録して用いても良く、FD、CD-ROM、内蔵又は外付けの磁気ディスク等の記録媒体に記録し、コンピュータに読み取って用いても良く、インターネットを介してコンピュータにダウンロードして用いても良い。
【0061】
以上、本発明の実施の形態について説明したが、本発明は上記の実施の形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲で、実施の形態に種々変更を加えられることは明白である。
【0062】
例えば、以上の実施の形態では、フィルタ処理は(式2)、(式3)で具体的に示される例について説明したが、これに限られるものではなく、例えば視点を変化させる場合、魚眼レンズ、レンチキュラレンズを用いる場合等には、異なる関数(例えば、ガウス分布に限られず、円筒型、階段状円筒型やこれらを変形したもの等)となる。また、以上の実施の形態では、実空間情報のフーリエ変換画像F(u,v,w)を求めない例を説明したが、統合的フーリエ変換撮影画像G(u、v,w)から実空間情報のフーリエ変換画像F(u,v,w)を求め、これを逆フーリエ変換してf(X,Y,Z)とし、これから視覚イメージ画像a(X,Y)を合成し、座標変換して、視覚イメージ画像a(x,y)を生成しても良く、また、これらの順序を変更することも可能である。また、焦点ぼけに係る4次元以上のフィルタとして、視点を変える場合における2次元空間座標内に2次元空間座標を形成する場合のフィルタ、3次元空間座標内にさらに3次元空間座標を形成する場合のフィルタ等が考えられる。また、焦点合わせを変える方法として撮像面の位置を移動する例を説明したが、顕微鏡のように撮影対象をステージに搭載する場合には、ステージを移動しても良い。また、撮影装置については、通常のカメラや広角カメラに限られず、赤外線カメラ、望遠鏡や顕微鏡(電子顕微鏡を含む)等にも適用可能である。また、画像群の撮影画像の枚数や撮影画像間の焦点合わせの間隔、視点を変える場合のカメラ配置等は状況に応じて種々変更可能である。
【産業上の利用可能性】
【0063】
本発明はコンピュータを用いた画像処理技術に利用できる。
【図面の簡単な説明】
【0064】
【図1】透視座標と直交座標との関係を説明するための図である。
【図2】図1のカメラのピンホールをレンズに置換した場合の透視座標と直交座標との関係を示す図である。
【図3】直交座標系において、無限遠からの光とZ方向に並ぶ平面群との関係を示す図である。
【図4】3次元ぼけフィルタを介した実空間情報と撮影画像群との関係を示す図である。
【図5】実空間情報、撮影画像群、3次元ぼけフィルタの関係を模式的に示す図である。
【図6】3次元ぼけフィルタの周波数特性例を示す図である。
【図7】原点から(s,t)ずれた位置から半径rのアイリスを有する仮想カメラで撮影した場合を説明するための図である。
【図8】フーリエ空間における、撮影で取得される撮影画像とコンピュータ演算により生成される生成画像間の関係を示す図である。
【図9】視覚イメージ画像が生成可能な場合の条件を示す図である。
【図10】第1の実施の形態におけるイメージング装置の構成例を示す図である。
【図11】第1の実施の形態におけるイメージング方法の処理フロー例を示す図である。
【図12】撮影画像群から生成される視覚イメージ画像の第1の例を示す
【図13】撮影画像群から生成される視覚イメージ画像の第2の例を示す
【図14】撮影画像群から生成される視覚イメージ画像の第3の例を示す
【図15】第2の実施の形態におけるイメージング方法を説明するための図である。
【図16】第3の実施の形態におけるイメージング方法を説明するための図である。
【図17】従来の方法で得られた焦点合わせの異なる複数の画像を示す図である。
【図18】プレノプティックカメラについて説明するための図である。
【符号の説明】
【0065】
1 イメージング装置
2 演算制御装置
3 フーリエ変換・統合手段
5 周波数成分抽出手段
6 逆フーリエ変換・切出手段
7 制御手段
8 画像取得手段(撮像装置)
9 画像記憶手段
10 画像表示手段
A(u,v,w) 選択的フーリエ変換画像(周波数空間)
a(X,Y,Z) 選択的生成画像(直交座標)
a(X,Y,Z)=a(X,Y) 視覚イメージ画像群(直交座標)
(x,y) 視覚イメージ画像群(透視座標)
F(u,v,w) 統合的フーリエ変換画像(周波数空間)
f(X,Y,Z) 実空間像(直交座標)
f(x,y,z) 実空間像(透視座標)
G(u,v,w) 統合的フーリエ変換撮影画像(周波数空間)
g(X,Y,Z) 統合的撮影画像(直交座標)
g(X,Y,Z)=g(X,Y) 撮影画像群(直交座標)
(x,y) 撮影画像群(透視座標)
H(u,v,w) 撮像時の3次元ぼけフィルタ(周波数空間)
h(X,Y,Z) 撮像時の3次元ぼけフィルタ(実空間)
(u,v,w;r,s,t)視覚イメージ生成時の3次元ぼけフィルタ(周波数空間)
(X,Y,Z;r,s,t)視覚イメージ生成時の3次元ぼけフィルタ(実空間)
N 層数
n 層番号
O(0,0) 原点
(p,q) 光線方向
Q 撮影対象
f 焦点距離
撮像時のアイリス(絞り)
r 視覚イメージ生成時のアイリス(絞り)
(s,t) 視点
u,v,w フーリエ変換系における座標
X,Y,Z 直交座標
x,y,z 透視座標
図面
【図2】
0
【図3】
1
【図4】
2
【図5】
3
【図6】
4
【図7】
5
【図8】
6
【図9】
7
【図10】
8
【図11】
9
【図15】
10
【図16】
11
【図1】
12
【図12】
13
【図13】
14
【図14】
15
【図17】
16
【図18】
17