TOP > 国内特許検索 > 画像処理方法 > 明細書

明細書 :画像処理方法

発行国 日本国特許庁(JP)
公報種別 特許公報(B2)
特許番号 特許第3831232号 (P3831232)
公開番号 特開2003-141546 (P2003-141546A)
登録日 平成18年7月21日(2006.7.21)
発行日 平成18年10月11日(2006.10.11)
公開日 平成15年5月16日(2003.5.16)
発明の名称または考案の名称 画像処理方法
国際特許分類 G06T   7/20        (2006.01)
G06T   7/00        (2006.01)
FI G06T 7/20 200B
G06T 7/00 300F
請求項の数または発明の数 15
全頁数 19
出願番号 特願2001-342167 (P2001-342167)
出願日 平成13年11月7日(2001.11.7)
新規性喪失の例外の表示 特許法第30条第1項適用 2001年7月11日 社団法人電子情報通信学会発行の「電子情報通信学会技術研究報告 信学技報Vol.101No.200」に発表
審査請求日 平成16年7月16日(2004.7.16)
特許権者または実用新案権者 【識別番号】503360115
【氏名又は名称】独立行政法人科学技術振興機構
【識別番号】501433398
【氏名又は名称】佐藤 雄隆
【識別番号】599144734
【氏名又は名称】財団法人ソフトピアジャパン
発明者または考案者 【氏名】佐藤 雄隆
【氏名】金子 俊一
【氏名】五十嵐 悟
【氏名】丹羽 義典
【氏名】山本 和彦
早期審査対象出願または早期審理対象出願 早期審査対象出願
個別代理人の代理人 【識別番号】100068755、【弁理士】、【氏名又は名称】恩田 博宣
【識別番号】100105957、【弁理士】、【氏名又は名称】恩田 誠
審査官 【審査官】新井 則和
調査した分野 G06T 7/20
G06T 7/00
特許請求の範囲 【請求項1】
コンピュータに、
基準画像データの任意の画素である着目点から所定方向に画素の明度を前記着目点の明度と比較しながら探索する探索のステップと、
前記探索のステップにより、前記着目点から所定方向に探索して、前記着目点との明度差が所定値より最初に大きくなった画素をペア点と決定するペア点決定のステップと、
基準画像データにおいて前記ペア点決定のステップで決定されたペア点の明度を前記着目点の明度と比較したときの大小関係を示す基準評価値を算出して記憶する基準評価値記憶のステップと、
比較画像データにおいて前記基準画像データにおける着目点に対応する位置の画素の明度及び前記ペア点に対応する位置の画素の明度と比較したときの大小関係を示す比較評価値を算出し、1つの着目点における全てのペア点に対応する基準評価値及び比較評価値に基づき、基準評価値及び比較評価値が一致した数が所定のしきい値より少ない着目点を抽出する画素と判定する判定のステップと、
前記判定のステップでの判定結果に基づいて、所定条件の着目点の画素を抽出する抽出画素決定のステップと
を実行させることを特徴とする画像処理方法。
【請求項2】
前記ペア点が、1つの着目点に対して複数の方向においてそれぞれ決定されること
を特徴とする請求項1に記載の画像処理方法。
【請求項3】
前記ペア点は、少なくとも前記着目点からの1の方向において複数のペア点が決定されること
を特徴とする請求項1又は請求項2に記載の画像処理方法。
【請求項4】
前記ペア点探索のステップは、前記着目点から所定の距離内で探索されること
を特徴とする請求項1乃至請求項3のいずれかに記載の画像処理方法。
【請求項5】
前記ペア点決定のステップにおける所定の条件が、探索範囲内で所定の明度差以上の画素がない場合は、探索範囲内で最も明度差が大きい画素をペア点とすること
を特徴とする請求項1乃至請求項4のいずれかに記載の画像処理方法。
【請求項6】
前記ペア点決定のステップにおける所定の条件が、画像データの周端部に達した場合は、その探索範囲内で最大の明度差の画素をペア点と決定すること
を特徴とする請求項1乃至請求項5のいずれかに記載の画像処理方法。
【請求項7】
前記基準評価値及び比較評価値は、2値で表現されること
を特徴とする請求項1乃至請求項6のいずれかに記載の画像処理方法。
【請求項8】
前記しきい値は、撮像系のノイズ分布に基づいて決定されること
を特徴とする請求項1乃至請求項7のいずれかに記載の画像処理方法。
【請求項9】
前記判定のステップは、前記基準画像データにおけるペア点の明度と前記比較画像データにおける当該ペア点の明度との差が所定のしきい値より小さい場合には、このペア点に係る評価値を判定に用いないこと
を特徴とする請求項1乃至請求項8のいずれかに記載の画像処理方法。
【請求項10】
前記抽出画素決定のステップにより抽出された着目点の位置に基づいて2値画像を生成する2値画像生成のステップをさらに備えたこと
を特徴とする請求項1乃至請求項9のいずれかに記載の画像処理方法。
【請求項11】
前記2値画像生成のステップにより生成された2値画像を平滑化して補正画像を生成する補正画像生成のステップをさらに備えたこと
を特徴とする請求項10に記載の画像処理方法。
【請求項12】
前記2値画像若しくは前記補正画像に対応した位置の画素を比較画像データから抽出して抽出画像を生成する抽出画像生成のステップをさらに備えたこと
を特徴とする請求項10又は請求項11に記載の画像処理方法。
【請求項13】
前記基準画像データを保存しつつ、前記比較画像データを更新して処理することを特徴とする請求項12に記載の画像処理方法。
【請求項14】
前記基準画像データ及び前記比較画像データがカラーデータであること
を特徴とする請求項1乃至請求項13のいずれかに記載の画像処理方法。
【請求項15】
前記基準画像データ及び前記比較画像データがグレースケールのデータであること
を特徴とする請求項1乃至請求項13のいずれかに記載の画像処理方法。
発明の詳細な説明
【0001】
【発明の属する技術分野】
本発明は、画像処理方法に係り、詳しくは継続的に情景を撮影した画像時系列から信頼性高くロバストに物体を検出し、背景から分離するための画像パタン検出技術に関する。
【0002】
【従来の技術】
継続的に情景を撮影した画像時系列から信頼性高くロバスト(頑強)に物体を検出し、背景から分離するための画像パタン検出技術は、例えば、羽下哲司、藤原秀人、鷲見和彦“首振り、ズームカメラを用いたトラッキング型侵入監視システム”(信学技報、PRMU99-67、1999)や、P.L.Rosin“Thresholding for Change Detection”(Proc.ICCV98,pp.274-279,1998)に記載されているような環境監視の分野に利用される。
【0003】
また、D.Koller,J.Weber,T.Huang,J.Malik,G.Ogasawara,B.Rao and S.Russel,”Towards robust automatic traffic scene analysis in real-time”(Proc.ICPR94,pp.126-131,1994)、金山憲司“道路交通システムにおける画像認識の現状と技術課題”(信学技報、PRMU97-32,1997.)に記載されているようなITSの分野にも利用される。
【0004】
また、C.Wren,A.Azarbayejani,T.Darre11,A.Pentland“Pfinder:Real-Time Tracking of the Human Body”(IEEE Ttans.PAMI,Vol.19,No.7,pp.780-785,1997.)や、A.Mohan,C.Papageorgiou,and T.Poggio“Example-Based Object Detection in Imagesby Components”(IEEE Trans.PAMI,Vo1.23,No.4,pp.349-361,2001.)や、棚橋英樹、島田大輔、山本和彦、丹羽義典“全方向ステレオシステム(SOS)を用いた移動物体追跡”(信学技報、PRMU99-67,1999.)に記載されているような人物検出およびトラッキングにも利用されるなど、様々な分野において重要となる基本技術である。
【0005】
特に、山本和彦、棚橋英樹、桑島茂純、丹羽義典“実環境センシングのための全方向ステレオシステム(SOS)”(電学論、Vol.121-C,No.5,pp.876-881,2001.)のような実環境センシングにおいては、情景が複雑な背景を持つ場合が多く、画像時系列中から出現物体(イベント)のみを精度よく検出および分離することが、その後の認識処理などの性能に大きな影響を与える。
【0006】
そこで、山田浩正、伊藤渡、上田博唯“背景差分法における波の誤検出抑制法の検討”(信学技報、PRMU98-109,1998.)に記載された背景差分法や、影広達彦、太田友一“動画像からの背景画像の自動生成と適応的更新”(画像の認識・理解シンポジウム(MIRU’94)講演論文集II-pp.263-270,1994.)に記載されたフレーム間差分法など画像の明度差に基づく手法が多く提案されている。
【0007】
【発明が解決しようとする課題】
しかしながら、明度差に基づく手法では、演算量が少ないというメリットを持つ反面、照明条件の変化の影響を受けやすく、更に物体表面の明度と背景の明度が近い部位は検出できず、検出領域にいわゆる「虫食い」を生ずるなどの問題があり、このため人物のトラッキングなどでは、実験条件として単純背景と単純な服装が用いなければならないという問題があった。
【0008】
また、明度差分の問題点を補うため、差分処理を空間微分と組み合わせることで明るさの変動や影などの影響を低減した改良法として、嶺直道、八木康史、谷内田正彦“空間微分画像と差分画像の結合による変化領域検出法”(信学論(D-II),Vol.J77-D-II,No.3,pp.631-634,1994.)や、高藤政雄、北村忠明、小林芳樹“空間微分及び差分処理を用いた車両抽出法”(信学論(D-II),Vol.J80-D-II,No.11,pp.2976-2985,1997.)などが提案されている。しかしながら、差分処理の段階である程度まとまった領域が検出され、かつ安定にエッジが得られているという条件が必要となるなどの問題点がある。
【0009】
また、波部斉、和田俊和、松山隆司“照明変化に対して頑健な背景差分法”(情処学会研究会資料、CVIM115-3,pp.17-24,1999.)や、藤原秀人、関真規人、鷲見和彦、波部斉“テクスチャ背景差分とシルエットモデルを用いた車両追跡手法”(第6回画像センシングシンポジウム(SSII2000)講演論文集、pp.17-22,2000.)等のテクスチャに注目した手法も提案されている。これは、背景画像と対象情景をそれぞれN×N画素のブロックに分割し、各ブロック間でテクスチャの相違を評価するものであり、ブロックをベクトルと見立て、ブロック間の正規化距離を評価するため、明度変動に対してブロック単位で対応できるという特徴を持つ。しかし、画像をブロック分割するため、得られる差分画像の分解能が低下する問題がある。
【0010】
また、T.Horpraseert,D.Harwood,L.S.Davis“A Statistical Approach for Real-time Robust Background Subtraction andShadow Detection”(proc.ICCV99,1999.)など、カラー情報に基づいた手法の提案のように画像間の差違を、明度と色度の要素に分解して扱うモデルを提案し、明るさの変動や影、検出領域の「虫食い」の問題を低減しているが、カラーカメラが必須となるほか、照明色やカメラ特性の影響を受けやすいなどの問題もある。
【0011】
本発明は、継続的に情景を撮影した画像時系列から信頼性高くロバストに物体を検出して背景から分離することができる画像パタン検出技術に係る画像処理方法を提供することを目的とする。
【0012】
【課題を解決するための手段】
上記課題を解決するため、請求項1に記載の画像処理方法では、コンピュータに、基準画像データの任意の画素である着目点から所定方向に画素の明度を前記着目点の明度と比較しながら探索する探索のステップと、前記探索のステップにより、前記着目点から所定方向に探索して、前記着目点との明度差が所定値より最初に大きくなった画素をペア点と決定するペア点決定のステップと、基準画像データにおいて前記ペア点決定のステップで決定されたペア点の明度を前記着目点の明度と比較したときの大小関係を示す基準評価値を算出して記憶する基準評価値記憶のステップと、比較画像データにおいて前記基準画像データにおける着目点に対応する位置の画素の明度及び前記ペア点に対応する位置の画素の明度と比較したときの大小関係を示す比較評価値を算出し、1つの着目点における全てのペア点に対応する基準評価値及び比較評価値に基づき、基準評価値及び比較評価値が一致した数が所定のしきい値より少ない着目点を抽出する画素と判定する判定のステップと、前記判定のステップでの判定結果に基づいて、所定条件の着目点の画素を抽出する抽出画素決定のステップとを実行させることを要旨とする。
【0013】
請求項1に記載の画像処理方法では、基準画像データの着目点とペア点の明度の大小関係に基づく基準評価値と、比較画像データの比較評価値とに基づいて画像の一致を画素単位で判定するため、高い解像度で画像を処理することができるという作用がある。また、明度の大小関係に基づくため、明度の絶対値に左右されにくく照明状態の変化や影になった部分の一致も正確に判定できるという作用がある。
特に、所定の明度差以上の画素をペア点とすることで、ノイズの影響を小さくしたり、照明の影響を小さくしてよりロバストな判定をすることができるという作用がある。
また、複数の対応するペア点を比較することで、ノイズや照明の影響を小さくしてよりロバストな処理を行うことができるという作用がある。
そして、多数決的な処理を行いノイズや照明の影響を小さくしてよりロバストな処理を行うことができるという作用がある。
【0014】
請求項2に記載の画像処理方法では、請求項1に記載の画像処理方法の構成に加え、前記ペア点が、1つの着目点に対して複数の方向においてそれぞれ決定されることを要旨とする。
【0015】
請求項2に記載の画像処理方法では、請求項1に記載の画像処理方法の作用に加え、複数のペア点により、判定のための情報量が増加してノイズの影響を受けにくくできるとともに、複数の方向でペア点をとることで等方性が向上するという作用がある。
【0016】
請求項3に記載の画像処理方法では、請求項1又は請求項2に記載の画像処理方法の構成に加え、前記ペア点は、少なくとも前記着目点からの1の方向において複数のペア点が決定されることを要旨とする。
【0017】
請求項3に記載の画像処理方法では、請求項1又は請求項2に記載の画像処理方法の作用に加え、ペア点の数を増やして情報量を増すことでノイズの影響を受けにくくすることができるという作用がある。
【0020】
請求項に記載の画像処理方法では、請求項1乃至請求項のいずれかに記載の画像処理方法の構成に加え、前記ペア点探索のステップは、前記着目点から所定の距離内で探索されることを要旨とする。
【0021】
請求項に記載の画像処理方法では、請求項1乃至請求項のいずれかに記載の画像処理方法の作用に加え、探索範囲を限定することで、処理を高速化することができるという作用がある。
【0022】
請求項に記載の画像処理方法では、請求項1乃至請求項4にいずれかに記載の画像処理方法の構成に加え、前記ペア点決定のステップにおける所定の条件が、探索範囲内で所定の明度差以上の画素がない場合は、探索範囲内で最も明度差が大きな画素をペア点とすることを要旨とする。
【0023】
請求項に記載の画像処理方法では、請求項1乃至請求項4のいずれかに記載の画像処理方法の作用に加え、所定のしきい値以上の明度差がない場合でも最も特徴的な情報に基づいて判定できるという作用がある。
【0024】
請求項に記載の画像処理方法では、請求項1乃至請求項のいずれかに記載の画像処理方法の構成に加え、前記ペア点決定のステップにおける所定の条件が、画像データの周端部に達した場合は、その探索範囲内で最大の明度差の画素をペア点と決定することを要旨とする。
【0025】
請求項に記載の画像処理方法では、請求項1乃至請求項のいずれかに記載の画像処理方法の作用に加え、周端部においての精度を確保することができるという作用がある。
【0026】
請求項に記載の画像処理方法では、請求項1乃至請求項6のいずれかに記載の画像処理方法の構成に加え、前記基準評価値及び比較評価値は、2値で表現されることを要旨とする。
【0027】
請求項に記載の画像処理方法では、請求項1乃至請求項6のいずれかに記載の画像処理方法の作用に加え、比較のための評価値を2値とすることで高速な処理を行うことができるという作用がある。
【0032】
請求項に記載の画像処理方法では、請求項1乃至請求項7のいずれかに記載の画像処理方法の構成に加え、前記しきい値は、撮像系のノイズ分布に基づいて決定されることを要旨とする。
【0033】
請求項に記載の画像処理方法では、請求項1乃至請求項7のいずれかに記載の画像処理方法の作用に加え、判定の誤差の原因として影響が大きい撮像系のノイズに合わせたしきい値とすることで、最も適切な処理が可能になるという作用がある。
【0034】
請求項に記載の画像処理方法では、請求項1乃至請求項8のいずれかに記載の画像処理方法の構成に加え、前記判定のステップは、前記基準画像データにおけるペア点の明度と前記比較画像データにおける当該ペア点の明度との差が所定のしきい値より小さい場合には、このペア点に係る評価値を判定に用いないことを要旨とする。
【0035】
請求項に記載の画像処理方法では、請求項1乃至請求項8のいずれかに記載の画像処理方法の作用に加え、ノイズや照明の影響を受けやすいしきい値以下の明度差の情報を排除することで、ノイズや照明の影響を小さくできるという作用がある。
【0036】
請求項10に記載の画像処理方法では、請求項1乃至請求項のいずれかに記載の画像処理方法の構成に加え、前記抽出画素決定のステップにより抽出された着目点の位置に基づいて2値画像を生成する2値画像生成のステップをさらに備えたことを要旨とする。
【0037】
請求項10に記載の画像処理方法では、請求項1乃至請求項のいずれかに記載の画像処理方法の作用に加え、2値画像を生成することで判定後のあと処理を容易にすることができるという作用がある。
【0038】
請求項11に記載の画像処理方法では、請求項10に記載の画像処理方法の構成に加え、前記2値画像生成のステップにより生成された2値画像を平滑化して補正画像を生成する補正画像生成のステップをさらに備えたことを要旨とする。
【0039】
請求項11に記載の画像処理方法では、請求項10に記載の画像処理方法の作用に加え、平滑化の処理により領域化をすることで、ノイズによるいわゆる虫食いを補正することができるという作用がある。
【0040】
請求項12に記載の画像処理方法では、請求項10又は請求項11に記載の画像処理方法の構成に加え、前記2値画像若しくは前記補正画像に対応した位置の画素を比較画像データから抽出して抽出画像を生成する抽出画像生成のステップをさらに備えたことを要旨とする。
【0041】
請求項12に記載の画像処理方法では、請求項10又は請求項11に記載の画像処理方法の作用に加え、基準画像データに対して動きのあった画像の部分のみを切り出すことができるという作用がある。
【0042】
請求項13に記載の画像処理方法では、請求項12に記載の画像処理方法の構成に加え、前記基準画像データを保存しつつ、前記比較画像データを更新して処理することを要旨とする。
【0043】
請求項13に記載の画像処理方法では、請求項12に記載の画像処理方法の作用に加え、比較的処理時間がかかる基準画像データを保存しておくことで、比較画像が更新された場合でも高速な処理を行うことができるという作用がある。
【0044】
請求項14に記載の画像処理方法では、請求項1乃至請求項13のいずれかに記載の画像処理方法の構成に加え、前記基準画像データ及び前記比較画像データがカラーデータであることを要旨とする。
【0045】
請求項14に記載の画像処理方法では、請求項1乃至請求項13のいずれかに記載の画像処理方法の作用に加え、データがカラー画像であっても明度差を用いることで照明状態に起因する色相の変化に影響されず、ロバストな処理ができるという作用がある。また、各色要素を利用した場合には、情報量を増加させることができる。
【0046】
請求項15に記載の画像処理方法では、請求項1乃至請求項13のいずれかに記載の画像処理方法の構成に加え、前記基準画像データ及び前記比較画像データがグレースケールのデータであることを要旨とする。
【0047】
請求項15に記載の画像処理方法では、請求項1乃至請求項13のいずれかに記載の画像処理方法の作用に加え、明度差に基づいてロバストな処理ができるという作用がある。
【0048】
【発明の実施の形態】
以下、本発明を具体化したRadial Reach Filter(RRF)を用いた画像処理方法の一実施形態を図1~図10に従って説明する。
【0049】
まず、本発明の画像処理方法の概要を説明する。RRFは、明度変動の影響を抑えながら、ピクセル単位の分解能で局所的なテクスチャを評価するために、次の2つの特徴的な要素で構成されている。
【0050】
まず、(1)着目点から水平、垂直を含む45度間隔で放射状(8方向)に基準(判定しきい値TB)以上の明度差を持つ点を探索し、ペア(8組)を組む。
【0051】
次に、(2)各ペアにおける明度の大小関係(差分の正負)を2値符号(8組分=計8it)とし、着目画素の評価値とする。
【0052】
(1)は主にノイズに対するロバスト性(頑強性)を得るためである。撮像系のノイズ特性を予め測定しておくことで、(2)における符号(明度の大小関係)が反転してしまう確率を得ることができ、それに基づき判定しきい値TBを合理的に決定することができる。判定しきい値TB以上の明度差を持つ点をペア対象としていることで、ノイズ成分の大部分に影響されない(ノイズによって符号が反転しない)、頑健なペアを得ることができる。さらに、特性に等方性を持たせる目的のほか、多数決的処理を導入することで評価の安定性を向上させるために、8方向について8組のペアを形成する設計とした。
【0053】
(2)は、主に明度変動に対するロバスト性を得るためのものである。明度そのものではなく、ペア間の明度の大小関係のみに着目することで、ペアを含む領域の明度オフセットを感知しない特性を得ている。従来、村瀬一郎、金子俊一、五十嵐悟“増分符号相関法による画像照合-光沢物体及び不良照明条件に対するロバスト画像処理-”(精密工学会誌、Vo1.66,No.2,pp.261-265,1999.)や、村瀬一郎、金子俊一、五十嵐悟“増分符号相関法によるロバスト画像照合”(信学論(D-II),Vol.J83-D-II,No.5,pp.1323-1331,2000.)では、固定の隣接画素について明度の大小関係を評価する増分符号相関法が提案されており、照明変動に対するロバストな特性が実証されているが、RRFも基本的にその統計モデルに従う。
【0054】
図1は、実画像によるRRF画像と、単純背景差分の生成例を示す図である。上段(a)は、基準画像データである背景画像(back ground)を示し、(b)は、比較画像データである出現物体を含む対象シーン(scene)を示す。下段は単純背景差分の例で、2値化のしきい値(th)を、55(d)~95(f)まで変化させた例である。出現物体表面の明度分布と背景の明度が近い部位において「虫食い」を生じている。検出領域の拡大のためにしきい値を設定すると、出現物体の影による明度変化が強く検出される(d)。影の検出を抑制するために、しきい値を設定すると、検出領域が更に縮小する(f)。これらに対し、(c)にRRF画像の生成例を示した。それぞれ明度分布の大きく異なる袖の部分、手の部分、紙の部分、のいずれも良好に検出できていることがわかる、また、(d)で見られるような影の影響も受けていないことがわかる。
【0055】
次に、RRFの説明のための定義を示す。まず、リーチ点の決定のために、画像内の任意の位置をベクトルP=(x,y)Tで表すものとする。また、放射状の延長腕(リーチ)を延長する方向を表す方向ベクトルdk(k=0,1,…,7)を定義する。それぞれ、d0=(1,0)T、d1=(1,1)T、d2=(0、1)T、d3=(-1、1)T、d4=(-1,0)T、d5=(-1,-1)T、d6=(0,-1)T、d7=(1,-1)Tとする。つまり、方向ベクトルdk(k=0,1,…,7)は、画面上で右水平方向から反時計回りに45度ずつ回転させた方向となる。これらに基づいて、
【0056】
【数1】
JP0003831232B2_000002t.gif
【0057】
を満たす最小のリーチ長rk(=1、2、3、…、L)を求める。なお、この手順が本発明の探索のステップ及びペア点決定のステップの一例に相当する。ここで、fは背景画像、TPは明度差のしきい値、Lはリーチの最大長を表す。なお、明度差のしきい値TPの設定については後述する。
【0058】
図2は、実画像を用いたリーチの生成例を示す図である。+印が着目画素を示し、その周囲の点がペア点を表す。比較的細かなテクスチャを持つ(e)の領域では、リーチ長rkは非常に小さいことがわかる。また図では判別しづらいが、(d)もカーペットの細かなテクスチャを含んでおり、リーチ長rkが小さくなっていることがわかる。これに対し、証明によるハイライトによって明度が飽和している壁面(b)や、もともとテクスチャの弱い机上(f)の領域では、リーチ長rkが大きなものとなっていることがわかる。
【0059】
なお、この図からもわかるとおり、テクスチャの「細かさ」とは相対的なものである(例えば画像を縮小すれば(b)の領域も細かなテクスチャの一部となる)。RRFでは、明度差のしきい値TPに基づいてリーチ長rkを伸ばすことにより、上記のような意味合いにおいて、テクスチャの「大きさ」に適応してスケーリングを行っていると考えることができる。
【0060】
図3は、各画素におけるペアとして選ばれた回数(被ペア度数)を示す図である。照明により明度が飽和している部分では、その周囲が被ペア点となっていることがわかる。また、机上などテクスチャの弱い面においても、周囲のエッジ部分に被ペア点が集中していることがわかる。しかしながら、図2(e)周辺に対応する部分のように密なテクスチャを持つ部分では、比較的均一に被ペア点が分布しており、図3は単なる微分画像とは性質を異にしていることがわかる。
【0061】
次に、RRF画像について説明する。ここでは、決定されたリーチ点を用いて、着目画素のRRF評価値の算出を行い、これを記憶する。この手順が本発明の基準評価値記憶のステップの一例に相当する。
【0062】
【数2】
JP0003831232B2_000003t.gif
【0063】
ここで得られたb0(p)~b7(p)の値(計8bit)を、背景画像の着目点の評価値とする。次に、対象シーンg(p)についても、同様にRRF評価値の算出を行う。
【0064】
【数3】
JP0003831232B2_000004t.gif
【0065】
背景画像と対象シーン間のRRF評価値の類似性を評価するために、両者間の符号の一致数Bを得る。
【0066】
【数4】
JP0003831232B2_000005t.gif
【0067】
次に、各画素における一致数Bの値を、ある判定しきい値TBと比較することにより、類似する、あるいは類似しない画素を判定する。この手順が本発明の判定のステップの一例に相当する。この判定に基づいて2値画像R(P)を次式で定義し、これをRRF画像と呼ぶ。この手順が本発明の抽出画素決定のステップ及び2値画像生成のステップの一例に相当する。
【0068】
【数5】
JP0003831232B2_000006t.gif
【0069】
判定しきい値TBの設定については、後述する。
【0070】
次に、しきい値の設定について説明する。RRFにおいて設定すべきしきい値は、明度差のしきい値TPおよび判定しきい値TBの2つである。これらはいずれも、撮像系のノイズ特性を考慮することで、合理的な設定が可能である。
【0071】
まず、明度差のしきい値TPについて説明する。明度差のしきい値TP((1)式)の目的は、ペアを結ぶ条件として一定以上の明度差を持つことを規定することで、ノイズに対する耐性を高めることである。一方で、必要以上に大きな明度差のしきい値TPは、リーチ長rkの大きなリーチを生み出す可能性があり、ペアの一方のみが影の影響などで明度変化した場合に、空間解像度の低下が起きる可能性がある。明度差のしきい値TPは、撮像系のノイズ特性を測定しておくことで、予め合理的に決定することができる。通常は、測定されたノイズ分布の標準備差2σ程度に明度差のしきい値TPを設定することで、ノイズ成分の大部分に影響されない最小の明度差のしきい値TPを決定することができる。
【0072】
図4は、図1で用いた実画像に対し、実際に明度差のしきい値TPの値を変化させた図である。明度差のしきい値TP=0の場合(a)は、明度差によらずペアが生成される(常にrk=1になる)。このため、テクスチャの弱い壁面などでは、明度差をほとんど持たないペアが生成され、ノイズの影響を強く受けて誤検出が発生していることがわかる。一方、複雑なテクスチャを持つ、本の並びの部分については誤検出が少ないこともわかる。
【0073】
これに対し、(b)~(d)では、テクスチャの状況によって適切なリーチ長が設定されることで、頑健なペアが形成され、テクスチャの弱い面においてもノイズの影響を受けにくくなっていることがわかる。
【0074】
背景画像と、物体を出現させずに撮像した対象シーンの差を取るという簡易的な方法で、撮像系のノイズ分布の標準備差σ=3.64を得た。約2σなる(d)の例では、ノイズの大部分の影響を受けない出現物体の検出ができていることがわかる。
【0075】
図5は、図2の例における明度差のしきい値TPと、リーチ長rkの平均および標準備差の関係を示したグラフである。縦軸にリーチ長rk(ピクセル)、横軸に明度差のしきい値TPをとったものである。明度差のしきい値TPを増やすことで、○で示すリーチ長rkの平均および△で示す標準偏差が大きくなることがわかる。
【0076】
次に、判定しきい値TBについて説明する。判定しきい値TBは、画像間の類似している/類似していないを決定するためのしきい値である。(5)式は、それぞれのリーチの符号bk(p)とb’k(p)の一致を判定するものであり、全て一致しなければ0、全て一致すれば8の値を取る。ここで、村瀬一郎、金子俊一、五十嵐悟“増分符号相関法による画像照合-光沢物体及び不良照明条件に対するロバスト画像処理-”(精密工学会誌、Vol.66,No.2,pp.261-265,1999.)に記載されているように、1つのリーチが一致する(1をとる)頻度の期待値として、一定値qを用いることが可能であり、前書及び、村瀬一郎、金子俊一、五十嵐悟“増分符号相関法によるロバスト画像照合”(信学論(D-II),Vol.J83-D-II,No.5,pp.1323-1331,2000.)に記載されているように、k=0~7の8通り中1が含まれる一致数Bの総数は、符号の一致と非一致を独立事象とみなすと、8回のベルヌーイ試行と考えられ、その確率分布は2項分布でモデル化できることが知られている。よって、一致数Bの確率密度関数も2項分布となり、
【0077】
【数6】
JP0003831232B2_000007t.gif
【0078】
【数7】
JP0003831232B2_000008t.gif
【0079】
と表現できる。δ()はクロネッカーのデルタである。類似する背景部分においては、ノイズを含まないと仮定すれば一致数B=8となる。しかし、図6に示す、一致数Bの確率分布を示すグラフのように、実際にはノイズを含むため、p1のような確率密度を持つと考えられる(実際には一致数Bは離散値であるが、ここでは便宜上連続値として扱っている。)。一方、対象画像に出現物体が含まれているとき、それによって隠される背景画像の部分に対して一般に無相関であると考えられる。無相関画像間におけるリーチの符号bk(p)とb’k(p)の一致確率の期待値はランダムなビット列の一致確率と同等と考えることができ、一定値q=0.5となり、ノイズも考慮すると図6のp2のような確率密度を持つと考えられる。
【0080】
ここで図6のように判定しきい値TBを設定したとすると、背景部分に物体が存在すると誤認識する過誤確率P1は、
【0081】
【数8】
JP0003831232B2_000009t.gif
【0082】
と表され、同様に、物体の存在を認識できない過誤確率P2は、
【0083】
【数9】
JP0003831232B2_000010t.gif
【0084】
となる。ここで背景部分に物体が存在すると誤認識する場合のコスト係数をc1、物体の存在を認識できない場合のコスト係数をc2とすると、判定しきい値TBを最適に決定するためには過誤確率c11+c22を最小化すればよいことになる。∂(c11+c22)/∂TB=0を解くことにより、判定しきい値TBは次の明快な方程式の解として求めればよい。
【0085】
【数10】
JP0003831232B2_000011t.gif
【0086】
コスト係数に偏りを設定しないときには、単純にp1(TB)=p2(TB)という条件となる。図7は、図1に示した実画像を用いて実測した確率分布p1とp2に相当するヒストグラムの例を示す(前節までの設定法に従い明度差のしきいTP=7、リーチの最大長L=∞としている。)。これから2項分布による確率モデルが妥当であることがわかる。
【0087】
図8に、実際に判定しきい値TBを変化させて得たRRF画像を示す。図7で示したとおり、背景部分と出現物体部分の分布は重視しており、判定しきい値TBを変化させることで、それぞれの密度が変動するのがわかる。この例では、判定しきい値TB=6程度が適当であることがわかる。
【0088】
なお、この例からもわかるように、RRF画像は、密度差を持つ2値画像として得られる。このため、例えば領域分割などに用いるためには、何らかの画素併合処理を後処理として加えることが必要になることが予想される。
【0089】
続いて、RRFの特性について説明する。まず、RRFの適用可能範囲について考察する。RRFはテクスチャに基づいた手法であるため、適用対象に制約を持つ。まず、背景画像として人工画像や、画像全体が0あるいは255に明度飽和を起こしている画像のように、テクスチャが全く存在しない画像は、原理的に対応できないため想定外としている。次に、背景画像のテクスチャが弱い場合、あるいは照明条件による明度飽和によって部分的にテクスチャが欠落している場合については、テクスチャが弱い領域についてはリーチ長rKが大きくなるため、例えば影を検出しやすくなるなど部分的に性能が低下することが予想されるが、撮像系のノイズ特性などを考慮し適切な明度差のしきい値TPを設定することで、性能を保持した運用が可能である。
【0090】
なお、本手法で想定している画像は、本稿で用いている画像群のように、カメラを用いて実環境を撮像した画像時系列(あるいはその一部)である。このような画像においては、実際に本手法でテクスチャの弱さが問題となることは少ない。
【0091】
以下、本画像処理方法の実験について説明する。図9に、環境内に出現する物体の検出例の画像を示す。このようにRRF画像から、環境内に出現する物体の画像を検出する手順が本発明の抽出画像生成のステップの一例に相当する。前出書“全方向ステレオシステム(SOS)を用いた移動物体追跡”記載の全方位カメラシステム(SOS)を用いて撮像した。SOSは20ユニットのカメラにより全方位の映像を同時取得可能なシステムであるが、今回はそのうちの1ユニットから得られる画像のグレースケール情報(240×320、8bit)のみを用いた。なお、元画像は、カラーデータでもよいことはいうまでもない。
【0092】
背景画像と、(1)~(3)までの対象シーンに対し、明度差のしきい値TP=5、判定しきい値TB=6、リーチ最大長L=∞としてRRF画像(中央列)を得た。RRF画像を見ると、出現物体が、その明度分布によらず良好に検出できていることがわかる。
【0093】
図10は、図9(3)の例について単純背景差分をとった画像である。図10(a)では、出現した人物のズボンが背景のカーペットと近い明度を持つため、検出が困難であることがわかる。また、この領域を検出するため2値化のしきい値(th)を調整すると、人物の影が強く検出され、さらにズボンの領域は依然として不十分であることがわかる(b)。左下に足の一部が現れた人物の影による明度変動で、変化の起きていないコピー機(左下隅)の領域も検出されてしまっていることもわかる。
【0094】
図9右列は、密度差を持った画像として得られるRRF画像を領域化するために、2値画像であるRRF画像を濃淡画像として扱い、
(1)3×3ボックス平均による平滑化×8回
(2)しきい値180により2値化
という手順による後処理を加え、得られた領域に対応する対象シーンの部分を示したものである。簡易的な後処理であるが、比較的良好に領域化され、出現物体領域が抽出されていることがわかる。この手順が本発明の補正画像生成のステップの一例に相当する。今回背景画像は常に固定で実験を行ったため、人物によって動かされた椅子の領域が(3)で検出され続けていることがわかる。
【0095】
処理時間は、例えば、AMD社製のCPU、Athlon(登録商標)l.4GHzを搭載したPC(Personal Computer)上で画像1枚当たり、リーチ長の生成に約110msを要した。これに対し、RRF画像の生成は主にビット演算による実装が可能であるので1ms以下であった。処理コストを要するリーチ長の生成は、背景画像1枚に対して1回行えばよく、背景画像更新までは再計算する必要はない。このことから、実時間処理への応用も検討できることがわかる。
【0096】
上記実施形態のRRFによる画像処理方法によれば、物体表面の明度分布、あるいは影などの対象シーンの明度変化に鈍感でありながらも出現物体をロバストに抽出することができた。
【0097】
以下に、その効果を列挙する。
○(1)特に、明度変動の影響を抑えながら、ピクセル単位の分解能で局所的なテクスチャを評価することができるという効果がある。
○(2)輝度差のしきい値および判定しきい値は、撮像系のノイズ分布に基づいて最適な値に決定可能であるという効果がある。
○(3)実画像を用いた実験によって、従来の単純明度差分を用いた方法と比較して物体表面の明度分布や、影などの対象シーンの明度変化に対してロバストであるという効果がある。
○(4)比較的単純な後処理をRRF画像に加えることにより、良好な輪郭および連続性を保った領域の抽出が可能であるという効果がある。
○(5)計算時間は、リーチ長算出に時間を要するものの、RRF画像の算出自体のコストは小さく、実時間処理への応用が可能であるという効果がある。
【0098】
なお、上記実施形態は以下のように変更してもよい。
○ 本実施の形態では、最大リーチ長LはL=∞(探索打ち切り無し)として制限されていないが、(1)式の条件を満たすリーチ長rkを探索する際、探索を打ち切るしきい値Lを有限の値に設定することもできる。Lを有限に設定することで、処理の高速化が図れるという効果がある。なお、打ち切った場合に(1)打ち切った点をペア点とする(2)打ち切った場合そのペアは用いない、などの条件を適宜設定する。
【0099】
○ 本実施の形態では、リーチが画像端に達した場合、その画像端の画素をペア点としている。このため、画像端に近接する部位では、性能がやや低下することが予想される。この場合、画像端をペア点とするような構成とすることができる。
【0100】
○ あるいは、画像端に達するまでの区間で明度差が最大になる点をペア点とするように設定することもできる。
【0101】
○ また、本実施の形態では、ペア点は8方向にリーチを伸ばして探索しているが、ペア点は、1方向で1点のみ、若しくは9方向以上で9点以上のペア点を設定することもできる。ペア点が少ない場合は、ノイズの影響を受けたり、等方性が悪化するなどの影響があるが、処理速度量を小さくできるとともに、処理速度を高めることができる。一方、ペア点を多く採れば、処理量は増加するが、ノイズの影響を小さくし、且つ評価が安定する。さらに、等法性を更に向上させることができるという効果がある。
【0102】
○ また、本実施の形態では、ペア点は、それぞれの探索方向において最初に検出された条件に適合する1点のみをペア点として決定しているが、1の探索方向において、複数のペア点を決定するようにしてもよい。この場合は、着目点から近い順に、条件に適合する点を2点以上所定数のペア点として決定する。なお、この場合は、最初のペア点が明度差が正のしきい値を超えたような場合は、2点目のペア点は、明度差が負のしきい値を超えた点を選択するようにしてもよい。また、所定の点数までペア点を決定できなかったような場合には、その着目点のデータは、評価に用いないようにしてもよいし、決定できたペア点のみを比較するようにしてもよい。
【0103】
○ さらに、ペア点は、複数の方向において、それぞれ複数のペア点を決定することができる。
【0104】
○ なお、カラーデータを用いる場合、RGBの各要素をグレースケールとして取り扱って、それぞれのカラーについて本実施の形態のようにペア点を決定するようにしてもよい。このようにすることで3つのペア点が決定でき、情報量が3倍になることで、精度の向上が期待できる。
【0105】
○ また、本実施の形態では、静止画及びその連続画のみを説明したが、検出された物体の画像を動画として生成することもできる。このように動画を生成すれば、環境内に出現した物体のみを動画として得ることができる。
【0106】
○ さらに、背景画像は、適宜、例えば一定時間ごとに更新するようにしてもよい。このように構成することで、一定時間動きがないものに関しては、その画像を排除することができるという効果がある。
【0107】
次に上記実施形態及び別例から把握できる技術的思想について以下に追記する。
○ (追記1)コンピュータに、基準画像データの任意の画素である着目点から所定方向に画素の明度を前記着目点の明度と比較しながら探索する探索のステップと、前記探索のステップにより所定の条件の画素であるペア点を決定するペア点決定のステップと、基準画像データにおいて前記ペア点決定のステップで決定されたペア点の明度を前記着目点の明度と比較したときの大小関係を示す基準評価値を算出して記憶する基準評価値記憶のステップと、比較画像データにおいて前記基準画像データにおける着目点に対応する位置の画素の明度及び前記ペア点に対応する位置の画素の明度と比較したときの大小関係を示す比較評価値を算出し、前記基準評価値と比較してその一致度の判定をする判定のステップと、前記判定のステップでの判定結果に基づいて、所定条件の着目点の画素を抽出する抽出画素決定のステップとを実行させることを特徴とする画像処理プログラム。
【0108】
○ (追記2)コンピュータに、基準画像データの任意の画素である着目点から所定方向に画素の明度を前記着目点の明度と比較しながら探索する探索のステップと、前記探索のステップにより所定の条件の画素であるペア点を決定するペア点決定のステップと、基準画像データにおいて前記ペア点決定のステップで決定されたペア点の明度を前記着目点の明度と比較したときの大小関係を示す基準評価値を算出して記憶する基準評価値記憶のステップと、比較画像データにおいて前記基準画像データにおける着目点に対応する位置の画素の明度及び前記ペア点に対応する位置の画素の明度と比較したときの大小関係を示す比較評価値を算出し、前記基準評価値と比較してその一致度の判定をする判定のステップと、前記判定のステップでの判定結果に基づいて、所定条件の着目点の画素を抽出する抽出画素決定のステップとを実行させることを特徴とする画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体。
【0109】
○ (追記3)コンピュータを備えた画像処理システムであって、前記コンピュータを、基準画像データの任意の画素である着目点から所定方向に画素の明度を前記着目点の明度と比較しながら探索する探索手段と、前記探索のステップにより所定の条件の画素であるペア点を決定するペア点決定手段と、基準画像データにおいて前記ペア点決定のステップで決定されたペア点の明度を前記着目点の明度と比較したときの大小関係を示す基準評価値を算出して記憶する基準評価値記憶手段と、比較画像データにおいて前記基準画像データにおける着目点に対応する位置の画素の明度及び前記ペア点に対応する位置の画素の明度と比較したときの大小関係を示す比較評価値を算出し、前記基準評価値と比較してその一致度を判定をする判定手段と、前記判定のステップでの判定結果に基づいて、所定条件の着目点の画素を抽出する抽出画素決定手段として機能させることを特徴とする画像処理システム。
【0110】
【発明の効果】
以上、詳述したように、本発明の画像処理方法は、継続的に情景を撮影した画像時系列から信頼性高くロバストに物体を検出して背景から分離することができるという効果がある。
【図面の簡単な説明】
【図1】実画像によるRRF画像と、単純背景差分の生成例を示す図。
【図2】実画像を用いたリーチの生成例を示す図。
【図3】各画素におけるペアとして選ばれた回数(被ペア度数)を示す図。
【図4】図1で用いた実画像に対し、実際に明度差のしきい値TPの値を変化させた図。
【図5】図2の例における明度差のしきい値TPと、リーチ長rkの平均および標準備差の関係を示したグラフ。
【図6】一致数Bの確率分布を示すグラフ。
【図7】図1に示した実画像を用いて実測した確率分布p1とp2に相当するヒストグラムの例
【図8】実際に判定しきい値TBを変化させて得たRRF画像。
【図9】環境内に出現する物体の検出例の画像。
【図10】図9(3)の例について単純背景差分をとった画像。
【符号の説明】
background…背景画像
scene…対象シーン
RRF…Radial Reach Filter
th…threshold
図面
【図1】
0
【図2】
1
【図3】
2
【図4】
3
【図5】
4
【図6】
5
【図7】
6
【図8】
7
【図9】
8
【図10】
9