Top > Search of Japanese Patents > CALIBRATION DEVICE, TARGET DETECTION DEVICE, AND CALIBRATION METHOD > Specification

Specification :(In Japanese)校正装置および校正方法

Country (In Japanese)日本国特許庁(JP)
Gazette (In Japanese)特許公報(B2)
Patent Number P4918676
Publication number P2007-218738A
Date of registration Feb 10, 2012
Date of issue Apr 18, 2012
Date of publication of application Aug 30, 2007
Title of the invention, or title of the device (In Japanese)校正装置および校正方法
IPC (International Patent Classification) G01S   7/40        (2006.01)
G01S  13/86        (2006.01)
G01S  13/93        (2006.01)
FI (File Index) G01S 7/40 C
G01S 13/86
G01S 13/93 Z
Number of claims or invention 3
Total pages 21
Application Number P2006-039563
Date of filing Feb 16, 2006
Date of request for substantive examination Feb 13, 2009
Patentee, or owner of utility model right (In Japanese)【識別番号】504159235
【氏名又は名称】国立大学法人 熊本大学
Inventor, or creator of device (In Japanese)【氏名】胡 振程
【氏名】内村 圭一
Representative (In Japanese)【識別番号】100098785、【弁理士】、【氏名又は名称】藤島 洋一郎
【識別番号】100109656、【弁理士】、【氏名又は名称】三反崎 泰司
Examiner (In Japanese)【審査官】河内 悠
Document or reference (In Japanese)特開2000-329852(JP,A)
特開平11-194169(JP,A)
特開2003-315442(JP,A)
特開2003-057334(JP,A)
特開2002-303672(JP,A)
特開2006-038843(JP,A)
Field of search G01S 7/00- 7/64
13/00-17/95
Scope of claims (In Japanese)【請求項1】
車両前方のレーダ情報を取得するためのレーダと、
車両前方のステレオ画像を取得するための右カメラおよび左カメラを有するステレオカメラと、
前記レーダで取得したレーダ情報、ならびに前記右カメラで取得した2次元画像および前記左カメラで取得した2次元画像からなるステレオ画像を処理するための制御部と、
を備え、
前記制御部は、
前記レーダによって得られたレーダ情報から各物標のレーダ座標系の3次元座標を取得し、前記レーダ情報から取得した各物標のレーダ座標系の3次元座標が一の平面上に分布していない場合には、前記レーダの俯角およびずれ角を用いて、その3次元座標を補正するレーダ側3次元座標取得手段と、
前記右カメラによって得られた2次元画像の中から前記各物標の右カメラ座標系の2次元座標を、前記左カメラによって得られた2次元画像の中から前記各物標の左カメラ座標系の2次元座標をそれぞれ抽出するカメラ側2次元座標取得手段と、
前記各物標の右カメラ座標系の2次元座標および前記各物標の左カメラ座標系の2次元座標から視差情報を取得する視差情報取得手段と、
前記視差情報を用いて、前記各物標の右カメラ座標系の2次元座標および左カメラ座標系の2次元座標を、右カメラ座標系の3次元座標および左カメラ座標系の3次元座標に変換するカメラ側3次元座標取得手段と、
前記レーダ情報に基づいて得られた各物標のレーダ座標系の3次元座標と、前記ステレオ画像に基づいて得られた各物標の右カメラ座標系の3次元座標および左カメラ座標系の3次元座標とを用いて、レーダ座標系の3次元座標を右カメラ座標系の3次元座標および左カメラ座標系の3次元座標に変換するための変換係数を求める変換係数取得手段と
を有し、
前記レーダ側3次元座標取得手段は、前記レーダ情報から取得した各物標のレーダ座標系の3次元座標を最小二乗法を用いて直線近似を行い、それにより得られた各物標の3次元座標を含む第1直線と前記一の平面に垂直に交わる平面において垂直に交わる第2直線を求め、前記第2直線と自動車の車軸とが交わる角度を前記レーダのずれ角として求める
ことを特徴とする校正装置。
【請求項2】
前記右カメラおよび左カメラは、互いに等しい高さに配置されている
ことを特徴とする請求項1に記載の校正装置。
【請求項3】
車両前方のレーダ情報を取得するためのレーダと、車両前方のステレオ画像を取得するための右カメラおよび左カメラを有するステレオカメラと、前記レーダで取得したレーダ情報、ならびに前記右カメラで取得した2次元画像および前記左カメラで取得した2次元画像からなるステレオ画像を処理するための制御部とを用意し、
前記レーダによって得られたレーダ情報から各物標のレーダ座標系の3次元座標を取得し、
前記右カメラによって得られた2次元画像の中から前記各物標の右カメラ座標系の2次元座標を、前記左カメラによって得られた2次元画像の中から前記各物標の左カメラ座標系の2次元座標をそれぞれ抽出し、
前記各物標の右カメラ座標系の2次元座標および前記各物標の左カメラ座標系の2次元座標から視差情報を取得し、
前記視差情報を用いて、前記各物標の右カメラ座標系の2次元座標および左カメラ座標系の2次元座標を、右カメラ座標系の3次元座標および左カメラ座標系の3次元座標に変換し、
前記レーダ情報に基づいて各物標のレーダ座標系の3次元座標を取得し、前記レーダ情報から取得した各物標のレーダ座標系の3次元座標が一の平面上に分布していない場合には、前記レーダの俯角およびずれ角を用いて、その3次元座標を補正し、
前記補正に際して、レーダ情報から取得した各物標のレーダ座標系の3次元座標を最小二乗法を用いて直線近似を行い、それにより得られた各物標の3次元座標を含む第1直線と前記一の平面に垂直に交わる平面において垂直に交わる第2直線を求め、前記第2直線と自動車の車軸とが交わる角度を前記レーダのずれ角として求め、
前記レーダ情報に基づいて得られた各物標のレーダ座標系の3次元座標と、前記ステレオ画像に基づいて得られた各物標の右カメラ座標系の3次元座標および左カメラ座標系の3次元座標とを用いて、レーダ座標系の3次元座標を右カメラ座標系の3次元座標および左カメラ座標系の3次元座標に変換するための変換係数を求める
ことを特徴とする校正方法。
Detailed description of the invention (In Japanese)【技術分野】
【0001】
本発明は、レーダによって検知された座標と、ステレオカメラによって検知された座標とを利用して物標を検知する物標検知装置を校正するための校正装置およびその校正方法に関する。
【背景技術】
【0002】
近年、自動車やバイクなどの前方走行車や、歩行者、障害物などの物標との衝突を防止する衝突防止装置や、物標との車間距離を一定の範囲内に保つための車間距離制御装置など、自動車やバイクなどの運転の安全性や快適性を高めるための様々な運転支援装置が開発されている。これら運転支援装置では、物標を検知することが極めて重要であり、運転支援装置にはそのような物標を検知するための物標検知装置が搭載されている。物標検知装置は、例えば、レーザ光またはミリ波電磁波などで物標を検知するレーダや、撮影した画像の解析から物標を検知するカメラ、レーダおよびカメラを含んで構成されたセンサフュージョンなどにより構成されている。
【0003】
ここで、レーダは、一般に、物標との距離や、相対速度を高精度に測定することができるだけでなく、濃霧などの悪天候によって前方の視界が悪い状況であっても、物標の検知が可能であるという利点を有するが、横方向の分解能が低いので物標の境界の検知が容易でなく、また、検知範囲の上下方向の角度が小さいので視野が狭いなどの欠点を有する。カメラは、一般に、平面分解能が高いので物標の境界の検知が容易であり、視野角も広いという利点を有するが、物標との距離や、相対速度の精度があまり高くなく、天候や照明条件の影響を受けやすいので悪天候や、夜間の場合に物標の検知能力が低下しやすいという欠点を有する。他方、センサフュージョンは、レーダおよびカメラの双方の欠点を双方の利点で補うことが可能であり、最近の開発の主流となっている。例えば、特許文献1,2記載の物標検知装置は、1台のレーダと、1台のカメラとを含んで構成されたセンサフュージョンを備えており、レーダによって検知された物標の座標と、カメラによって検知された物標の座標とを利用して物標を検知するようになっている。
【0004】

【特許文献1】特開2003-315441号公報
【特許文献2】特開2003-315442号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかし、このような装置では、カメラから得られた座標には、物標との距離についての正確な情報が含まれていないので、レーダから得られた座標と、カメラから得られた座標とを用いて、物標同士を整合(マッチング)させることが容易ではないという問題がある。
【0006】
本発明はかかる問題点に鑑みてなされたものであり、その目的は、レーダから得られた物標の座標と、カメラから得られた物標の座標とを用いて、物標同士を容易に整合(マッチング)させることの可能な物標検知装置を校正するための校正装置およびその校正方法を提供することにある。
【課題を解決するための手段】
【0007】
本発明の校正装置は、車両前方のレーダ情報を取得するためのレーダと、車両前方のステレオ画像を取得するための右カメラおよび左カメラを有するステレオカメラと、レーダで取得したレーダ情報、ならびに右カメラで取得した2次元画像および左カメラで取得した2次元画像からなるステレオ画像を処理するための制御部とを備えたものである。ここで、制御部は、以下の(A)~(F)の各手段を有している。
(A)レーダによって得られたレーダ情報から各物標のレーダ座標系の3次元座標を取得し、前記レーダ情報から取得した各物標のレーダ座標系の3次元座標が一の平面上に分布していない場合には、前記レーダの俯角およびずれ角を用いて、その3次元座標を補正するレーダ側3次元座標取得手段
(B)右カメラによって得られた2次元画像の中から各物標の右カメラ座標系の2次元座標を、左カメラによって得られた2次元画像の中から各物標の左カメラ座標系の2次元座標をそれぞれ抽出するカメラ側2次元座標取得手段
(C)各物標の右カメラ座標系の2次元座標および各物標の左カメラ座標系の2次元座標から視差情報を取得する視差情報取得手段
(D)視差情報を用いて、各物標の右カメラ座標系の2次元座標および左カメラ座標系の2次元座標を、右カメラ座標系の3次元座標および左カメラ座標系の3次元座標に変換するカメラ側3次元座標取得手段
(E)レーダ情報に基づいて得られた各物標のレーダ座標系の3次元座標と、ステレオ画像に基づいて得られた各物標の右カメラ座標系の3次元座標および左カメラ座標系の3次元座標とを用いて、レーダ座標系の3次元座標を右カメラ座標系の3次元座標および左カメラ座標系の3次元座標に変換するための変換係数を求める変換係数取得手段
(F)レーダ側3次元座標取得手段は、レーダ情報から取得した各物標のレーダ座標系の3次元座標を最小二乗法を用いて直線近似を行い、それにより得られた各物標の3次元座標を含む第1直線と前記一の平面に垂直に交わる平面において垂直に交わる第2直線を求め、第2直線と自動車の車軸とが交わる角度をレーダのずれ角として求めること
【0008】
本発明の校正方法は、以下の(A)~(H)の各工程を含んでいる。
(A)車両前方のレーダ情報を取得するためのレーダと、車両前方のステレオ画像を取得するための右カメラおよび左カメラを有するステレオカメラと、レーダで取得したレーダ情報、ならびに右カメラで取得した2次元画像および左カメラで取得した2次元画像からなるステレオ画像を処理するための制御部とを用意する工程
(B)レーダによって得られたレーダ情報から各物標のレーダ座標系の3次元座標を取得する工程
(C)右カメラによって得られた2次元画像の中から各物標の右カメラ座標系の2次元座標を、左カメラによって得られた2次元画像の中から各物標の左カメラ座標系の2次元座標をそれぞれ抽出する工程
(D)各物標の右カメラ座標系の2次元座標および各物標の左カメラ座標系の2次元座標から視差情報を取得する工程
(E)視差情報を用いて、各物標の右カメラ座標系の2次元座標および左カメラ座標系の2次元座標を、右カメラ座標系の3次元座標および左カメラ座標系の3次元座標に変換する工程
(F)前記レーダ情報に基づいて各物標のレーダ座標系の3次元座標を取得し、前記レーダ情報から取得した各物標のレーダ座標系の3次元座標が一の平面上に分布していない場合には、前記レーダの俯角およびずれ角を用いて、その3次元座標を補正する工程
(G)上記の補正に際して、レーダ情報から取得した各物標のレーダ座標系の3次元座標を最小二乗法を用いて直線近似を行い、それにより得られた各物標の3次元座標を含む第1直線と前記一の平面に垂直に交わる平面において垂直に交わる第2直線を求め、前記第2直線と自動車の車軸とが交わる角度を前記レーダのずれ角として求める工程
(H)レーダ情報に基づいて得られた各物標のレーダ座標系の3次元座標と、ステレオ画像に基づいて得られた各物標の右カメラ座標系の3次元座標および左カメラ座標系の3次元座標とを用いて、レーダ座標系の3次元座標を右カメラ座標系の3次元座標および左カメラ座標系の3次元座標に変換するための変換係数を求める工程

【0009】
本願発明の校正装置および校正方法では、ステレオカメラから得られるステレオ画像から物標との距離に関係する視差情報を得るようにしたので、ステレオカメラから得られた右カメラ座標系の2次元座標および左カメラ座標系の2次元座標を、右カメラ座標系の3次元座標および左カメラ座標系の3次元座標に変換することができる。これにより、レーダから得られた各物標の座標と、視差情報に基づいて変換された右カメラ座標系の3次元座標および左カメラ座標系の3次元座標とを用いて、レーダ座標系の3次元座標を、右カメラ座標系の3次元座標および左カメラ座標系の3次元座標に変換するための変換係数を求めることができる。
【0010】
参考例に係る物標検知装置は、上記の校正装置と同様、レーダ、ステレオカメラおよび制御部とを備え、さらに、レーダ座標系の3次元座標を右カメラ座標系の3次元座標および左カメラ座標系の3次元座標に変換するための変換係数が格納されている記憶部を備えたものである。ここで、制御部は、以下の(A)~(D)の各手段を有している。
(A)レーダによって得られたレーダ情報から各物標のレーダ座標系の3次元座標を取得するレーダ側3次元座標取得手段
(B)変換係数を用いて、各物標のレーダ座標系の3次元座標を、右カメラ座標系の3次元座標および左カメラ座標系の3次元座標に変換すると共に、その変換された各物標の右カメラ座標系の3次元座標および左カメラ座標系の3次元座標を、右カメラ座標系の2次元座標および左カメラ座標系の2次元座標に変換するレーダ側2次元座標取得手段
(C)右カメラによって得られた2次元画像の中から各物標の右カメラ座標系の2次元座標を、左カメラによって得られた2次元画像の中から各物標の左カメラ座標系の2次元座標をそれぞれ抽出するカメラ側2次元座標取得手段
(D)レーダ情報に基づいて得られた各物標の右カメラ座標系の2次元座標および左カメラ座標系の2次元座標と、ステレオ画像に基づいて得られた各物標の右カメラ座標系の2次元座標および左カメラ座標系の2次元座標とを対比して、車両前方の物標を特定する物標特定手段
【0011】
参考例に係る物標検知装置では、変換係数を用いるようにしたので、レーダによって得られたレーダ情報から、奥行き情報を実質的に含ん各物標の右カメラ座標系の2次元座標および左カメラ座標系の2次元座標を求めることができる。
【発明の効果】
【0012】
本発明の校正装置および校正方法によれば、ステレオカメラから得られるステレオ画像から物標との距離に関係する視差情報を得るようにしたので、レーダ座標系の3次元座標を、右カメラ座標系の3次元座標および左カメラ座標系の3次元座標に変換するための変換係数を求めることができる。これにより、走行中に障害物の位置を特定する際に、上記のようにして求められた変換係数を用いて、レーダから得られた物標の座標と、ステレオカメラから得られた物標の座標とを対比することができるので、存在可能性の高い物標を特定することができる。従って、レーダから得られた物標の座標と、ステレオカメラから得られた物標の座標とを用いて、物標同士を容易にマッチングさせることができる。
【0013】
参考例に係る物標検知装置によれば、変換係数を用いるようにしたので、レーダによって得られたレーダ情報から、奥行き情報を実質的に含ん各物標の右カメラ座標系の2次元座標および左カメラ座標系の2次元座標を求めることができる。これにより、レーダ情報に基づいて得られた、奥行き情報を実質的に含ん各物標の右カメラ座標系の2次元座標および左カメラ座標系の2次元座標と、ステレオ画像に基づいて得られた各物標の右カメラ座標系の2次元座標および左カメラ座標系の2次元座標とを対比することができるので、存在可能性の高い物標を特定することができる。従って、レーダから得られた物標の座標と、ステレオカメラから得られた物標の座標とを用いて、物標同士を容易にマッチングさせることができる。
【発明を実施するための最良の形態】
【0014】
以下、本発明の実施の形態について、図面を参照して詳細に説明する。
【0015】
図1は、本発明の一実施の形態に係るセンサフュージョン(物標検知装置)の概略構成を表したものである。このセンサフュージョンは、自動車やバイクなどの前方走行車や、歩行者、障害物などの物標を検知するシステムであり、例えば、自動車Cに搭載されるものである。
【0016】
このセンサフュージョンは、レーダ1、ステレオカメラ2、制御部3、記憶部4、表示部5を含んで構成されたものである。レーダ1は、例えば、レーザ光を放射するレーザレーダ、またはミリ波電磁波を放射するミリ波レーダからなり、自動車Cのバンパの中央部分などに取り付けられている。このレーダ1は、自動車Cの前方にレーザ光やミリ波電磁波を放射すると共に、自動車Cの前方に放射したレーザ光の反射光やミリ波電磁波の反射波を検知し、さらに、検知した反射光や反射波から自動車Cの前方に存在する物標の方位θ、距離dおよび相対速度vなどを計測するようになっている。ステレオカメラ2は、右カメラ21および左カメラ22を備えている。右カメラ21および左カメラ22は、例えば、電荷結合素子(CCD)からなり、自動車Cのフロントガラスの内壁であって、互いに所定の間隔を隔てると共に、路面から同じ高さのところに取り付けられている。このステレオカメラ2は、自動車Cの前方を互いに異なる視点から撮影して、右カメラ21で撮影された2次元画像と左カメラ22で撮影された2次元画像とからなるステレオ画像を取得するようになっている。
【0017】
制御部3は、例えば、DSP(Digital Signal Processor)などにより構成され、レーダ1およびステレオカメラ2によって得られた情報を処理して自動車Cの前方の障害物の位置や種類などを所定の演算により特定するようになっている。記憶部4は、例えば、RAM(Random Access Memory)およびHD(hard disk)からなり、記憶部4には、センサフュージョンを校正するためのプログラムや、障害物を検知するためのプログラム、制御部3で得られた演算結果などが格納されている。表示部5は、例えば、液晶表示装置であり、制御部3で得られた演算結果に基づく情報を表示するようになっている。
【0018】
次に、センサフュージョンをキャリブレーションする手順について説明する。ただし、これに先立って、このキャリブレーションに用いる反射板6について説明する。
【0019】
(反射板6)
図2および図3は反射板6の一例を示したものであり、図2はレーダ1がレーザレーダのときの反射板を、図3はレーダ1がミリ波レーダのときの反射板をそれぞれ例示したものである。図4は、センサフュージョンをキャリブレーションする際の、反射板6の配置例を表すものである。
【0020】
図2の反射板6は、反射ブロック6Aと、吸収ブロック6Bとを交互に配置してなる格子状のパターンを有している。反射ブロック6Aはレーザ光を強く反射する材質により構成されており、吸収ブロック6Bはレーザ光を強く吸収する材質により構成されている。他方、図3の反射板6は、平板6Cと、リフレクタ6Dとを有している。平板6Cは、ミリ波電磁波を透過する材料(布や発砲スチロールなど)からなり、リフレクタ6Dを裏面で固定するようになっている。リフレクタ6Dは、例えば、三角錐形状の金属板からなり、リフレクタ6Dの裏面に格子状に配列されている。このリフレクタ6Dは、開口部側から入射したミリ波電磁波を反射するようになっている。
【0021】
ここで、反射ブロック6Aや平板6Cのうちリフレクタ6Dの配置されている部分は、レーザ光またはミリ波電磁波を強く反射するので、反射ブロック6A等の横幅D1と同じサイズの横幅を有する物標がそこに存在する、とレーダ1に認識され得るものである。他方、吸収ブロック6Bや平板6Cのうちリフレクタ6Dの配置されていない部分は、レーザ光やミリ波電磁波をほとんど反射しないので、吸収ブロック6B等の横幅D2と同じサイズの横幅の空間がそこに存在する、とレーダ1に認識され得るものである。
【0022】
各反射ブロック6Aおよび各吸収ブロック6Bのサイズは、レーダ1の分解能や、レーダ1と反射板6との距離に応じて設定される。反射ブロック6A等の横幅D1は、レーダ1が分解能と同程度の大きさの物標を認識することは困難であることから、少なくともレーダ1の分解能の2倍程度であることが必要である。吸収ブロック6B等の横幅D2は、レーダ1は複数の物標が互いに近接配置されるとこれらを別個の物標として明確に区別することが困難となることから、少なくともレーダ1の分解能の3倍程度であることが必要である。反射ブロック6A等および吸収ブロック6B等の縦方向のサイズHは、レーダ1のスキャン平面に垂直な方向の誤差の範囲内に複数の物標が存在するとこれらを別個の物標として明確に区別することが困難となることから、少なくともレーダ1のスキャン平面に垂直な方向の誤差程度であることが必要である。
【0023】
なお、反射板6の横方向のサイズは、レーダ1によってスキャンされる範囲と同程度の大きさとなっており、反射板6の縦方向のサイズは、反射ブロック6Aを縦方向に複数配置できる大きさ以上の大きさとなっていれば特に制限されるものではない。また、キャリブレーションの便宜上、最下行の反射ブロック6A等は、自動車Cに搭載されたレーダ1と同じ高さのところに配置されているものとする。
【0024】
(レーダ1自身のキャリブレーション、図4~図8)
まず、作業者Pは反射板6を設置する(ステップS1)。具体的には、図4に示したように、反射板6を自動車Cの車軸X1と垂直に交わるようにして、自動車Cの前方(自動車Cに設置されたレーダ1およびステレオカメラ2の前方)の所定の距離に配置する。続いて、レーダ1がレーザレーダの場合には、反射板6の格子状のパターンのうち地面に最も近い最下行のパターンだけを残して、その他の部分を、レーザ光を強く吸収するカバー(図示せず)で覆い、レーダ1がミリ波レーダの場合には、平板6Cに取り付けられたリフレクタ6Dのうち地面に最も近い最下行のリフレクタ6Dだけを残して、その他のリフレクタ6Dを平板6Cから取り外す。
【0025】
次に、作業者Pは、制御部3にレーダ1自身のキャリブレーションの実行を要求する(ステップS2)。すると、制御部3は、最下行のパターンに含まれる各物標(反射ブロック6A等)の3次元座標と、レーダ1の3次元座標、俯角ξおよびずれ角φとを計測する。
【0026】
ここで、俯角ξとは、図5(図1の側面図)に示したように、レーダ座標系(Xm,Ym,Zm)において、レーダ1のスキャン平面Aと、(Xm,Zm)平面B(一般には路面と平行な平面)とが交わる角度(微小偏移角)のことである。なお、レーダ1がレーザレーダの場合には、レーザ光がある程度の広がり角を有しているので、その広がり角を二等分する面をスキャン平面Aとする。ずれ角φとは、図6(図1の上面図)に示したように、レーダ座標系(Xm,Ym,Zm)の(Xm,Zm)平面と平行な平面において直線X2(後述)と垂直に交わる直線X3と、自動車Cの車軸X1とが交わる角度のことである。
【0027】
具体的には、まず、制御部3は、レーダ1に対してスキャンを要求する(ステップS3)。レーダ1はスキャンの要求を受信する(ステップS4)と、最下行のパターンをスキャンして、スキャン平面内に存在する物標(反射ブロック6A等)の方位θiを検知すると共に、検知した最下行の物標ごとに、距離diおよび相対速度viを計算したのち(ステップS5)、最下行の各物標のレーダ情報(θi,di,vi)を制御部3に送信する(ステップS6)。なお、θや、d、vのサフィックスiは1以上、最下行のパターンに含まれる反射ブロック6Aの数n以下の整数である。
【0028】
制御部3はレーダ1から最下行の各物標のレーダ情報(θi,di,vi)を受信したのち(ステップS7)、レーダ1によって検知されるはずの物標が全て検知されているか否かを判定する(ステップS8)。レーダ1によって検知されるはずの物標が全て検知されている場合には、制御部3は、以下の式(1)を用いて、検知された最下行の各物標のレーダ情報(θi,di,vi)をレーダ座標系(Xm,Ym,Zm)の3次元座標(Xmi,Ymi,Zmi)へ変換したのち(ステップS9)、最下行の各物標のレーダ情報(θi,di,vi)と、最下行の各物標の3次元座標(Xmi,Ymi,Zmi)とを記憶部4に格納する(ステップS10)。
【0029】
【数1】
JP0004918676B2_000002t.gif

【0030】
なお、式(1)はレーダによる計測データをレーダ座標系の3次元座標へ変換する式である。
【0031】
一方、レーダ1によって検知されるはずの全ての物標が検知されていない場合には、制御部3はその旨の表示を表示部5に要求する(ステップS11)。表示部5は、その要求を受信すると、全ての物標が検知されていない旨を表示する(ステップS12)。作業者Pは、その表示を確認し、最下行の全ての物標が検知されるようにレーダ1の向き(俯角ξ、ずれ角φ)を調整し直したのち(ステップS13)、再度、ステップS1~S8を実行する。すなわち、エイミングを実行する。このとき、最下行の全ての物標が検知されるようにするためには、例えば、最下行の各物標のうち中央に配置された物標に対応する反射光または反射波の強度が最も大きくなるように俯角ξおよびずれ角φを調整する。
【0032】
その結果、レーダ1によって最下行の全ての物標が検知された場合には制御部3は上記のステップS9,S10を順次実行し、検知されていなかった場合には、制御部3は再度、ステップS11を実行し、最終的にはステップ10まで実行する。
【0033】
次に、制御部3は、レーダ座標系へ変換された各物標の3次元座標(Xmi,Ymi,Zmi)が、レーダ座標系(Xm,Ym,Zm)の(Xm,Ym)平面上に分布しているか否かを判定する(ステップS14)。各物標の3次元座標(Xmi,Ymi,Zmi)が(Xm,Ym)平面上に分布していない場合には、各物標の3次元座標(Xmi,Ymi,Zmi)が反射板6上に分布していない、つまり、レーダ1が反射板6に対して正体していないということになるので、レーダ1の傾き具合を正確に求めておくことにより、レーダ1が反射板6に対して正体しているときの、各物標のレーダ座標系(Xm,Ym,Zm)の3次元座標(Xmi′′,Ymi′′,Zmi′′)(後述)を求めることが可能となる。
【0034】
判定の結果、(Xm,Ym)平面上に分布していない場合には、制御部3は、例えば、各物標の3次元座標(Xmi,Ymi,Zmi)(図6の黒丸)を最小二乗法を用いて直線近似を行い、最小二乗法により得られた各物標の3次元座標(Xmi′,Ymi′,Zmi′)(図6の白丸)と、それら3次元座標(Xmi′,Ymi′,Zmi′)を含む直線X2と、レーダ座標系(Xm,Ym,Zm)の(Xm,Zm)平面において直線X2と垂直に交わる直線X3とを求める。続いて、三角測量法を用いて、レーダ1の座標、俯角ξおよびずれ角φを計算する(ステップS15)。
【0035】
ここで、レーダ1の座標は、例えば、図6に示したように、(Xm,Zm)平面であって、かつ直線X2上の各物標の3次元座標(Xmi′,Ymi′,Zmi′)を含む平面内に、各物標の3次元座標(Xmi′,Ymi′,Zmi′)のうち両端の物標の3次元座標(Xm1′,Ym1′,Zm1′),(Xmn′,Ymn′,Zmn′)の位置を中心として、その座標に対応する距離d1,dnを半径とする円弧をそれぞれ描き、双方の円弧の交わる2つの点のうち自動車C側の点に対応する座標を計算することにより求められる。俯角ξは、上記したように、例えば、最下行の各物標のうち中央に配置された物標に対応する反射光または反射波の強度が最も大きくなるように調整されており、ほとんど0°となるので、例えば、デフォルトで0°としてもよい。ずれ角φは、例えば、レーダ座標系(Xm,Ym,Zm)の(Xm,Zm)平面において直線X2と垂直に交わる直線X3と、自動車Cの車軸X1とが交わる角度を計算することにより求められる。
【0036】
次に、制御部3は、俯角ξおよびずれ角φを用いて、各物標の3次元座標(Xmi,Ymi,Zmi)または(Xmi′,Ymi′,Zmi′)が反射板6上に分布するように、これら3次元座標(Xmi,Ymi,Zmi)または(Xmi′,Ymi′,Zmi′)を補正する(ステップS16)。
【0037】
一方、レーダ座標系へ変換された各物標の3次元座標(Xmi,Ymi,Zmi)が、(Xm,Ym)平面上に分布している場合には、各物標の3次元座標(Xmi,Ymi,Zmi)が反射板6上に分布していることを意味するので、レーダ1の俯角ξおよびずれ角φはほとんど0°になっていると推測できる。従って、この場合には、3次元座標(Xmi,Ymi,Zmi)をわざわざ補正する必要はないので、3次元座標(Xmi,Ymi,Zmi)の補正を行わない。もちろん、レーダ1の俯角ξおよびずれ角φを求めるようにしてもよいが、その場合には、上記のステップS15,S16を実行することとなる。
【0038】
なお、以下では、3次元座標(Xmi,Ymi,Zmi)の補正が行われた場合の手順について説明するが、この手順は、補正の行われていない3次元座標(Xmi,Ymi,Zmi)についてももちろん適用可能である。
【0039】
次に、上記ステップ16で補正することにより得られた、最下行の各物標の3次元座標(Xmi′′,Ymi′′,Zmi′′)、俯角ξおよびずれ角φを記憶部4に格納する(ステップS17)。
【0040】
次に、制御部3は、最下行の各物標の3次元座標(Xmi′′,Ymi′′,Zmi′′)を利用して、最下行以外の各物標(反射ブロック6A)の座標を推定する(ステップS18)。例えば、反射ブロック6Aおよび吸収ブロック6Bの高さは共にHなので、最下行から1行上がるごとに、YmiにHを加えることにより、最下行以外の各物標の座標(Xmi′′,Ymi′′+H×(s-1),Zmi′′)を求める。ここで、sは、最下行から数えたブロックの数である(最下行はs=1)。その後、最下行以外の各物標の座標(Xmi′′,Ymi′′+H×(s-1),Zmi′′)を記憶部4に格納する(ステップS19)。
【0041】
次に、制御部3は、レーダ1自身のキャリブレーションの完了の出力を表示部5に要求する(ステップS20)。表示部5は、その要求を受信すると、レーダ1自身のキャリブレーションが完了した旨を出力する(ステップS21)。このようにして、レーダ1自身のキャリブレーションが完了する。
【0042】
(ステレオカメラ2自身のキャリブレーション、図9)
次に、作業者Pは、反射板6を調整する(ステップS22)。具体的には、レーダ1がレーザレーダの場合には反射板6を覆っているカバーを外して反射板6の格子状パターンを全て露出させ、他方、レーダ1がミリ波レーダの場合には先に取り外したリフレクタ6Dを元の位置に取り付ける。続いて、作業者Pはステレオカメラ2自身のキャリブレーションを制御部3に要求する(ステップS23)。すると、制御部3はステレオカメラ2に第1回目の撮影を要求する(ステップS24)。ステレオカメラ2は、第1回目の撮影の要求を受信する(ステップS25)と、反射板6のステレオ画像を撮影する(ステップS26)。
【0043】
次に、制御部3は、作業者Pに対して反射板6の車軸X1に対する角度を所定の角度に変更する指令を表示するように表示部5に要求する(ステップS27)。表示部5は、制御部3からの表示要求を受信すると、その指令を表示する(ステップS28)。作業者Pは、その指令に従って反射板6の角度を変更する(ステップS29)。続いて、制御部3はステレオカメラ2に次の撮影を要求する(ステップS30)。ステレオカメラ2は、次の撮影の要求を受信する(ステップS31)と、反射板6のステレオ画像を撮影する(ステップS32)。
【0044】
引き続き、反射板6の角度を徐々に変えながらステップS27~S33を複数回繰り返したのち、撮影回数が所定の回数に到達する(ステップS33)と、制御部3は撮影した全てのステレオ画像の送信をステレオカメラ2に要求する(ステップS34)。ステレオカメラ2は、その要求を受信する(ステップS35)と、撮影した全てのステレオ画像を制御部3に送信する(ステップS36)。
【0045】
制御部3は、ステレオ画像を受信する(ステップS37)と、受信したステレオ画像を用いて、ステレオカメラ2の内部パラメータ(例えば、焦点距離F、光学中心位置および光学歪補正係数)と、外部パラメータ(例えば、右カメラ21および左カメラ22の間の並進行列式および回転行列式)とを計算したのち(ステップS38)、内部パラメータおよび外部パラメータと、第1回目に撮影されたステレオ画像とを記憶部4に格納する(ステップS39)。
【0046】
次に、制御部3は、ステレオカメラ2自身のキャリブレーションの完了の出力を表示部5に要求する(ステップS40)。表示部5は、その要求を受信すると、ステレオカメラ2自身のキャリブレーションが完了した旨を出力する(ステップS41)。このようにして、ステレオカメラ2自身のキャリブレーションが完了する。
【0047】
(レーダ1およびステレオカメラ2の相互間のキャリブレーション、図10)
制御部3は、記憶部4に格納された第1回目のステレオ画像を読み出し、そのステレオ画像の中から、各物標の右カメラ画像座系の2次元座標(Xrj,Yrj)および左カメラ画像座系の2次元座標(Xlj,Ylj)を抽出する(ステップS42)。具体的には、反射ブロック6Aの4つの角を抽出し、その4つの角の中央の座標を物標の座標として抽出する。なお、Xr、Yr、Xl、Ylのサフィックスjは1以上、ステレオカメラ2によって検知された物標の数以下の整数である。
【0048】
続いて、制御部3は、2次元座標(Xrj,Yrj),(Xlj,Ylj)と、以下の式(2)~(7)とを用いて、各物標の右カメラ座標系の3次元座標(XRj,YRj,ZRj)および左カメラ座標系の3次元座標(XLj,YLj,ZLj)を求める(ステップS43)。
【0049】
【数2】
JP0004918676B2_000003t.gif
【数3】
JP0004918676B2_000004t.gif
【数4】
JP0004918676B2_000005t.gif
【数5】
JP0004918676B2_000006t.gif
【数6】
JP0004918676B2_000007t.gif
【数7】
JP0004918676B2_000008t.gif

【0050】
ここで、bはステレオカメラ2の基線長、すなわち、右カメラ21および左カメラ22のそれぞれの中心位置間の距離である。また、d(Xrj,Yrj)は右カメラの2次元座標の視差情報であり、d(Xlj,Ylj)は左カメラの2次元座標の視差情報である。視差情報d(Xrj,Yrj)、d(Xlj,Ylj)は、物標との距離に関係するものであり、右カメラ21で撮影された2次元画像と、左カメラ22で撮影された2次元画像とを用いて求めることができる。具体的には、右カメラ21および左カメラ22が互いに等しい高さに配置されており、右カメラ21で撮影された2次元画像中の各物標の2次元座標(Xrj,Yrj)、および左カメラ22で撮影された2次元画像中の各物標の2次元座標(Xlj,Ylj)のうち、同一の物標のY座標は互いに一致することから、同一の物標のX座標の差分の絶対値|Xrj-Xlj|が視差情報d(Xrj,Yrj)、d(Xlj,Ylj)となる。従って、この場合の視差情報d(Xrj,Yrj)、d(Xlj,Ylj)は、Y座標とは無関係な値となる。
【0051】
次に、制御部3は、レーダ1によって計測され、または推定によって求められた各物標の座標(Xmi′′,Ymi′′+H×(s-1),Zmi′′)を記憶部4から読み出したのち、レーダ1から得られたレーダ座標系の3次元座標(Xmi′′,Ymi′′+H×(s-1),Zmi′′)と、ステレオカメラ2から得られた右カメラ座標系の3次元座標(XRj,YRj,ZRj)および左カメラ座標系の3次元座標(XLj,YLj,ZLj)とを、以下の式(8),(9)に代入して、各物標に対するRrj,Rlj,Trj,Tljを求める(ステップS44)。ここで、Rrj,Rljはレーダ座標系からカメラ座標系(XR,YR,ZR),(XL,YL,ZL)への回転行列式であり、Trj,Tljはレーダ座標系からカメラ座標系への並進行列式である。
【0052】
【数8】
JP0004918676B2_000009t.gif
【数9】
JP0004918676B2_000010t.gif

【0053】
なお、式(8)はレーダ座標系の3次元座標を右カメラ座標系の3次元座標へ変換する式であり、式(9)はレーダ座標系の3次元座標を右カメラ座標系の3次元座標へ変換する式である。
【0054】
続いて、制御部3は、各物標に対するRrj,Rlj,Trj,Tljの平均値Rr,Rl,Tr,Tlを求めたのち(ステップS45)、これらを記憶部4に格納する(ステップS46)。
【0055】
このように、本実施の形態では、レーダ1からのレーダ情報を補正するにより得られた各物標の座標(Xmi′′,Ymi′′+H×(s-1),Zmi′′)と、ステレオカメラ2から得られた右カメラ座標系の3次元座標(XRj,YRj,ZRj)および左カメラ座標系の3次元座標(XLj,YLj,ZLj)とを用いて、レーダ座標系の3次元座標と、右カメラ座標系の3次元座標および左カメラ座標系の3次元座標とを相互に変換するためのRr,Rl,Tr,Tlを求めることができる。
【0056】
次に、制御部3は、センサフュージョンのキャリブレーションの完了の出力を表示部5に要求する(ステップS47)。表示部5は、その要求を受信すると、センサフュージョンのキャリブレーションが完了した旨を出力する(ステップS48)。このようにして、レーダ1およびステレオカメラ2の相互間のキャリブレーションが行われ、センサフュージョンのキャリブレーションが完了する。
【0057】
このように、本実施の形態では、レーダ1から各物標の座標を得ると共に、ステレオカメラ2から各物標の座標を得ることにより、レーダ1自身や、ステレオカメラ2自身だけでなく、レーダ1およびステレオカメラ2の相互間のキャリブレーションをも一括して行うことができる。つまり、レーダ1およびステレオカメラ2を含んで構成されたセンサフュージョンを同時キャリブレーションすることができる。
【0058】
次に、自動車Cの走行中に、自動車Cの前方に存在する障害物の存在、位置および種類を特定する手順について説明する。
【0059】
(障害物の位置の特定、図11~図14)
まず、制御部3は、レーダ1に対してスキャンの要求を、ステレオカメラ2に対して撮影の要求を、互いに同期して行う(ステップS49)。レーダ1はスキャンの要求を受信する(ステップS50)と、スキャン平面内をスキャンして、そのスキャン平面内に存在する物標の方位θjを検知すると共に、検知した物標ごとに、距離djおよび相対速度vjを計算したのち(ステップS51)、計測されたレーダ情報(θi,di,vi)を制御部3に送信する(ステップS52)。なお、ここでのθや、d、vのサフィックスiは1以上、レーダ1によって検知された物標の数以下の整数である。他方、ステレオカメラ2は、撮影の要求を受信する(ステップS53)と、自動車Cの前方のステレオ画像を撮影する(ステップS54)と共に、そのステレオ画像を制御部3に送信する(ステップS55)。
【0060】
次に、制御部3は、レーダ1からのレーダ情報(θi,di,vi)およびステレオカメラ2からのステレオ画像を受信する(ステップS56)。すると、まず、制御部3は、式(1)および以下の式(10)~(13)を用いて、受信したレーダ情報(θi,di,vi)を右カメラ座標系の3次元座標(XmRi,YmRi,ZmRi)および左カメラ座標系の3次元座標(XmLi,YmLi,ZmLi)に変換すると共に、右カメラ座標系の2次元座標(Xmri,Ymri)および左カメラ座標系の2次元座標(Xmli,Ymli)に変換する(ステップS57)。続いて、制御部3は、受信したステレオ画像の中から、物標の角を抽出することにより、各物標の右カメラ座標系の2次元座標(Xrj,Yrj)および左カメラ座標系の2次元座標(Xlj,Ylj)を求める(ステップS58)。なお、ここでのXr,Yr,Xl,Ylのサフィックスjは1以上、ステレオ画像の中から検知された物標の総数以下の整数である。
【0061】
【数10】
JP0004918676B2_000011t.gif
【数11】
JP0004918676B2_000012t.gif
【数12】
JP0004918676B2_000013t.gif
【数13】
JP0004918676B2_000014t.gif

【0062】
なお、式(10)はレーダ座標系の3次元座標を右カメラ座標系の3次元座標へ変換する式であり、式(11)はレーダ座標系の3次元座標を左カメラ座標系の3次元座標へ変換する式である。式(12)は式(10)で得られた3次元座標を2次元座標へ変換する式であり、式(13)は式(11)で得られた3次元座標を2次元座標へ変換する式である。ここで、λは斎次カメラ座標系用係数であり、(Xr,Yr)は右カメラ座標系の2次元座標であり、(Xl,Yl)は左カメラ座標系の2次元座標であり、(XR,YR,ZR)は右カメラ座標系の3次元座標であり、(XL,YL,ZL)は左カメラ座標系の3次元座標であり、fxr,fyrは右カメラの焦点距離を画素の横方向または縦方向のサイズで割った値であり、fxl,fylは左カメラの焦点距離を画素の縦方向または縦方向のサイズで割った値であり、uo,voは右カメラおよび左カメラのそれぞれの光学中心位置の画像座標である。なお、fxl,fyl,uoおよびvoは、上記したステレオカメラ2自身のキャリブレーションにおいて得られたものである。
【0063】
次に、制御部3は、レーダ1によって検知された1または複数の物標が、ステレオカメラ2によって検知された1または複数の物標に含まれているか否かを判定する。すなわちレーダ1によって検知された1または複数の物標と、ステレオカメラ2によって検知された1または複数の物標とのマッチングを行う(ステップS59)。
【0064】
具体的には、まず、レーダ1から得られた2次元座標(Xmri,Ymri),(Xmli,Ymli)と、ステレオカメラ2から得られた2次元座標(Xrj,Yrj),(Xlj,Ylj)とを対比して、互いに同一または近似する座標が存在するか否かを判定する。その結果、互いに同一または近似する座標が存在する場合には、その座標には物標が存在する可能性が高いことになる。続いて、レーダ1から得られた2次元座標(Xmri,Ymri),(Xmli,Ymli)に対応する距離diと、ステレオカメラ2から得られた、レーダ1で検知された物標と同一と思われる物標の2次元座標(Xrj,Yrj),(Xlj,Ylj)の、式(7)によって得られる奥行きZLjとを、存在可能性の高い物標について対比する。その結果、距離diと、奥行きZLjとが一致または近似する(マッチする)場合には、レーダ1が検知した物標と、ステレオカメラ2が検知した物標とが互いに同一の物標であることになり、逆に、マッチしない場合には、レーダ1が検知した物標と、ステレオカメラ2が検知した物標とが互いに異なる物標であることになる。制御部3は、このようにしてマッチングした物標を障害物候補として抽出する(ステップS60)。
【0065】
次に、制御部3は、ステップS50からステップ59を繰り返し行ったときに、障害物候補の物標の距離diの変化の割合と、その奥行きZLjの変化の割合とを対比する(ステップS61)。その結果、距離diの変化の割合と、奥行きZLjの変化の割合とが互いに全く異なる場合には、その物標は実在しない可能性が極めて高いので、その物標を障害物候補から除外する(ステップS62)。なお、互いにほぼ等しい場合には、その物標が実在する可能性が極めて高いので、その物標を障害物候補として残存させる。
【0066】
次に、制御部3は、障害物候補の物標が障害物存在可能領域内にあるか否かを判定する。ここで、障害物存在可能領域とは、障害物が存在することの可能な領域のことであり、例えば、図14に示したような走行路面S1および路側S2を含む。走行路面S1とは、自動車Cが走行可能な路面のことであり、路側S2とは、走行路面S1に沿って設けられた路面のことである。なお、図14では、走行路面S1および路側S2は、車線区分線Lによって区分されている。
【0067】
判定の結果、障害物候補の物標が、例えば図14に示したように、走行路面S1上にある場合には、その物標は、走行路面S1上に存在しうる障害物のリスト(例えば、自動車、バイク、自転車、落下物)の中の一の障害物であることになり、他方、距離diの物標が路側S2上にある場合には、その物標は、路側S2上に存在しうる障害物のリスト(例えば、ガードレール、道路看板)の中の一の障害物であることになる。従って、障害物候補の物標が障害物存在可能領域の外にある場合には、その物標は自動車Cにとって障害物とはなり得ない物標であることになるので、その場合には、その物標を障害物候補から除外する(ステップS63)。このようにして、障害物候補の物標が特定されると共に、その物標の位置が特定される。
【0068】
(障害物7の種類の特定、図12~図14)
次に、制御部3は、例えば、ステレオカメラ2から得られた2次元座標(Xrj,Yrj),(Xlj,Ylj)と、レーダ1から得られた2次元座標(Xmri,Ymri),(Xmli,Ymli)に対応する距離diとから、障害物害物候補の物標の形状および大きさを推定する(ステップS64)。続いて、推定した形状および大きさならびに相対速度viと対応する障害物をリストの中から特定する(ステップS65)。例えば、障害物害物候補の物標が図14の障害物7であり、障害物7が相対速度viで走行している場合には、走行路面S1上に存在しうる障害物のリスト(例えば、自動車、バイク、自転車、落下物)の中からバイクが特定される。このようにして、障害物の種類が特定される。
【0069】
以上のように、本実施の形態では、ステレオカメラ2から得られるステレオ画像から物標との距離に関係する視差情報を得るようにしたので、ステレオカメラ2から得られた右カメラ座標系の2次元座標および左カメラ座標系の2次元座標を、右カメラ座標系の3次元座標および左カメラ座標系の3次元座標に変換することができる。これにより、レーダ1から得られた各物標の座標と、視差情報に基づいて変換された右カメラ座標系の3次元座標および左カメラ座標系の3次元座標とを用いて、レーダ座標系の3次元座標を、右カメラ座標系の3次元座標および左カメラ座標系の3次元座標に変換するためのRr,Rl,Tr,Tlを求めることができる。その結果、走行中に障害物の位置を特定する際に、上記のようにして求められたRr,Rl,Tr,Tlを用いることにより、レーダ1から得られた物標の座標と、ステレオカメラ2から得られた物標の座標とを対比することが可能となる。その結果、存在可能性の高い物標を特定することができる。
【0070】
従って、本実施の形態では、走行中に障害物の位置を特定する際に、レーダ1によって検知された物標の座標と、ステレオカメラ2によって検知された物標の座標とを用いて、物標同士を容易にマッチングさせることができる。
【0071】
特に、本実施の形態では、ステレオカメラ2から得られるステレオ画像から、Y座標とは無関係な、物標との距離に関係する視差情報を得るようにしたので、ステレオカメラ2の俯角が自動車Cの前方の物標を撮影することが可能な範囲内のどのような値になっていようとも、ステレオカメラ2から得られた右カメラ座標系の2次元座標および左カメラ座標系の2次元座標を、右カメラ座標系の3次元座標および左カメラ座標系の3次元座標に常に正確に変換することができる。これにより、レーダ1から得られた各物標の座標と、視差情報に基づいて変換された右カメラ座標系の3次元座標および左カメラ座標系の3次元座標とを用いて、レーダ座標系の3次元座標を、右カメラ座標系の3次元座標および左カメラ座標系の3次元座標に変換するためのRr,Rl,Tr,Tlを常に正確に求めることができる。その結果、走行中に障害物の位置を特定する際に、例えば、自動車Cのサスペンションによりステレオカメラ2の俯角が経時的に変動するような場合であっても、上記のようにして求められたRr,Rl,Tr,Tlを用いることにより、レーダ1から得られた物標の座標と、ステレオカメラ2から得られた物標の座標とを正確に対比することが可能となる。その結果、存在可能性の高い物標を正確に特定することができる。
【0072】
また、本実施の形態では、走行中に障害物の位置を特定する際に、Rr,Rl,Tr,Tlを用いているので、レーダ1によって得られた各物標のレーダ座標系の3次元座標を、奥行き情報を実質的に含ん右カメラ座標系の2次元座標および左カメラ座標系の2次元座標に変換することができる。これにより、レーダ1から得られた、奥行き情報を実質的に含ん各物標の右カメラ座標系の2次元座標および左カメラ座標系の2次元座標と、ステレオ画像に基づいて得られた各物標の右カメラ座標系の2次元座標および左カメラ座標系の2次元座標とを対比することができるので、存在可能性の高い物標を特定することができる。従って、レーダから得られた物標の座標と、ステレオカメラから得られた物標の座標とを用いて、物標同士を容易にマッチングさせることができる。

【0073】
さらに、本実施の形態では、走行中に障害物の位置を特定する際に、示唆情報から物標の奥行きZLjを求めるようにしたので、レーダ1から得られた物標との距離diと、ステレオカメラ2から得られた、レーダ1で検知された物標と同一と思われる物標の奥行きZLjとを対比することができる。これにより、例えば、レーダ1から得られた物標の2次元座標と、ステレオカメラ2から得られた物標の2次元座標とが互いに近接するものの、距離diと奥行きZLjとが互いに大きく異なる場合には、これらを互いに別個の物標として認識することができる。一方、例えば、レーダ1から得られた物標の2次元座標と、ステレオカメラ2から得られた物標の2次元座標とが互いに等しいかまたは近接している場合であって、かつ、距離diと奥行きZLjとが互いに等しいかまたは近接しているときには、これらを互いに同一の物標として認識することができる。
【0074】
このように、走行中に障害物の位置を特定する際に、レーダ1から得られた物標の2次元座標と、ステレオカメラ2から得られた物標の2次元座標とを互いに対比するだけでなく、距離diと奥行きZLjとを互いに対比するようにしたので、レーダ1から得られた物標の2次元座標と、ステレオカメラ2から得られた物標の2次元座標とが互いに近接している場合であっても、それらが互いに異なるものなのか、互いに同一のものなのかを正確に特定することができる。
【0075】
また、本実施の形態では、キャリブレーションにおいて、レーダ1によって検知された各物標の3次元座標(Xmi,Ymi,Zmi)が反射板6上に分布していない場合には、演算により求めたレーダ1の俯角ξおよびずれ角φを用いて、3次元座標(Xmi,Ymi,Zmi)を補正するようにしたので、レーダ1の向きに起因する誤差をRr,Rl,Tr,Tlから取り除くことができる。これにより、レーダ1から得られた物標の座標と、ステレオカメラ2から得られた物標の座標とを極めて正確に対比することが可能となるので、走行中に障害物の位置を特定する際に、レーダ1によって検知された物標の座標と、ステレオカメラ2によって検知された物標の座標とを用いて、物標同士を極めて正確にマッチングさせることができる。
【0076】
また、本実施の形態では、走行中に障害物の位置を特定する際に、レーダ1から得られた物標との距離diの変化の割合と、ステレオカメラ2から得られた、レーダ1で検知された物標と同一と思われる物標の奥行きZLjの変化の割合とを対比するようにしたので、レーダ1から得られた物標の2次元座標と、ステレオカメラ2から得られた物標の2次元座標とが互いに近接している場合であっても、それらが互いに異なるものなのか、互いに同一のものなのかを極めて正確に特定することができる。これにより、走行中に障害物の位置を特定する際に、レーダ1によって検知された物標の座標と、ステレオカメラ2によって検知された物標の座標とを用いて、物標同士を極めて正確にマッチングさせることができる。
【0077】
また、本実施の形態では、障害物7の位置および種類を特定したのちに、レーダ1によって検知された障害物7のレーダ情報(θi,di,vi)およびステレオカメラ2によって検知された障害物7のステレオ画像のいずれか一方に何らかの不具合(例えばノイズの混入)が発生して、いずれか一方の情報を使うことができなくなった場合であっても、使うことの可能な方の情報だけを用いて、障害物7の位置を追跡することができる。この場合に、双方の情報を用いて障害物7の位置を追跡していたときから、一方の情報だけを用いて障害物7の位置を追跡するように切り換えた瞬間に、障害物7の位置が不連続に変動することはない。障害物7の位置を追跡する際には、キャリブレーションによって得られた定数を含む式(1)、(7)、(10)~(13)を用いているので、レーダ1によって検知された物標の座標と、ステレオカメラ2によって検知された物標の座標とを、一の座標系のほぼ同一の座標に変換することができるからである。
【0078】
以上、実施の形態および実施例を挙げて本発明を説明したが、本発明は、これらに限定されるものではなく、種々の変形が可能である。
【図面の簡単な説明】
【0079】
【図1】本発明の一実施の形態に係る物標検知装置の概略構成図である。
【図2】図1の反射板の一構成例を説明するための図である。
【図3】図1の反射板の他の構成例を説明するための図である。
【図4】物標検知装置のキャリブレーションを行う際の配置図である。
【図5】俯角ξを説明するための側面図である。
【図6】ずれ角φを説明するための上面図である。
【図7】物標検知装置のキャリブレーション手順を説明するための流れ図である。
【図8】図7に続く手順を説明するための流れ図である。
【図9】図8に続く手順を説明するための流れ図である。
【図10】図9に続く手順を説明するための流れ図である。
【図11】障害物の検知についての手順を説明するための流れ図である。
【図12】図11に続く手順を説明するための流れ図である。
【図13】図12に続く手順を説明するための流れ図である。
【図14】障害物の検知についての手順を説明するための斜視図である。
【符号の説明】
【0080】
1…レーダ、2…ステレオカメラ、21…右カメラ、22…左カメラ、3…制御部、4…記憶部、5…表示部、6…反射板、6A…反射ブロック、6B…吸収ブロック、6C…平板、6D…リフレクタ、7…障害物、A…スキャン平面、B…(Xm,Zm)平面、C…自動車、d1,d2…半径、S1…走行路面、S2…非走行路面、X1…車軸、X2,X3…線分、ξ…俯角、φ…ずれ角。
Drawing
(In Japanese)【図1】
0
(In Japanese)【図2】
1
(In Japanese)【図3】
2
(In Japanese)【図4】
3
(In Japanese)【図5】
4
(In Japanese)【図6】
5
(In Japanese)【図7】
6
(In Japanese)【図8】
7
(In Japanese)【図9】
8
(In Japanese)【図10】
9
(In Japanese)【図11】
10
(In Japanese)【図12】
11
(In Japanese)【図13】
12
(In Japanese)【図14】
13