TOP > 国内特許検索 > 同期タイミング検出システム及び検出方法、測距システム及び測位システム、並びに受信装置及びそのプログラム > 明細書

明細書 :同期タイミング検出システム及び検出方法、測距システム及び測位システム、並びに受信装置及びそのプログラム

発行国 日本国特許庁(JP)
公報種別 公開特許公報(A)
公開番号 特開2016-085208 (P2016-085208A)
公開日 平成28年5月19日(2016.5.19)
発明の名称または考案の名称 同期タイミング検出システム及び検出方法、測距システム及び測位システム、並びに受信装置及びそのプログラム
国際特許分類 G01S   5/30        (2006.01)
H04N   5/232       (2006.01)
FI G01S 5/30
H04N 5/232 Z
請求項の数または発明の数 17
出願形態 OL
全頁数 23
出願番号 特願2015-196873 (P2015-196873)
出願日 平成27年10月2日(2015.10.2)
優先権出願番号 2014216549
優先日 平成26年10月23日(2014.10.23)
優先権主張国 日本国(JP)
発明者または考案者 【氏名】橋爪 宏達
【氏名】杉本 雅則
【氏名】秋山 尚之
出願人 【識別番号】504202472
【氏名又は名称】大学共同利用機関法人情報・システム研究機構
【識別番号】504173471
【氏名又は名称】国立大学法人北海道大学
個別代理人の代理人 【識別番号】100101454、【弁理士】、【氏名又は名称】山田 卓二
【識別番号】100081422、【弁理士】、【氏名又は名称】田中 光雄
【識別番号】100125874、【弁理士】、【氏名又は名称】川端 純市
審査請求 未請求
テーマコード 5C122
5J083
Fターム 5C122EA59
5C122FC02
5C122FH01
5C122FH11
5C122FJ01
5C122FJ04
5C122HA42
5C122HA88
5J083AA01
5J083AC30
5J083AC40
5J083AD01
5J083AD04
5J083BA01
5J083BE18
5J083CA10
要約 【課題】従来技術に比較して短時間でしかも高精度で同期タイミングを検出することができる。
【解決手段】所定のクロックに同期して変調された光信号及び音響信号を発生して送信する送信装置と、光信号及び音響信号を受信する受信装置とを備えた同期タイミング検出システムであって、受信装置は、光信号を撮像して、複数のラインを含むビデオストリーム信号及びフレームストローブ信号を含む画像信号を発生して出力するCMOSビデオカメラと、ビデオストリーム信号から光信号の特徴点タイミングを検出して当該検出タイミングを出力する同期タイミング抽出処理部と、同期タイミングカーブ信号を発生し、ビデオストリーム信号と当該発生した同期タイミングカーブ信号との相関値を計算し、最大の相関値を検索基準として上記光信号の特徴点タイミングを検出して当該検出タイミングを出力する同期タイミング抽出処理部とを備える。
【選択図】図10
特許請求の範囲 【請求項1】
所定の周期を有する同期タイミングカーブ信号に従って変調された光信号を発生して送信する送信装置と、
上記光信号を受信する受信装置とを備えた同期タイミング検出システムであって、
上記受信装置は、
ローリングシャッター効果を有するビデオカメラであって、上記光信号を撮像して、複数のラインを含むビデオストリーム信号及びフレームストローブ信号を含む画像信号を発生して出力するビデオカメラと、
上記同期タイミングカーブ信号と同一の同期タイミングカーブ信号を発生し、上記ビデオストリーム信号と当該発生した同期タイミングカーブ信号との相関値を計算し、最大の相関値を検索基準として上記光信号の特徴点タイミングを検出して当該検出タイミングを出力する同期タイミング抽出処理部とを備えることを特徴とする同期タイミング検出システム。
【請求項2】
上記同期タイミングカーブ信号は、上記画像信号のフレーム周期の2倍の周期を有する信号であって、奇数次調波成分から構成される信号であることを特徴とする請求項1記載の同期タイミング検出システム。
【請求項3】
上記検出タイミングを上記ビデオストリーム信号の各ラインと比較することで、上記フレームストローブ信号を基準とする上記検出タイミングの時刻を、所定の同期タイミングとして検出する計測処理部をさらに備えることを特徴とする請求項1又は2記載の同期タイミング検出システム。
【請求項4】
上記送信装置は、上記同期タイミングカーブ信号に従って変調された光信号及び音響信号を発生して送信し、
上記受信装置は、上記光信号及び上記音響信号を受信し、
上記計測処理部は、上記フレームストローブ信号を基準とする上記検出タイミングの時刻を、上記受信された音響信号の同期タイミングとして検出することを特徴とする請求項3記載の同期タイミング検出システム。
【請求項5】
上記同期タイミング抽出処理部は、上記光信号の特徴点タイミングが上記ビデオストリーム信号のいずれかのラインの開始タイミングと一致するときに当該一致したタイミングを検出タイミングとして出力することを特徴とする請求項4記載の同期タイミング検出システム。
【請求項6】
上記計測処理部は、上記光信号の特徴点タイミングが上記ビデオストリーム信号のk番目のラインの開始タイミングと一致するときに、次式を用いて、上記フレームストローブ信号から上記検出タイミングまでの時間Sを計算し、
S=((k-1)/N)Tp
ここで、Nは上記ビデオストリーム信号の最大ライン数であり、上記フレームストローブ信号のフレーム周期であり、
上記フレームストローブ信号に上記時間Sを加算することで上記検出タイミングを検出することを特徴とする請求項5記載の同期タイミング検出システム。
【請求項7】
上記計測処理部は、上記光信号の特徴点タイミングが上記ビデオストリーム信号のk番目のラインの開始タイミングと一致するときに、次式を用いて、上記フレームストローブ信号から上記検出タイミングまでの時間Sを計算し、
S=((k-1)/N)(Tp-D)
ここで、Nは上記ビデオストリーム信号の最大ライン数であり、上記フレームストローブ信号のフレーム周期であり、Dは上記ビデオストリーム信号の各ライン間のデットタイムであり、
上記フレームストローブ信号に上記時間Sを加算することで上記検出タイミングを検出することを特徴とする請求項5記載の同期タイミング検出システム。
【請求項8】
上記同期タイミング抽出処理部は、上記光信号の特徴点タイミングが、上記ビデオストリーム信号の隣接する2つのラインの開始タイミング間で補間した時刻と一致するときに当該一致したタイミングを検出タイミングとして出力することを特徴とする請求項1~4のうちのいずれか1つに記載の同期タイミング検出システム。
【請求項9】
請求項4~8のうちのいずれか1つに記載の同期タイミング検出システムを備え、
上記計測処理部は、上記検出タイミングと、上記受信された音響信号の受信タイミングとの時間差から上記音響信号の伝搬時間を計算し、当該伝搬時間に音響信号の伝搬速度を乗算することにより、上記送信装置と上記受信装置との間の距離を計算することを特徴とする測距システム。
【請求項10】
請求項9記載の測距システムを備え、
上記送信装置は、互いに異なる位置に設けられる複数のスピーカであって、互いに異なる周波数を有する複数の音響信号、もしくは同一の周波数を有し所定の時間差で順次送信される複数の音響信号をそれぞれ送信する複数のスピーカを備え、
上記計測処理部は、複数の音響信号に基づいて、上記複数のスピーカと上記受信装置との間の各距離を計算し、上記計算した各距離に基づいて上記受信装置の位置を測位することを特徴とする測位システム。
【請求項11】
所定の周期を有する同期タイミングカーブ信号に従って同期して変調された光信号を発生して送信する送信装置と、
上記光信号を受信する受信装置とを備えた同期タイミング検出システムのための同期タイミング検出方法であって、
ローリングシャッター効果を有するビデオカメラが、上記光信号を撮像して、複数のラインを含むビデオストリーム信号及びフレームストローブ信号を含む画像信号を発生して出力するステップと、
同期タイミング抽出処理部が、上記同期タイミングカーブ信号と同一の同期タイミングカーブ信号を発生し、上記ビデオストリーム信号と当該発生した同期タイミングカーブ信号との相関値を計算し、最大の相関値を検索基準として上記光信号の特徴点タイミングを検出して当該検出タイミングを出力するステップとを含むことを特徴とする同期タイミング検出方法。
【請求項12】
上記同期タイミングカーブ信号は、上記画像信号のフレーム周期の2倍の周期を有する信号であって、奇数次調波成分から構成される信号であることを特徴とする請求項11記載の同期タイミング検出方法。
【請求項13】
計測処理部が、上記検出タイミングを上記ビデオストリーム信号の各ラインと比較することで、上記フレームストローブ信号を基準とする上記検出タイミングの時刻を、所定の同期タイミングとして検出するステップをさらに含むことを特徴とする請求項11又は12記載の同期タイミング検出方法。
【請求項14】
同期タイミング検出システムのための受信装置であって、
上記受信装置は、
ローリングシャッター効果を有するビデオカメラであって、所定の周期を有する同期タイミングカーブ信号に従って変調された光信号を撮像して、複数のラインを含むビデオストリーム信号及びフレームストローブ信号を含む画像信号を発生して出力するビデオカメラと、
上記ビデオストリーム信号と所定の同期タイミングカーブ信号との相関値を計算し、最大の相関値を検索基準として上記光信号の特徴点タイミングを検出して当該検出タイミングを出力する同期タイミング抽出処理部と、
上記検出タイミングを上記ビデオストリーム信号の各ラインと比較することで、上記フレームストローブ信号を基準とする上記検出タイミングの時刻を、所定の同期タイミングとして検出する計測処理部とを備えることを特徴とする受信装置。
【請求項15】
上記同期タイミングカーブ信号は、上記画像信号のフレーム周期の2倍の周期を有する信号であって、奇数次調波成分から構成される信号であることを特徴とする請求項14記載の受信装置。
【請求項16】
コンピュータにより実行される、同期タイミング検出システムのための受信装置用プログラムであって、
ローリングシャッター効果を有するビデオカメラにより、所定の周期を有する同期タイミングカーブ信号に従って変調されて受信された変調光信号を撮像して、複数のラインを含むビデオストリーム信号及びフレームストローブ信号を含む画像信号が発生されて出力されるビデオストリーム信号と上記同期タイミングカーブ信号との相関値を計算し、最大の相関値を検索基準として上記変調光信号の特徴点タイミングを検出して当該検出タイミングを出力するステップと、
上記検出タイミングを上記ビデオストリーム信号の各ラインと比較することで、上記フレームストローブ信号を基準とする上記検出タイミングの時刻を、所定の同期タイミングとして検出するステップとを含むことを特徴とする、コンピュータにより実行されるプログラム。
【請求項17】
上記同期タイミングカーブ信号は、上記画像信号のフレーム周期の2倍の周期を有する信号であって、奇数次調波成分から構成される信号である請求項15記載のプログラム。
発明の詳細な説明 【技術分野】
【0001】
本発明は、例えばスマートホンやタブレット端末などの多機能携帯端末(スマート端末)等で、その屋内における測位(座標位置の決定)を高精度で行うため、端末と計測システムの間の時刻同期を高速かつ高精度で行う同期タイミング検出システム及び検出方法、上記同期タイミング検出システムを用いた測距システム、並びに、上記測距システムを用いた測位システム、並びに受信装置及びそのプログラムに関する。
【背景技術】
【0002】
電波や音波を使用し、移動端末と位置のわかったビーコンとの間の伝搬遅延時間を測定すれば、伝搬速度を既知として距離がわかり、多点測量により移動端末の座標値を決定できる。屋外ではマイクロ波を使用し、衛星をビーコンとしたGNSS(Global Navigation Satellite System:GPSに代表される衛星測位システム)の利用が普及しているが、その電波の届かない屋内では、音波を使用したシステムの使われることが多い。音波としては非可聴の超音波や、利用者に不快感を与えない高域可聴音などの使用が提唱されている。
【0003】
近年、スマートホンやタブレット端末のようなスマート端末(多機能端末)の一般化により、屋内においてその位置を精密に計測し、建物内の案内など、位置に依存するサービスを提供したいという要望が多い。それらスマート端末は可聴音域のマイクロホンを装備していることから、15kHz~22kHz程度の高域可聴音の音波を使うと、特に付加装備なしに、また測定音響で使用者を煩わせることなしに、多点測量による測位を実施できる。
【0004】
伝搬遅延に基づく多点測量の原理にはTDoA(Time Difference of Arrival)とToA(Time of Arrival)の2種がある。TDoA計測はビーコン系と被計測スマート端末の間に時刻同期の成立していない場合に採用される方式で、三次元計測なら、その三次元座用(x,y,z)に加え、時刻tも未知数として扱う。そのため未知数の総数に対応し最低4台のビーコンを使用する。また、ToA計測は両者の時刻同期の成立している場合に採用される方式である。全システム要素は共通の時計をもち、スマート端末はビーコンからいつ音波が発信されるかを既知とする。よって音波到着の時刻からその伝搬時間を直接に抽出でき、三次元計測には未知数(x,y,z)と同数の3台のビーコンがあればよい。
【0005】
TDoAとToAの計測性能上の優劣は、単に必要ビーコン数だけではない。計測原理から、TDoAではスマート端末の位置を、固定ビーコンを焦点とする双曲線の交点として求める。それに対しToAでは固定ビーコンを中心とする円の交点として求める。両者の幾何学的性質の違いから、TDoA計測は計測精度が計測信号源の方向(距離方向)で劣化する現象が知られている。TDoA計測を行っているGNSSを使うカーナビで、経度緯度情報は比較的良好だが、高度情報は対して大きな誤差を伴うことは周知である。
【先行技術文献】
【0006】

【特許文献1】特許第4041899号公報
【特許文献2】特許第5213045号公報
【特許文献3】特開2014-155213号公報
【特許文献4】特許第4621924号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
発明者の予備実験では、17kHz程度の高域可聴音を使ったスマート端末の測位で、ビーコンから数メートルの距離において、ビーコンの横方向(アジマス方向)では2.5cm程度であった計測精度が、ビーコンに対する距離方向(レンジ方向)では20cm程度と10倍ほど悪化した。もしスマート端末とビーコンで時刻同期が成立していれば、ToAによる計測をでき、同一の条件で、レンジ方向においてもアジマス方向と同程度の精度での計測を実施できたものと考えられる。
【0008】
ToA計測を実施するためには、スマート端末とビーコンシステムの間の時刻同期機能を準備するが、時刻同期精度が悪いと位置計測精度はそれに起因してかえって劣化する。もし測位システムとしての精度目標を数センチメートルにとり、同期精度はそれに大きな影響を与えない数ミリメートル程度に抑えようとすれば、空気中の音速と勘案して、時刻同期機能は10マイクロ秒内外の精度で時刻同期を行わなければならない。
【0009】
発明者らはかつて、その精度要求を満たす測位用同期システムとして、PC間の時刻同期プロトコルを利用したNTP方式を提案した(特許文献1参照)。しかし、NTP方式では移動端末のクロック周波数を通信により推定し、それをシステム側と合わせる処理を行うため、同期成立まで、数分間~数10分間の同期通信を行う必要があった。また割り込みの伴うソフトウェア処理をするため、情報処理の時間遅れに不定さが伴い、精度を劣化させる。それを低減するためにも一定時間の通信による統計的平均化を必要とした。これらのことから、スマート端末のような、その場ですぐ計測を開始する要求のある場合には使用が困難であった。
【0010】
また、ビデオ機能と変調光を使い、システムの同期をとる先行発明が例えば特許文献2において開示されている。これは高速度カメラを使用し、ビデオのフレームレートの半分の周波数の矩形波の変調光により、PLLの原理で、システム側とカメラシステムのクロック同期を得る発明である。
【0011】
さらに、ローリングシャッター現象を利用して同期タイミングを検出する方法が例えば特許文献3に開示されている。この特許文献3の発明では、スレーブカメラからマスターカメラに対して確実に撮影動作の同期化を図るために、露光して被写体を撮像する撮像素子を有するカメラであって、基準とするタイミングで明滅する光を前記撮像素子により撮像して得られる撮影画像の明るさ変化のタイミングに基づいて、前記基準とするタイミングで明滅する光の明滅タイミングを検出する検出手段と、当該検出手段により検出された明滅タイミングに基づき、前記撮像素子が露光する露光タイミングを調整する調整手段とを備えるカメラが開示されている。しかしながら、画像の最上端ラインと最下端ラインとの間の中央部で同期タイミングを検出するように固定されて同期タイミングの検出精度が悪い。また、同期タイミングを検出するシーク動作においてフレームレートを変更できる特別な機能をもつカメラを必要とし、かつシーク完了までの所要時間は初期状態の同期誤差により決まるが、それが不定であるため、一定時間で同期タイミングを確実に検出する保証がないという問題点があった。
【0012】
本発明の目的は以上の問題点を解決し、市販の一般的なCMOSカメラを使用しつつ、従来技術に比較して短時間でしかも高精度で同期タイミングを検出することができる同期タイミング検出システム及び検出方法、そのための受信装置及びそのプログラムを提供することにある。
【0013】
また、本発明のもう1つの目的は、上記同期タイミング検出システムを用いて、従来技術に比較して、短時間でしかも高精度で測距できる測距システムを提供することにある。
【0014】
さらに、本発明の別の目的は、上記測距システムを用いて、従来技術に比較して、短時間でしかも高精度で測位できる測位システムを提供することにある。
【課題を解決するための手段】
【0015】
第1の発明の同期タイミング検出システムは、
所定の周期を有する同期タイミングカーブ信号に従って変調された光信号を発生して送信する送信装置と、
上記光信号を受信する受信装置とを備えた同期タイミング検出システムであって、
上記受信装置は、
ローリングシャッター効果を有するビデオカメラであって、上記光信号を撮像して、複数のラインを含むビデオストリーム信号及びフレームストローブ信号を含む画像信号を発生して出力するビデオカメラと、
上記同期タイミングカーブ信号と同一の同期タイミングカーブ信号を発生し、上記ビデオストリーム信号と当該発生した同期タイミングカーブ信号との相関値を計算し、最大の相関値を検索基準として上記光信号の特徴点タイミングを検出して当該検出タイミングを出力する同期タイミング抽出処理部とを備えることを特徴とする。
【0016】
上記同期タイミング検出システムにおいて、上記同期タイミングカーブ信号は、上記画像信号のフレーム周期の2倍の周期を有する信号であって、奇数次調波成分から構成される信号であることを特徴とする。
【0017】
また、上記同期タイミング検出システムにおいて、上記検出タイミングを上記ビデオストリーム信号の各ラインと比較することで、上記フレームストローブ信号を基準とする上記検出タイミングの時刻を、所定の同期タイミングとして検出する計測処理部をさらに備えることを特徴とする。
【0018】
さらに、上記同期タイミング検出システムにおいて、上記送信装置は、上記同期タイミングカーブ信号に従って変調された光信号及び音響信号を発生して送信し、
上記受信装置は、上記光信号及び上記音響信号を受信し、
上記計測処理部は、上記フレームストローブ信号を基準とする上記検出タイミングの時刻を、上記受信された音響信号の同期タイミングとして検出することを特徴とする。
【0019】
またさらに、上記同期タイミング検出システムにおいて、上記同期タイミング抽出処理部は、上記光信号の特徴点タイミングが上記ビデオストリーム信号のいずれかのラインの開始タイミングと一致するときに当該一致したタイミングを検出タイミングとして出力することを特徴とする。
【0020】
また、上記同期タイミング検出システムにおいて、上記計測処理部は、上記光信号の特徴点タイミングが上記ビデオストリーム信号のk番目のラインの開始タイミングと一致するときに、次式を用いて、上記フレームストローブ信号から上記検出タイミングまでの時間Sを計算し、
S=((k-1)/N)Tp
ここで、Nは上記ビデオストリーム信号の最大ライン数であり、上記フレームストローブ信号のフレーム周期であり、
上記フレームストローブ信号に上記時間Sを加算することで上記検出タイミングを検出することを特徴とする。
【0021】
さらに、上記同期タイミング検出システムにおいて、上記計測処理部は、上記光信号の特徴点タイミングが上記ビデオストリーム信号のk番目のラインの開始タイミングと一致するときに、次式を用いて、上記フレームストローブ信号から上記検出タイミングまでの時間Sを計算し、
S=((k-1)/N)(Tp-D)
ここで、Nは上記ビデオストリーム信号の最大ライン数であり、上記フレームストローブ信号のフレーム周期であり、Dは上記ビデオストリーム信号の各ライン間のデットタイムであり、
上記フレームストローブ信号に上記時間Sを加算することで上記検出タイミングを検出することを特徴とする。
【0022】
またさらに、上記同期タイミング検出システムにおいて、上記同期タイミング抽出処理部は、上記光信号の特徴点タイミングが、上記ビデオストリーム信号の隣接する2つのラインの開始タイミング間で補間した時刻と一致するときに当該一致したタイミングを検出タイミングとして出力することを特徴とする。
【0023】
第2の発明に係る測距システムは、
上記同期タイミング検出システムを備え、
上記計測処理部は、上記検出タイミングと、上記受信された音響信号の受信タイミングとの時間差から上記音響信号の伝搬時間を計算し、当該伝搬時間に音響信号の伝搬速度を乗算することにより、上記送信装置と上記受信装置との間の距離を計算することを特徴とする。
【0024】
上記測距システムにおいて、
上記送信装置は、互いに異なる位置に設けられる複数のスピーカであって、互いに異なる周波数を有する複数の音響信号、もしくは同一の周波数を有し所定の時間差で順次送信される複数の音響信号をそれぞれ送信する複数のスピーカを備え、
上記計測処理部は、複数の音響信号に基づいて、上記複数のスピーカと上記受信装置との間の各距離を計算し、上記計算した各距離に基づいて上記受信装置の位置を測位することを特徴とする。
【0025】
第3の同期タイミング検出方法は、
所定の周期を有する同期タイミングカーブ信号に従って同期して変調された光信号を発生して送信する送信装置と、
上記光信号を受信する受信装置とを備えた同期タイミング検出システムのための同期タイミング検出方法であって、
ローリングシャッター効果を有するビデオカメラが、上記光信号を撮像して、複数のラインを含むビデオストリーム信号及びフレームストローブ信号を含む画像信号を発生して出力するステップと、
同期タイミング抽出処理部が、上記同期タイミングカーブ信号と同一の同期タイミングカーブ信号を発生し、上記ビデオストリーム信号と当該発生した同期タイミングカーブ信号との相関値を計算し、最大の相関値を検索基準として上記光信号の特徴点タイミングを検出して当該検出タイミングを出力するステップとを含むことを特徴とする。
【0026】
上記同期タイミング検出方法において、上記同期タイミングカーブ信号は、上記画像信号のフレーム周期の2倍の周期を有する信号であって、奇数次調波成分から構成される信号であることを特徴とする。
【0027】
また、上記同期タイミング検出方法において、
計測処理部が、上記検出タイミングを上記ビデオストリーム信号の各ラインと比較することで、上記フレームストローブ信号を基準とする上記検出タイミングの時刻を、所定の同期タイミングとして検出するステップをさらに含むことを特徴とする。
【0028】
第4の発明に係る受信装置は、同期タイミング検出システムのための受信装置であって、
上記受信装置は、
ローリングシャッター効果を有するビデオカメラであって、所定の周期を有する同期タイミングカーブ信号に従って変調された光信号を撮像して、複数のラインを含むビデオストリーム信号及びフレームストローブ信号を含む画像信号を発生して出力するビデオカメラと、
上記ビデオストリーム信号と所定の同期タイミングカーブ信号との相関値を計算し、最大の相関値を検索基準として上記光信号の特徴点タイミングを検出して当該検出タイミングを出力する同期タイミング抽出処理部と、
上記検出タイミングを上記ビデオストリーム信号の各ラインと比較することで、上記フレームストローブ信号を基準とする上記検出タイミングの時刻を、所定の同期タイミングとして検出する計測処理部とを備えることを特徴とする。
【0029】
上記受信装置において、上記同期タイミングカーブ信号は、上記画像信号のフレーム周期の2倍の周期を有する信号であって、奇数次調波成分から構成される信号であることを特徴とする。
【0030】
第5の発明に係る同期タイミング検出システムのための受信装置用プログラムは、コンピュータにより実行される、同期タイミング検出システムのための受信装置用プログラムであって、
ローリングシャッター効果を有するビデオカメラにより、所定の周期を有する同期タイミングカーブ信号に従って変調されて受信された変調光信号を撮像して、複数のラインを含むビデオストリーム信号及びフレームストローブ信号を含む画像信号が発生されて出力されるビデオストリーム信号と上記同期タイミングカーブ信号との相関値を計算し、最大の相関値を検索基準として上記変調光信号の特徴点タイミングを検出して当該検出タイミングを出力するステップと、
上記検出タイミングを上記ビデオストリーム信号の各ラインと比較することで、上記フレームストローブ信号を基準とする上記検出タイミングの時刻を、所定の同期タイミングとして検出するステップとを含むことを特徴とする。
【0031】
上記プログラムにおいて、上記同期タイミングカーブ信号は、上記画像信号のフレーム周期の2倍の周期を有する信号であって、奇数次調波成分から構成される信号であることを特徴とする。
【発明の効果】
【0032】
本発明に係る同期タイミング検出システム及び検出方法によれば、ローリングシャッター効果を有するビデオカメラを用いて、光信号を撮像して、複数のラインを含むビデオストリーム信号及びフレームストローブ信号を含む画像信号を発生して出力し、上記ビデオストリーム信号から上記光信号の特徴点タイミングを検出して当該検出タイミングを出力し、上記同期タイミングカーブ信号と同一の同期タイミングカーブ信号を発生し、上記ビデオストリーム信号と当該発生した同期タイミングカーブ信号との相関値を計算し、最大の相関値を検索基準として上記光信号の特徴点タイミングを検出して当該検出タイミングを出力する。ここで、上記同期タイミングカーブ信号は、例えば、上記画像信号のフレーム周期の2倍の周期を有する信号であって、奇数次調波成分から構成される信号であり、上記検出タイミングを上記ビデオストリーム信号の各ラインと比較することで、上記フレームストローブ信号を基準とする上記検出タイミングの時刻を、所定の同期タイミングとして検出する。従って、従来技術に比較して短時間でしかも高精度で同期タイミングを検出することができる。また、上記同期タイミング検出システムを用いて、従来技術に比較して、短時間でしかも高精度で測距できる測距システムを提供できる。さらに、上記測距システムを用いて、従来技術に比較して、短時間でしかも高精度で測位できる測位システムを提供できる。
【図面の簡単な説明】
【0033】
【図1】本発明の実施形態1に係る測位システムの構成を示すブロック図である。
【図2】図1の計測コントローラ2の構成を示すブロック図である。
【図3】図2の計測コントローラ2の動作を示す各信号のタイミングチャートである。
【図4】図1の被測定スマート端末装置3の構成を示すブロック図である。
【図5】図4の被測定スマート端末装置3の動作を示す各信号のタイミングチャートである。
【図6】図4の被測定スマート端末装置3のCMOSビデオカメラ3により測定される変調光原1の明るさを示す画素値の時間波形を示す波形図である。
【図7】図6の波形の詳細測定値を示す波形図である。
【図8】図1の測位システムの実験結果である、15回の同期測定の誤差を示すグラフである。
【図9】図1の測位システムの実験結果である、回帰式の標準誤差を示すグラフである。
【図10】本発明の実施形態2に係る測位システムのための被測定スマート端末装置3Aの構成を示すブロック図である。
【図11】図10の実施形態2において用いる同期タイミングカーブ信号を説明するための信号波形であって、変調光源1をフレーム1でオフ、フレーム2でオンという矩形波的明滅をさせたときにCMOSビデオカメラ4の動画センサでのフレームの各ラインに記録される明度を示す信号波形図である。
【図12】図11において積分時間の割合η=0.88のときの信号波形図である。
【図13】実施形態2において用いる同期タイミングカーブ信号の第1の例を示す信号波形図である。
【図14】図13の同期タイミングカーブ信号に対応する受光素子の相対明度を示すグラフである。
【図15】実施形態2において用いる同期タイミングカーブ信号の第2の例を示す信号波形図である。
【図16】図15の同期タイミングカーブ信号に対応する受光素子の相対明度を示すグラフである。
【発明を実施するための形態】
【0034】
以下、本発明に係る実施形態について図面を参照して説明する。

【0035】
図1は本発明の一実施形態に係る測位システムの構成を示すブロック図である。図1において、本実施形態に係る測位システムは、送信装置100と受信装置200とを備えて構成される。ここで、送信装置100は、変調光源1と、変調光源1の近傍において(実質的に同一の位置において)互いに所定の距離だけ離隔された例えば3個のスピーカS1,S2,S3と、変調光源1及びスピーカS1~S3の動作を制御する計測コントローラ2とを備えて構成される。受信装置200は、ローリングシャッター効果を有するCMOSビデオカメラ(なお、ローリングシャッター効果を有するビデオカメラであれば、CMOSカメラでなくてもよい)4及びマイクロホン5を備えた被測定スマート端末装置3を備えて構成される。本実施形態に係る測位システムは、変調光源1からの変調光と、スピーカS1~S3からの音響信号に基づいて、被測定スマート端末装置3によりそれらを受信して同期タイミングを検出した後、各スピーカS1~S3から被測定スマート端末装置3までの距離を測距し、それらの距離に基づいて被測定スマート端末装置3の位置を測位することを特徴としている。すなわち、本実施形態に係る測位システムは、同期タイミング検出システム及び測距システムを含む。

【0036】
本発明の実施形態では、前記の特許文献1における問題点を回避するため、変調光源1から変調光を生成し、それを被測定スマート端末装置3のCMOSビデオカメラ4で観測することにより当該システムの時刻同期を行うものである。被測定スマート端末装置3は動画撮影用の一般的なCMOSビデオカメラ4を備えており、当該CMOSビデオカメラ4を用いて光学的手法による時刻同期をすることが期待できる。また、CMOSビデオカメラ4は音響計測と同時に使用できるため、ToA計測にもとづく測位を付加機構なく実施するのに適している。その一方で、CMOSビデオカメラ4の撮像素子は、毎秒60フレームなどの速度で動画を記録するので、単にフラッシュ的な発光を使用したのでは、フレーム周期である16ミリ秒程度の時間分解能しか得られず、測位に必要な10マイクロ秒程度の同期精度は達成できなかった。

【0037】
本実施形態では、撮像素子のフレーム周期を超える時間分解能を得るため、撮像素子のローリングシャッター歪みを利用する。近年、スマート端末を含め民生用のビデオカメラの撮像素子にはCMOS撮像素子が広く採用されている。感度特性や解像度、コストなどで有利なためであるが、高速で動く物体を撮影した場合、ローリングシャッター歪みという現象が発生することが知られている(例えば、特許文献3参照)。これは、CMOS撮像素子はフォトダイオードを横方向のライン毎に駆動し、上下のラインで駆動タイミングをわずかにずらしているため、4角形の水平移動物体を撮影したとき、ライン毎にずれた時刻で記録され、平行四辺形にゆがんだ形で撮影されてしまう現象である。本実施形態はこのCMOS撮像素子固有の特性を逆に利用し、特定の波形で強度変調した照明光を用い、高精度な時刻動機を得ることを特徴としている。

【0038】
変調光源をフレームレートf(フレーム周期T=1/f)、ライン数Nのローリングシャッター方式のCMOS撮像素子で録画した場合、画面に記録される画像(濃淡)について説明する。説明では簡単のため広い領域で均一に発光する面光源が所定のタイミングで変調されており、それを撮像素子の全記録領域で記録した場合について記載する。

【0039】
光源は撮像素子のフレームレートのm倍の周期で周期的に発光しているとし、その時間波形をb(t)とする。またその複素フーリエ係数をβとする。すなわち、次式を得る。ただし、mは2以上の整数である。

【0040】
【数1】
JP2016085208A_000003t.gif

【0041】
ここでは、b(t)の周期性を仮定しているが、mを大きくとることで広い範囲のb(t)に対応できる。

【0042】
この光源を上記の撮像素子で撮影した場合、光源は十分大きいという仮定により、撮像素子の像の各ラインは横方向で濃淡の差はなく、縦方向でのみローリングシャッター効果で生じる濃淡変化がある。変調光源の周期性の仮定から、記録される画像はmフレームを周期にくりかえすので、mフレーム分の画像を縦につなぎ、M=mNラインの撮像素子であるかのように考える。Mラインの記録画像のμライン目の明るさをCμと書くことにする。

【0043】
現在市販されている撮像素子のように、Nが十分大きければ、そしてその結果Mが十分大きければ、x=(μ-1)/Mなるパラメータで画素お縦方向は連続的として表記してもよく、するとCμを連続化したC(x)は複素フーリエ級数γに展開でき、すなわち次式を得る。

【0044】
【数2】
JP2016085208A_000004t.gif

【0045】
ここで、aはカメラや撮像素子の感度を表現する係数である。また、C(x)は変調光源b(t)の輝度変化について、それをローリングシャッター効果を介して記録しており、両者の関係は複素フーリエ係数により次式を得る。

【0046】
【数3】
JP2016085208A_000005t.gif
この関係を用いて、変調光源b(t)の波形の特徴部を、カメラに記録された濃淡Cμの対応する特徴部として抽出でき、変調光源の特定の波形送出タイミングを撮像素子に記録された濃淡から抽出できる。これが変調光源とローリングシャッター効果をもつ撮像素子を利用したタイミング検出システムの原理である。

【0047】
以上、十分大きな面光源を変調光源とした場合について説明したが、領域の限られた光源、あるいは面光源を複数の点光源で構成した場合についても、Cμの空間分布にそれに対応するマスクがかかったものと考えると、同様に複素フーリエ係数の関係が成立し、本発明の方式のタイミング検出を実行できる。光源の変調パターンはスペクトルが既知であればよく、送信装置と受信装置は一体で設計されたものでも、独立に設計されたものでもよい。なお、変調光源はシステム外部のものであってもよい。

【0048】
本実施形態では位相同期ループ(PLL)ないしそれに伴う位相比較・シーク動作を用いておらず、従って変調光の用い方もそのようなシステムとは異なっている。特許文献2の発明では、システム全体のクロックの持続的同期を目的としているが、本実施形態は測位のための音波発生の単一タイミングをとることを目的としており、同期の意味が異なる。特許文献1の発明では、同期の信号波形のみからは音波発生の特定タイミングを知ることはできない。また、特許文献2は同期手法としてPLLを用いる関係で、ループ中にローパスフィルタ(LPF)を持ち、同期成立のセトリング時間を長引かせる。本実施形態ではPLLを使わず、代わってCMOSビデオカメラの撮像素子のローリングシャッター機構に時間分解を行わせることで、汎用品の低速撮像素子を使っても迅速で正確な同期を成立させる。PLLの場合、長時間の同期維持をしても、依然としてループゲインに対応する残留位相誤差を持つ。またその誤差を減らそうとしてループゲインを上昇させるとループ安定性の確保が困難となる。本実施形態は観測時間の延長によって、統計処理により理論上いくらでも同期誤差を低減させることができる。また、特許文献2の発明では、持続同期のためフレームレートを変化させられる特殊撮像機構を想定するが、本実施形態ではそのようなものは必要ない。

【0049】
次いで、本システムを音響測位システムとして使用する場合の構成及び動作について以下詳述する。

【0050】
図1において、送信装置100の計測コントローラ2は、特定のクロックによるタイミングに基づき、変調光源1及び例えば3個のスピーカS1~S3の動作をあわせて制御する。ここで、スピーカS1~S3は変調光源1の実質的に同一の位置であって互いに所定の距離だけ離隔されて配置される。被測定スマート端末装置3は、本測位システムによりその座標位置を求めようとする移動端末装置であり、通常、利用者が携行しつつ送信システム付近に持ち込むことを想定している。これは同時に複数あってもよい。被測定スマート端末装置3はローリングシャッター動作をするCMOSビデオカメラ4とマイクロホン5を備えており、また測位処理のための信号処理機能を有する。

【0051】
被測定スマート端末装置3は以下に述べるアルゴリズムにより、変調光をビデオカメラ4で観測することで、スピーカS1~S3から複数の音響信号の送出されたタイミングを知る(タイミング同期)ことができる。また、マイクロホン5により、伝搬してきた複数の音響信号の受信された時刻を知り、その時間差から各音響信号の伝搬時間を得る。これに音響信号(音波)の伝搬速度を乗じることでスピーカS1~S3と被測定スマート端末装置3との間の距離を得る(図4の計測処理部8)。座標位置を既知とする3台のスピーカS1~S3からの各距離を計測することで、(x,y,z)の3未知数の方程式を解くことができ、被測定スマート端末装置3の3次元位置を求められる(図4の計測処理部8)。

【0052】
なお、座標位置を既知とする2台のスピーカからの各距離を計測することで、(x,y)の2未知数の方程式を解くことができ、被測定スマート端末装置3の2次元位置を求めてもよい。

【0053】
また、変調光によるタイミング同期を行うことで、到来時間(ToA)に基づく測位が可能となる。スピーカ数を4台とすれば、当該システムのタイミング同期をとることなく、到来時間差(TDoA)による測位をできるが、余剰なスピーカS1~S3の設置を必要とし、また一般にTDoA測位は、音源への距離方向において計測精度の悪化する欠点をもつ。本実施形態に係る測位システムは変調光源のタイミング同期機能を導入することで、その欠点を回避している。

【0054】
図2は図1の計測コントローラ2の構成を示すブロック図である。図2において、計測コントローラ2は、タイミング制御回路15と、発光駆動信号派生ROM10と、3個の音響信号発生ROM11,12,13と、4個のDA変換/ドライバ20,21,22,23とを備えて構成される。計測コントローラ2は、複数のLEDが例えば格子形状で配列されてなる変調光源1と、3個のスピーカS1~S3との動作を制御する。変調光源1の発光駆動信号の変調パターンは発光駆動信号発生ROM10に格納されており、音響信号の各波形は音響信号発生ROM11~13に格納されており、タイミング制御回路15からのクロックに基づいて各ROM10~13から周期的に読み出されて発光駆動信号及び音響信号が発生される。発光駆動信号発生ROM10からの発光駆動信号は例えばパルス形状を有し、DA変換/ドライバ20によりDA変換及び増幅された後、変調光源1に入力され、変調光源1を駆動する。これにより、変調光原1から変調光が放射される。また、音響信号発生ROM11~13からの各音響信号はそれぞれ例えば所定の時間期間であって各周波数(後述するFDM方式では、3つの異なる周波数f1,f2,f3;TDM方式のときは例えば同一の周波数f0)を有し、DA変換/ドライバ21~23によりDA変換及び増幅された後、スピーカS1~S3に入力され、スピーカS1~S3を駆動する。これにより、スピーカS1~S3から所定の音響信号が放射される。

【0055】
図3は図2の計測コントローラ2の動作を示す各信号のタイミングチャートである。図3は変調光と音響信号の放射タイミングの一例を示しており、この例では変調光は簡単のためONとOFFの2状態のみを使用し、矩形波で駆動している。t1,t2,…,t8が基本タイミングであり、当該基本タイミングt1~t8の1セットが繰り返して発生し、各基本タイミングt1~t8からの所定の周期Tp(各基本タイミング間の時間期間をいう。なお、本実施形態において、発光駆動信号の周期はm=2にとり2Tpとしている(図3及び図5参照))を被測定スマート端末装置3のビデオフレームレートに等しく選んで設定される。ビデオカメラ4で一般的なフレームレートは59.94Hz(周期Tp=16.683ms)なので、例えばそのように設定する。また、各音響信号は変調光のタイミングにあわせ、例えば基本タイミングt1の立ち上がりで発生させる。被測定スマート端末装置3では、スピーカS1~S3からの周波数が異なる各音響信号を例えばバンドパスフィルタ(BPF)を用いて弁別する必要があるが、例えばFDM(周波数分割多重)方式で、異なる周波数f1,f2,f3の音響信号を各スピーカS1~S3から送出する。

【0056】
なお、変形例では、TDM(時分割多重)方式で、同一の周波数f0を有する音響信号を、基本タイミングt1,t3,t5などの立ち上がりにあわせて各スピーカS1~S3を駆動してもよい。

【0057】
変調光の明滅を複数回行うことで、あるいは音響信号の生成を繰り返すことで、被測定スマート端末装置3において、統計処理により同期タイミング検出精度を向上させ、また距離検出精度を向上させることができる。そのためこの例では、基本タイミングt1~t8の動作を所定の周期で繰り返して行わせている。なお、基本タイミングt7,t8で明滅パターンを変更しているのは、繰り返しのフレーム構造(音響生成タイミング)をスマート端末装置3に伝達するためであるが、必要なければこの変更を置かなくてもよい。

【0058】
図4は図1の被測定スマート端末装置3の構成を示すブロック図であり、図5は図4の被測定スマート端末装置3の動作を示す各信号のタイミングチャートである。図4において、被測定スマート端末装置3は、CMOSビデオカメラ4と、マイクロホン5と、AD変換器6と、同期タイミング抽出処理部7と、計測処理部8と、ディスプレイ9とを備えて構成される。なお、同期タイミング抽出処理部7及び計測処理部8は、例えば被測定スマート端末装置3のCPU(コンピュータの制御装置)により実行されるアプリケーションプログラムで構成される。

【0059】
図4において、CMOSビデオカメラ4は変調光源1からの変調光を受信し、受信した変調光に基づいて、ビデオフレームを走査線数Nラインでスキャンしたビデオストリーム信号と、ラインスキャンの繰り返しタイミング(垂直同期信号)を示すフレームストローブ信号Fとを発生し、前者のビデオストリーム信号を同期タイミング抽出処理部7に出力し、後者のフレームストローブ信号Fを計測処理部8に出力する。図5に示すように、フレームストローブ信号Fの立ち上がりtfは、走査ライン1の測光開始タイミングtv1と一致しているものとする。同期タイミング抽出処理部7は、ビデオストリーム信号を解析することで、基本タイミングt1,t2,…,t8の立ち上がりタイミングと一致した測光開始タイミングtvkをもつ走査ラインkを求めることができ、その測光開始タイミングts(=tvk)を計測処理部8に伝える。

【0060】
スピーカS1~S3からの各音響信号はマイクロホン5により受信されて電気信号に変換された後、AD変換器6によりAD変換された後、AD変換後のオーディオストリーム信号は計測処理部8に入力される。ここで、フレームストローブFの立ち上がりタイミングtfから時間期間Sだけ遅れたタイミングtsで送出されたことがわかることで計測処理部8により同期タイミングを検出でき、当該検出タイミングtsとマイクロホン5でとらえた各音響信号(タイミングtsよりも遅延して到着する)を比較し、音響信号の伝搬遅延時間を算出することができる。

【0061】
同期タイミング抽出処理の原理を示す図5において、CMOSビデオカメラ4のCMOSイメージセンサは、各走査ラインの測光開始タイミングが走査ライン毎にずれた、ローリングシャッター動作をしているものとする。ライン1~Nの撮像素子でとらえられた変調光源1の明るさ(画素値)は、撮像素子の変調光源1のオン/オフタイミングの位相により決定する。そのうちで、k番目の走査ラインの測光開始タイミングtvkが、変調光源1の明滅位相の開始タイミングtsと完全に合致すれば、このラインで観測した変調光の明るさは一番明るく(オンタイミング)、ないし暗く(オフタイミング)なる。計測処理部8は、上述のように各音響信号毎に各スピーカS1~S3と被測定スマート端末装置3との間の距離を計測することで、(x,y,z)の3未知数の方程式を解くことができ、被測定スマート端末装置3の3次元位置を求められる。求めた3次元の位置は位置情報としてディスプレイ9に表示される。

【0062】
図6は図4の被測定スマート端末装置3のCMOSビデオカメラ3により測定される変調光原1の明るさを示す画素値の時間波形を示す波形図である。図6に示すように、ビデオフレームでとらえた変調光源1の明るさは、ライン位置に応じて、k番目のラインを頂点とする三角波の形状となる。

【0063】
直感的にわかりやすいよう、変調光源に矩形波を使用し、それが撮像素子では三角波として記録されることを説明したが、式(1)により複素フーリエ級数の関係で計算しても同様の結果を得られ、またそれを利用すれば、変調光源には特徴点を備えたより広い範囲の変調波形を採用できる。

【0064】
矩形波による説明に戻ると、その立ち上がりタイミングを特徴点として使用することで、それが三角波の折り返しタイミングすなわちk番目のラインの開始タイミングに対応させている。それは、フレームストローブ信号Fの立ち上がりタイミングtfにtvkまでの遅延時間Sを加えたタイミングであり、Sは(tvk-tf)で計算でき、ビデオのフレームレートTpに基づいて次式で表される。

【0065】
S=((k-1)/N)Tp

【0066】
ここで、Nはビデオストリーム信号の最大ライン数である。kは整数値であるが、SN比の高い計測をすることで、あるいは統計処理により実効SN比を向上させることで、ラインごとの離散的な観測による明暗の三角波を連続的な直線で補間し、kを小数部をもつ実数値として求めることもできる。これは計測精度向上に寄与する。

【0067】
CMOSビデオカメラ4の動作モードによっては、図6に示すように、フレームスキャンの測光動作で、ラインNとライン1の測光開始時刻の間にデッドタイムDが生じる場合がある。その時もデットタイムDは既知なので次式の修正式を用いればよい。

【0068】
S=((k-1)/N)(Tp-D)

【0069】
ラインkの位置は、CMOSビデオカメラ4からの出力画像データに対し、三角波に対応する直線をフィッティングし、その交点として求めることができる。あるいは三角波を時刻方向にずらしながら乗じて相関処理し、その相関値のピークとして求めることができる。
【実施例】
【0070】
本実施形態に係る光学的同期タイミング検出手法について、その性能を実験により確認した結果を記述する。複数の赤外LEDからなる変調光源1を1メートル離した位置におき、それを59.94Hzのフレームレートをもつ、1920×1080ピクセルのCMOSビデオカメラ4で観測した。
【実施例】
【0071】
図7は図6の波形の詳細測定値を示す波形図であり、具体的には、動画フレームの、隣接する奇数フレームと偶数フレームのペア1個分について、奇数フレームと偶数フレームで測定される山形と谷形の相補的な明度変化を山形に統一した波形p(x)を示す。図7において、このピークに相当するライン位置の、ローリングシャッター開始時刻が求める同期時刻である。計測精度は、計測されるピークのライン位置のばらつき、すなわち標準偏差として求められる。
【実施例】
【0072】
図8は図1の測位システムの実験結果である、15回の同期測定の誤差を示すグラフである。すなわち、図8は上述のように求めた15回の同期測定のばらつきを示す。図8から明らかなように、標準偏差は1ライン分、時間のばらつきに換算して9μsである。
【実施例】
【0073】
図9は図1の測位システムで期待されるタイミング検出精度を示したものである。隣接する奇数フレームと偶数フレームのペアにつき、直線回帰により三角波をフィッティングし、その折り返し点を求める操作を複数回行い、統計処理により、平均化に使用するフレームペア数と達成される同期精度(70%信頼区間)の関係は図9のようになる。この図から明らかなように、約20フレームペア分、すなわち59.94Hzのフレームレートで1秒未満の計測で4μsの同期精度を得られる。これに対して音響遅延の計測は、それ単独では、特許文献3に開示された手法によって、2メートルの距離で8μsの標準偏差、すなわち音速を340m/sとした換算で2.7mmの精度で実行できることがわかっている。本実施形態に係る光学的同期タイミング検出手法で音響信号発生のタイミングを知り、遅延して到着した音響信号と比べて伝搬時間を求め、距離を計測した場合、総合的な誤差は
【数4】
JP2016085208A_000006t.gif
(約3mm)と見積もれる。音響的な距離計測のための時刻同期手法として、本実施形態に係る光学的同期タイミング検出手法は十分な性能を持つと言える。
【実施例】
【0074】
以上のように構成された本実施形態に係る測位システムによれば、従来技術に比較して短時間でしかも高精度で同期タイミングを検出することができる。また、上記同期タイミング検出システムを用いて、従来技術に比較して、短時間でしかも高精度で測距できる測距システムを提供できる。さらに、上記測距システムを用いて、従来技術に比較して、短時間でしかも高精度で測位できる測位システムを提供できる。
【実施例】
【0075】
以上の実施形態では、同期タイミング抽出処理部7は、ビデオストリーム信号Fから上記光信号の立ち上がりタイミング又は立ち上がりタイミングを検出して当該検出タイミングを出力し、計測処理部8は、当該出タイミングをビデオストリーム信号Fの各ラインと比較することで、フレームストローブ信号Fを基準とする上記検出タイミングの時刻を、受信した音響信号の同期タイミングとして検出している。しかし、本発明はこれに限らず、音響信号を送受信せずに、計測処理部8は、当該出タイミングをビデオストリーム信号Fの各ラインと比較することで、フレームストローブ信号Fを基準とする上記検出タイミングの時刻を、例えば2つのカメラ間で光信号を送受信してシャッター同期のための同期タイミングなどの所定の同期タイミングとして検出してもよい。
【実施例】
【0076】
実施形態2.
図10は本発明の実施形態2に係る測位システムのための被測定スマート端末装置3Aの構成を示すブロック図である。実施形態2に係る被測定スマート端末装置3Aは、実施形態1に係る同期タイミング抽出処理部7に代えて、同期タイミング抽出処理部7Aを備えたことを特徴とする。ここで、送信装置側の変調光源1は詳細後述する所定の同期タイミングカーブ信号に従って変調することで変調波を発生し、受信装置側の同期タイミング抽出処理部7Aは、上記同期タイミングカーブ信号と同一の同期タイミングカーブ信号を生成する同期タイミングカーブ信号生成部31と、上記ビデオストリーム信号と当該発生した同期タイミングカーブ信号との相関値を計算し、最大の相関値を検索基準として上記光信号の特徴点タイミングを検出して当該検出タイミングtsを出力する相関処理部32とを備える。
【実施例】
【0077】
実施形態1では、変調光源1の変調光は矩形波、すなわちオン又はオフの2値をとる場合に限定していた。変調光によるローリングシャッターによる同期の概念を直感的に説明するのには適した波形であるが、実際の使用目的にこれが最適というわけではない。変調光源1の複数のLEDの駆動電流を調節することで、容易に連続的な輝度変調をかけることができ、矩形波以外の変調光を生成できる。そのような変調光の種類のうちで、用途に対し矩形波より優れた性質をもつものがある。
【実施例】
【0078】
変調光源1の変調光が矩形波だった場合はローリングシャッター動作をする受光素子にとらえられるパターンは、三角波的な増減をすることは前述したとおりである。しかし、より一般の変調パターンを使用した場合は、受光素子に現れるパターンは三角波になるとは限らず、それは上記式(1)に述べた関係で求まる波形となる。よって同期検出は三角波を前提として直線のスロープを検出する手法に代えて、任意の強弱パターンに対し相関演算を行い、相関係数のピークを得て、それで同期検出する手法をとることができる。
【実施例】
【0079】
またこれも簡単のため、これまでCMOS動画センサのようなローリングシャッター動作をする受光素子は、そのフレーム時間全体にわたり入射光を積分していると仮定していた。しかし実際の素子の動作は異なる。一般のCMOS動画センサーは入射光の積分と、それで得た電荷のAD変換/バス転送動作を繰り返していて、後者の時間も無視できないので、フレーム時間における積分時間の割合は最大で90パーセント強である。撮影の都合で、さらにこの積分時間の割合を意図的に少なくする操作をすることもある。電子シャッターと呼ばれる機能だが、それを調節することで、動きの速い被写体のブレ防止や、動画受光素子の感度調整を行う。
【実施例】
【0080】
CMOSビデオカメラ4の動画受光素子のフレーム時間における積分時間の割合をηで記述する。ここで、積分時間の割合ηは0<η≦1の値をとる。積分時間の割合ηを変化することによって、変調光源1のローリングシャッター効果による画像は影響を受ける。変調光源1を、フレーム1でLEDがオフ、フレーム2でLEDがオンという矩形波的明滅をさせたとき、CMOSビデオカメラ4の動画センサのフレームの各ラインに記録される明度は図11の信号波形のようになる。
【実施例】
【0081】
図11は図10の実施形態2において用いる同期タイミングカーブ信号を説明するための信号波形であって、変調光源1をフレーム1でオフ、フレーム2でオンという矩形波的明滅をさせたときにCMOSビデオカメラ4の動画センサでのフレームの各ラインに記録される明度を示す信号波形図である。また、図12は図11において積分時間の割合η=0.88のときの信号波形図である。
【実施例】
【0082】
ここでは、変調光源1のオフ/オンの切り替わりタイミングと、CMOSビデオカメラ4のローリングシャッター受光素子の第1ラインの積分開始時間が一致した場合について、当該受光素子で記録される濃淡パターン(明度)を図11に図示した。一般にはそのような一致はせず、フレーム内のあるk番目のラインに一致するため、明度のピークもk番目のライン位置に移動する。例としてη=0.88の場合をとりあげれば、矩形波の変調光は図12のような濃淡パターンでとらえられる。これは、実施形態1で使用した積分時間の割合η=1の場合(点線)とは異なり、台形状の平坦部をもつものである。
【実施例】
【0083】
現実の受光素子の動作は積分時間の割合η≠1で、ピークの位置に平坦部をもつことから、特許文献2のような、受光素子に三角波的な折れ曲がった濃淡パターンの得られることを期待する同期検出機構ではピーク検出はうまく行かない場合がある。特許文献2の段落0060において記載している「まずスロープ部を検出し、そこからピークの屈曲点を計算する手法」ならη≠1の平坦部があってもピーク検出は可能だが、図12から明らかなように、元来あるべきピーク位置とは少しずれた位置に同期点を求めてしまい、系統誤差を生じることになる。
【実施例】
【0084】
しかしながら、変調光源1の変調光に一般の変調パターンを使用し、同期検出に理論的な強弱パターンとの相関を使用する方法によれば、矩形波より特性のよい同期検出を行い、また0<η≦1の積分時間割合いで動作させても正しい同期時刻を検出できる。それは次のように行う。上記式(1)に受光素子の積分時間の割合をあらわすパラメータηを導入する。それは受理するフレーム数mをm/ηで置き換えればよく、次式を得る。
【実施例】
【0085】
【数5】
JP2016085208A_000007t.gif
【実施例】
【0086】
図11の濃淡パターンは式(2)により得られたものである。受光素子のパターンをこの平坦部をもつ理論パターンと相関処理すると、正しい同期タイミング位置に相関ピークを生じるので、それで正確な同期検出をできる。
【実施例】
【0087】
次いで、同期タイミングカーブ信号の変形例について以下に説明する。
【実施例】
【0088】
図13は実施形態2において用いる同期タイミングカーブ信号の第1の例を示す信号波形図である。また、図14は図13の同期タイミングカーブ信号に対応する受光素子の相対明度を示すグラフである。
【実施例】
【0089】
CMOSビデオカメラ4の動画受光素子が積分時間の割合η=0.88で動作していることを発光側に連絡し、受光素子に三角波的な濃淡パターンを生じるように、変調光源1の変調パターンを修正することもできる。図13の変調パターンがそれで、これを使用すると三角波的な濃淡パターンが正しいライン位置にピークを持った形で得られる。ここで、対照のため、矩形波を使った場合の波形も点線で示した。このように修正した図13の変調パターンを使うことで、相関によらず、これまで説明で使った直線スロープを検出するような同期検出機構によっても、同期タイミングを正しく求められる。
【実施例】
【0090】
一般的な変調パターンによれば、動画受光素子に三角波的なもの以外の濃淡パターンを生じさせることも容易である。同期検出機構に相関を使用するとすれば、濃淡パターンとしてはピークを強く持った、言い換えれば空間フーリエ級数展開したとき高調波成分の多く含むパターンを使うと、相関ピーク検出の精度を高められる。図15がその例であり、この変調光で濃淡パターンのピークを強調できる。
【実施例】
【0091】
図15は実施形態2において用いる同期タイミングカーブ信号の第2の例を示す信号波形図である。また、図16は図15の同期タイミングカーブ信号に対応する受光素子の相対明度を示すグラフである。
【実施例】
【0092】
変調光源1に一般の変調パターンを使用し、ローリングシャッター効果をもつCMOSビデオカメラ4の受光素子に記録された濃淡パターンから相関処理で同期点を検出するように拡張した同期検出システムについて記載する。このことで上述のように、矩形波より柔軟で、より精度の高い同期システムを構築できる。
【実施例】
【0093】
ここで、変調光源1の発光パターンとして使用すると都合のよい波形、またそれでCMOSビデオカメラ4の動画受光素子に記録される濃淡パターンについて注記する。受光素子は積分時間の割合η≠1ではあるが、比較的1に近いシャッター開度で使用されるのが通常である。この場合、式(1)又は式(2)によれば、受光素子に記録される波形の調波成分は、偶数次調波は減衰し、主に奇数次調波のみ残留する。変調光源1の発光パターンで、フレーム周波数の1/2を基本周波数としてその偶数次調波成分があったとしても、ローリングシャッター効果により、記録時に強い減衰を受け、信号として検出されない。よって光源の変調波形は基本周波数を含め奇数次調波のみで構成すると発光エネルギーを効率よく使用できる。
【実施例】
【0094】
変調光源1の変調波形にはフレーム周期の2倍を基本周期とする、任意の繰り返し波形を使用できるが、効率の観点から、実用上は奇数次調波成分のみの波形を使うとよい。目的に応じて、矩形波より性能のよい波形の存在するのは前に述べた通りであるが、これらもすべて奇数次高調波のみからなる波形で構成した。
【実施例】
【0095】
画像信号のフレーム周期の2倍を繰り返し周期として、奇数次の高調波成分のみからなる発光パターンの波形的特徴を定性的に以下に説明する。
【実施例】
【0096】
変調光源1の発光波形について、その成分の最低レベルを0、最高レベルを1としたとき、発光の平均値は0.5となる。フレーム周期を時間tの1単位としたとき、0≦t<1の波形を平均値0.5を軸として反転し、1≦t<2の部分に移動して接続する。こうしてできた波形の変動成分は奇数次成分のみをもつ。逆に奇数次成分のみからなる波形は必ずこの形状的特徴をもつ。
【実施例】
【0097】
変調光源1の変動成分が奇数次調波のみからなるときは、CMOSビデオカメラ4のローリングシャッターの動画受光素子で記録される濃淡波形の変動成分を空間フーリエ級数解析した係数も奇数次のみとなる。奇数次調波から構成される波形の特徴は上に述べたとおりである。発光波形がその特徴を備える場合、受光素子上の明暗分布も、形は違うが同じ特徴をもつものとなる。その関係は上記式(1)又は式(2)になり、フーリエ級数の係数βにかかる係数の部分はローリングシャッター効果を周波数フィルタで表現したものとなっている。
【実施例】
【0098】
このフィルタ係数は、奇数次調波では基本的に零点をとらないことから、撮像素子上の明暗分布を奇数次調波で与えれば、逆数の係数、つまり逆フィルタを構成できる。奇数次調波からなる明暗分布波形は、それに対応する発光波形をもつ。この原理により目的に応じた明暗分布を設計し、発光波形を合成することができる。
【実施例】
【0099】
次いで、任意波形の発光パターンによる時刻同期システムの構成例を次に述べる。
【実施例】
【0100】
変調光源1は、図2の発光駆動信号発生ROM10などの波形メモリをもち、そこに記録された強弱パターンで光に強度変調をかけながら照射する。mを2以上の整数として、変調光源1はCMOSビデオカメラ4のフレームレートの1/mの基本周波数(m倍の基本周期)で強度変調された光を発生する。ここまでは、m=2に選んだ場合で説明したが、それに限らない。もちろん変調パターンは矩形波に限らず、任意の波形としてよい。上記波形メモリには、あらかじめ用意した同期タイミングカーブ信号の信号波形を入れておいてもよいし、同期を求めている端末から無線通信等で送られた要求の同期タイミングカーブ信号波形を再生してもよい。
【実施例】
【0101】
図10において、同期をとりたい被測定スマート端末装置3Aは、ローリングシャッター効果をもつ動画センサであるCMOSビデオカメラ4を搭載し、上記変調パターンによる変調光を受信し、ローリングシャッター効果を伴って受光された動画出力のビデオストリーム信号を相関処理部32に送り出す。これに並行して、端末装置3A内の同期タイミングカーブ信号生成部31では、使用される変調パターンがローリングシャッター効果にともない生じるはずの強弱パターン、すなわち同期タイミングカーブ信号を生成してこれを相関処理部32に送る。同期タイミングカーブ信号は式(2)を逆フーリエ変換したものである。使用する変調パターンは、測定シナリオで送信装置側及び受信装置側であらかじめ決めておいてもよいし、送信装置側から受信装置側へ、あるいは受信装置側から送信装置側へ、測定の都度、無線通信等の方法で波形を伝達してもよい。ここで、同期タイミングカーブ信号は、好ましくは、画像信号のフレーム周期の2倍の周期を有する信号であって、奇数次調波成分から構成される信号である。
【実施例】
【0102】
相関処理部32はCMOSビデオカメラ4の動画センサから出力されるビデオストリーム信号と、同期タイミングカーブ信号の空間系列をずらしながら相関処理を行い、その相関値の最大値ピークを得る。上記は空間波形としての濃淡パターンを相関に使用するものだが、同じことを周波数空間でも行うことができる。すなわち、同期タイミングカーブ信号生成部31では式(2)をフーリエ係数のまま保存しておき、CMOSビデオカメラ4の動画センサで得られた濃淡パターンをフーリエ級数展開し、両者の積をとり、逆フーリエ変換することでも相関値の最大値ピークを検出できる。次いで、計測処理部8は動画センサーから送られたフレームストローブ信号と相関処理部32からの相関ピーク信号のタイミングtsを比較し、検出された同期タイミング情報を出力する。以降の処理は実施形態1と同様である。
【実施例】
【0103】
以上説明したように、実施形態2によれば、従来技術に比較して短時間でしかも高精度で同期タイミングを検出することができる。また、上記同期タイミング検出システムを用いて、従来技術に比較して、短時間でしかも高精度で測距できる測距システムを提供できる。さらに、上記測距システムを用いて、従来技術に比較して、短時間でしかも高精度で測位できる測位システムを提供できる。
【符号の説明】
【0104】
1…変調光源、
2…計測コントローラ、
3,3A…被測定スマート端末装置、
4…CMOSビデオカメラ、
5…マイクロホン、
6…A/D変換器、
7,7A…同期タイミング抽出処理部、
8…計測処理部、
9…ディスプレイ、
10…発光駆動信号発生ROM、
11~13…音響信号発生ROM、
15…タイミング制御回路、
20~23…DA変換/ドライバ、
31…同期タイミングカーブ信号生成部、
32…相関処理部、
100…送信装置、
200…受信装置、
S1~S3…スピーカ。
図面
【図1】
0
【図2】
1
【図3】
2
【図4】
3
【図5】
4
【図6】
5
【図7】
6
【図8】
7
【図9】
8
【図10】
9
【図11】
10
【図12】
11
【図13】
12
【図14】
13
【図15】
14
【図16】
15