TOP > 国内特許検索 > 情報提供方法及び情報提供システム > 明細書

明細書 :情報提供方法及び情報提供システム

発行国 日本国特許庁(JP)
公報種別 特許公報(B2)
特許番号 特許第4982715号 (P4982715)
公開番号 特開2010-050757 (P2010-050757A)
登録日 平成24年5月11日(2012.5.11)
発行日 平成24年7月25日(2012.7.25)
公開日 平成22年3月4日(2010.3.4)
発明の名称または考案の名称 情報提供方法及び情報提供システム
国際特許分類 H04N   7/18        (2006.01)
G06K   7/10        (2006.01)
H04N   5/64        (2006.01)
H04N   5/225       (2006.01)
G02B  27/02        (2006.01)
G06K  19/06        (2006.01)
FI H04N 7/18 N
G06K 7/10 P
H04N 5/64 511A
H04N 5/225 Z
H04N 5/225 A
G02B 27/02 Z
G06K 19/00 E
請求項の数または発明の数 11
全頁数 15
出願番号 特願2008-213373 (P2008-213373)
出願日 平成20年8月21日(2008.8.21)
新規性喪失の例外の表示 特許法第30条第1項適用 1.平成20年2月26日、関西学院大学主催の「関西学院大学理工学部情報科学科2007年度卒業研究発表会(G3)」において発表
審査請求日 平成22年6月4日(2010.6.4)
特許権者または実用新案権者 【識別番号】503092180
【氏名又は名称】学校法人関西学院
発明者または考案者 【氏名】河野 恭之
個別代理人の代理人 【識別番号】100084375、【弁理士】、【氏名又は名称】板谷 康夫
【識別番号】100121692、【弁理士】、【氏名又は名称】田口 勝美
【識別番号】100125221、【弁理士】、【氏名又は名称】水田 愼一
審査官 【審査官】松田 岳士
参考文献・文献 特開2000-347128(JP,A)
特開2006-276748(JP,A)
特開2006-259829(JP,A)
特開2000-112651(JP,A)
特開2004-233877(JP,A)
特開2004-268258(JP,A)
特開2007-192883(JP,A)
特開2008-146108(JP,A)
特開2005-253800(JP,A)
調査した分野 H04N 7/18
G02B 27/02
G06K 7/10
G06K 19/06
H04N 5/225
H04N 5/64
特許請求の範囲 【請求項1】
移動可能な対象物上に、再帰性反射特性を有する透明な物質で構成され、前記対象物自体の付加情報に対応するマーカパターンからなる不可視マーカを予め配置しておき、この不可視マーカに対応する前記対象物自体の付加情報をユーザに提供する情報提供方法であって、
前記対象物に、可視光下で赤外光を照射して、可視光と赤外光の下での画像(以下、可視赤外画像という)を撮像するステップと、
前記赤外光を照射しないで、可視光のみの下における画像(以下、可視画像という)を撮像するステップと、
前記可視赤外画像と可視画像との差分画像を生成するステップと、
前記差分画像に含まれる不可視マーカを検出するステップと、
前記検出した不可視マーカに対応する前記対象物自体の付加情報をユーザに提供するステップとを含むことを特徴とする情報提供方法。
【請求項2】
赤外線領域及び可視光領域の両方の周波数領域の光を撮像可能な1台のカメラに設けられた赤外光発光手段を用いて、赤外光の点灯状態と消灯状態とで、前記可視赤外画像と前記可視画像とを撮像することを特徴とする請求項1に記載の情報提供方法。
【請求項3】
前記カメラは、ユーザが携帯又は装着可能であることを特徴とする請求項2に記載の情報提供方法。
【請求項4】
前記検出した不可視マーカに対応する前記対象物自体の付加情報を、表示手段に表示させてユーザに提供することを特徴とする請求項1乃至請求項3のいずれか1項に記載の情報提供方法。
【請求項5】
前記表示手段は、ユーザが携帯又は装着可能なディスプレイであることを特徴とする請求項4に記載の情報提供方法。
【請求項6】
前記移動可能な対象物上に前記不可視マーカを塗布することにより、前記対象物上に前記不可視マーカを配置することを特徴とする請求項1乃至請求項5のいずれか1項に記載の情報提供方法。
【請求項7】
移動可能な対象物に配置された、該対象物自体の付加情報に対応するマーカパターンからなる不可視マーカと、1台のカメラと、前記不可視マーカに対応する前記対象物自体の付加情報をユーザに提供するための情報提供手段とを含む情報提供システムであって、
前記不可視マーカは、再帰性反射特性を有する透明な物質で構成され、
前記カメラは、
赤外光を照射するための赤外光発光手段と、
赤外線領域及び可視光領域の両方の周波数領域の光を撮像可能な撮像手段と、
前記赤外光発光手段を用いて前記対象物に可視光下で赤外光を照射した状態で、可視光と赤外光の下での画像(以下、可視赤外画像という)を前記撮像手段により撮像する処理と、前記赤外光を照射しないで、可視光のみの下における画像(以下、可視画像という)を撮像する処理とを実行するように制御する撮像制御手段とを有し、
前記可視赤外画像と可視画像との差分画像を生成する差分画像生成手段と、
前記差分画像に含まれる不可視マーカを検出する不可視マーカ検出手段とをさらに備えることを特徴とする情報提供システム。
【請求項8】
前記情報提供手段は、前記対象物自体の付加情報を表示する表示手段であることを特徴とする請求項7に記載の情報提供システム。
【請求項9】
前記表示手段は、ユーザが携帯又は装着可能なディスプレイであることを特徴とする請求項8に記載の情報提供システム。
【請求項10】
前記カメラは、ユーザが携帯又は装着可能であることを特徴とする請求項7乃至請求項9のいずれか1項に記載の情報提供システム。
【請求項11】
前記不可視マーカは、前記移動可能な対象物上に塗布されることにより、前記対象物上に配置されることを特徴とする請求項7乃至請求項10のいずれか1項に記載の情報提供システム。
発明の詳細な説明 【技術分野】
【0001】
本発明は、対象物の付加情報をユーザに提供する情報提供方法、及び情報提供システムに関する。
【背景技術】
【0002】
対象物に付加情報を付与しておき、当該対象物に接するときに、情報読取機器でその付加情報を簡便に得る方法としては、バーコードやQRコードといったビジュアルマーカ(ビジュアルタグ)、及びパッシブタグやアクティブタグといったICタグなどを用いる方法が知られている。
【0003】
しかし、それぞれの対象物に高価なICタグを取り付けることは、コストアップにつながり、しかも、ICタグを付与できる対象物の構造には制約がある。このため、ICタグは、対象物の存在する場所に取り付けられることが多い。特に、アクティブタグ型のICタグは、電源が必要になるという問題があるため、対象物自体ではなく、対象物の存在する場所に取り付ける必要性がある。従って、パッシブタグやアクティブタグといったICタグは、一般的に、販売店に陳列された衣料品やDVD等の、移動が前提となる(移動可能な)対象物に取り付けるのには向いていない。
【0004】
これに対して、バーコードやQRコードといったビジュアルマーカは、移動可能な対象物に付与され得るし、電源も不要である。しかしながら、従来のビジュアルマーカを対象物自体に付与すると、当該対象物の美感を損ねる。また、従来のビジュアルマーカを対象物の周囲の場所に付与する方法では、対象物周辺の場所の景観を損ねると共に、移動可能な対象物自体にマーカを付与できない。
【0005】
また、上記従来のビジュアルマーカが持つ、対象物周辺の場所の景観を損ねるという問題を解消するために、半透明の再帰性反射材シートを用いたマーカを天井に取り付けて、このマーカを赤外線LED付赤外線カメラ(赤外線領域の光を撮像可能なカメラ)を用いて検出することにより、このマーカに対応した位置情報を得るウェアラブルAR(Augmented Reality)システムが知られている(非特許文献1参照)。しかしながら、上記の半透明の再帰性反射材シートを、模様や装飾が施された場所や、移動可能な対象物に取り付けた場合には、美感上の問題が残る。しかも、上記のウェアラブルARシステムには、通常のカメラと赤外線カメラの両方が必要になるという問題があった。
【0006】
また、上記システムと同様な不可視マーカを用いたARシステムの分野において、同一光軸上に設けられた赤外線カメラと通常のカラーカメラを用いて、カラーカメラで認識物体を追跡し、物体に印刷された赤外線インク(赤外光を照射することにより読み取り可能なインク)による不可視マーカを赤外線カメラで読み取るようにしたものが知られている(非特許文献2参照)。しかしながら、一般に、赤外線インクは、あくまでインクの一種であるため、紙等の、適度にインクを吸収する対象物にしか印刷することができない。また、非特許文献2に記載されたARシステムにも、非特許文献1に記載されたウェアラブルARシステムと同様に、通常のカラーカメラと赤外線カメラの両方が必要になるという問題があった。
【0007】
さらにまた、上記と同様な不可視マーカを用いたARシステムの分野において、不可視マーカを赤外線カメラを用いて撮像した画像に基いて、不可視マーカを検出するHMD(Head Mounted Display)システムが知られている(特許文献1参照)。しかしながら、このシステムは、通常のカメラによる撮影画像と赤外線カメラによる撮像画像とを比較する方式を採用せず、赤外線カメラによる撮像画像のみに基いて不可視マーカを検出するので、必ずしも不可視マーカを正確に検出することができない。

【特許文献1】特開2000-347128号公報
【非特許文献1】中里祐介、外2名、「ウェアラブル拡張現実感のための不可視マーカと赤外線カメラを用いた位置・姿勢推定」、日本バーチャルリアリティ学会論文誌、日本バーチャルリアリティ学会、平成17年9月、第10巻、第3号、p.295-304
【非特許文献2】ハンフン・パク(Hanhoon Park)、外1名、「不可視マーカに基づく拡張現実感システム」("Invisible Marker Based Augumented Reality System")、視覚的通信手順と画像処理2005("Proceedings of Visual Communications and Image Processing (VCIP) 2005")、平成17年7月、中華人民共和国、第5960巻、p.501-508
【発明の開示】
【発明が解決しようとする課題】
【0008】
本発明は、上記の問題を解決するためになされたものであり、マーカを付与された対象物の美感を損ねることなく、移動可能な対象物自体にマーカを付与することができ、しかもマーカを正確に検出することが可能な情報提供方法及び情報提供システムを提供することを目的とする。
【課題を解決するための手段】
【0009】
上記目的を達成するために請求項1の発明は、移動可能な対象物上に、再帰性反射特性を有する透明な物質で構成され、前記対象物自体の付加情報に対応するマーカパターンからなる不可視マーカを予め配置しておき、この不可視マーカに対応する前記対象物自体の付加情報をユーザに提供する情報提供方法であって、前記対象物に、可視光下で赤外光を照射して、可視光と赤外光の下での画像(以下、可視赤外画像という)を撮像するステップと、前記赤外光を照射しないで、可視光のみの下における画像(以下、可視画像という)を撮像するステップと、前記可視赤外画像と可視画像との差分画像を生成するステップと、前記差分画像に含まれる不可視マーカを検出するステップと、前記検出した不可視マーカに対応する前記対象物自体の付加情報をユーザに提供するステップとを含むものである。
【0010】
請求項2の発明は、請求項1に記載の情報提供方法において、赤外線領域及び可視光領域の両方の周波数領域の光を撮像可能な1台のカメラに設けられた赤外光発光手段を用いて、赤外光の点灯状態と消灯状態とで、前記可視赤外画像と前記可視画像とを撮像するものである。
【0011】
請求項3の発明は、請求項2に記載の情報提供方法において、前記カメラは、ユーザが携帯又は装着可能なものである。
【0012】
請求項4の発明は、請求項1乃至請求項3のいずれか1項に記載の情報提供方法において、前記検出した不可視マーカに対応する前記対象物自体の付加情報を、表示手段に表示させてユーザに提供するものである。
【0013】
請求項5の発明は、請求項4に記載の情報提供方法において、前記表示手段は、ユーザが携帯又は装着可能なディスプレイであるものである。
【0014】
請求項6の発明は、請求項1乃至請求項5のいずれか1項に記載の情報提供方法において、前記移動可能な対象物上に前記不可視マーカを塗布することにより、前記対象物上に前記不可視マーカを配置するものである。
【0015】
請求項7の発明は、移動可能な対象物に配置された、該対象物自体の付加情報に対応するマーカパターンからなる不可視マーカと、1台のカメラと、前記不可視マーカに対応する前記対象物自体の付加情報をユーザに提供するための情報提供手段とを含む情報提供システムであって、前記不可視マーカは、再帰性反射特性を有する透明な物質で構成され、前記カメラは、赤外光を照射するための赤外光発光手段と、赤外線領域及び可視光領域の両方の周波数領域の光を撮像可能な撮像手段と、前記赤外光発光手段を用いて前記対象物に可視光下で赤外光を照射した状態で、可視光と赤外光の下での画像(以下、可視赤外画像という)を前記撮像手段により撮像する処理と、前記赤外光を照射しないで、可視光のみの下における画像(以下、可視画像という)を撮像する処理とを実行するように制御する撮像制御手段とを有し、前記可視赤外画像と可視画像との差分画像を生成する差分画像生成手段と、前記差分画像に含まれる不可視マーカを検出する不可視マーカ検出手段とをさらに備えるものである。
【0016】
請求項8の発明は、請求項7に記載の情報提供システムにおいて、前記情報提供手段は、前記対象物自体の付加情報を表示する表示手段であるものである。
【0017】
請求項9の発明は、請求項8に記載の情報提供システムにおいて、前記表示手段は、ユーザが携帯又は装着可能なディスプレイであるものである。
【0018】
請求項10の発明は、請求項7乃至請求項9のいずれか1項に記載の情報提供システムにおいて、前記カメラは、ユーザが携帯又は装着可能なものである。
【0019】
請求項11の発明は、請求項7乃至請求項10のいずれか1項に記載の情報提供システムにおいて、前記不可視マーカは、前記移動可能な対象物上に塗布されることにより、前記対象物上に配置されるものである。
【発明の効果】
【0020】
請求項1の発明によれば、移動可能な対象物上に、再帰性反射特性を有する透明な物質で構成された不可視マーカを配置する方法を採用したことにより、従来のビジュアルマーカを付与した場合やICタグを取り付けた場合と異なり、マーカを付与された対象物の美感を損ねることなく、移動可能な対象物自体にマーカを付与することができる。また、上記非特許文献2に記載されたARシステムと異なり、マーカが付与される対象物が実質的に紙類に限定されることがなく、例えばDVDのケースや衣類にもマーカを付与することができる。
【0021】
さらにまた、上記特許文献1に記載された発明と異なり、可視赤外画像と可視画像との差分画像を用いて不可視マーカを検出する方法を採用したことにより、不可視マーカを正確に検出することができる。上記特許文献1に記載された発明のように、マーカが位置に応じた付加情報を表す場合と比べて、本願請求項1の発明のように、不可視マーカが移動可能な対象物自体の付加情報を表す場合には、マーカパターンの種類が多くならざるを得ないので、上記のように差分画像を用いて、種々のパターンよりなる不可視マーカを正確に検出(判別)する必要性がある。
【0022】
請求項2の発明によれば、赤外光発光手段をカメラに設けたことにより、赤外光発光手段をカメラとは別に設ける必要がなくなる。また、1台のカメラで可視赤外画像と可視画像とを撮像することができるので、非特許文献1の発明や非特許文献2の発明と異なり、通常のカラーカメラと赤外線カメラの両方が必要になるという問題が生じない。
【0023】
請求項3、5、9及び10の発明によれば、本発明のウェアラブルAR(Augmented Reality)システムへの適用が容易になる。
【0024】
請求項4及び請求項8の発明によれば、上記請求項1又は請求項2に記載の発明の効果を的確に得ることができる。
【0025】
請求項6及び請求項11の発明によれば、移動可能な対象物上に不可視マーカを塗布する方法を採用したことにより、仮に非特許文献1に記載された半透明の再帰性反射材シートを用いたマーカを移動可能な対象物に取り付けた場合と比べて、対象物の美感を損ねることなく、移動可能な対象物自体にマーカを容易に付与することができる。
【0026】
請求項7の発明によれば、上記請求項1及び請求項2に記載の発明の効果と同様な効果を得ることができる。
【発明を実施するための最良の形態】
【0027】
以下、本発明の一実施形態に係る情報提供方法及び情報提供システムについて、図面を参照して説明する。図1は、本実施形態による情報提供システムの主要部を構成するカメラ付HMD(Head Mounted Display)1をユーザ4が装着した様子を示す。図1に示されるように、カメラ付HMD1は、LCD表示部(図3参照)を有するHMD本体2(請求項における「情報提供手段」、「表示手段」及び「携帯又は装着可能なディスプレイ」)と、赤外線領域まで撮像可能な(赤外線領域及び可視光領域の両方の周波数領域の光を撮像可能な)CMOS(図3参照)及び赤外線LEDを有する赤外線LED付カメラ3とを備えている。HMD本体2とウェアラブルコンピュータ(図3参照)との間は、USBケーブル12で接続されており、また、赤外線LED付カメラ3とウェアラブルコンピュータとの間は、USBケーブル11で接続されている。本情報提供システムは、その全体をユーザが装着可能であり、いわゆるウェアラブルAR(Augmented Reality)システムの一種である。
【0028】
本実施形態に用いられるHMD本体2は、赤外線LED付カメラ3で撮像した実像と、ウェアラブルコンピュータ5を用いて取得した仮想像との合成画像を表示してユーザに提供するビデオ透過型のヘッドマウントディスプレイである。図2中の8は、ユーザの目を示し、図2中の1aは、LCD表示部22からの光の光路を示す。図2に示されるように、LCD表示部22からの光は、自由曲線タイプのプリズム21に入射し、プリズム21の面21aと凹面21bにて全反射した後、面21aを透過してユーザの目8に達する。図1に示されるように、対象物6に塗布された不可視マーカ7が赤外線LED付カメラ3の撮像エリア内(ユーザ4の前方)に存在するときには、本情報提供システムは、上記のウェアラブルコンピュータを用いて生成された、不可視マーカ7に対応する対象物6自体の付加情報の仮想像と、赤外線LED付カメラ3で撮像したユーザ前方の実像(実世界の像)との合成画像を、LCD表示部22に表示させてユーザ4に見せることができる。言い換えれば、本情報提供システムは、対象物6に塗布された不可視マーカ7を検出したときには、検出した不可視マーカ7に対応する対象物6自体の付加情報を、HMD本体2のLCD表示部22に表示させてユーザに提供する。
【0029】
図3は、情報提供システム10の構成を示す。図3中の太い矢印は、主なデータの流れを示す。図に示されるように、情報提供システム10は、移動可能な対象物6に塗布された、該対象物自体の付加情報に対応する不可視マーカ7と、上記のカメラ付HMD1と、ウェアラブルコンピュータ5とを備えている。上記のように、カメラ付HMD1は、HMD本体2と赤外線LED付カメラ3とを有している。HMD本体2は、上記のLCD表示部22に加えて、USBインタフェース(USB I/F)23を備えている。赤外線LED付カメラ3は、対象物6に赤外光を照射するための赤外線LED31(図3中のIR;請求項における赤外光発光手段)と、撮影レンズ等より構成される撮像光学系32と、赤外線領域及び可視光領域の両方の周波数領域の光を撮像可能なCMOS33(撮像手段)と、カメラ全体の制御を行うFPGA34(撮像制御手段)と、USBインタフェース(USB I/F)35とを備えている。
【0030】
上記のウェアラブルコンピュータ5は、このコンピュータ全体の制御を行うCPU51(請求項における差分画像生成手段及び不可視マーカ検出手段)と、USBインタフェース(USB I/F)52と、赤外線LED付カメラ3から画像を取り込むためのビデオキャプチャボード53と、ビデオキャプチャボード53で取り込んだ画像等を一時的に保存するためのメモリ56と、インターネット等の外部通信回線を介した通信を行うための外部回線通信部54と、ウェアラブルコンピュータ5への指示操作を行うための操作部55と、各種のデータを格納するHDD57とを備えている。HDD57内には、各種のマーカパターン(図9の85参照)についてのデータや、これらのマーカ(パターン)に対応する(リンクする)対象物6自体の付加情報を示すデータ(例えばホームページのアドレス等)が格納されており、これらのデータは、ウェアラブルコンピュータ5の起動時に、HDD57から読み出されて、メモリ56上に展開される。
【0031】
また、図3中の1cに示される赤外線LED31から照射された赤外光は、不可視マーカ7により反射される。そして、この不可視マーカ7からの反射光は、1dに示されるように、赤外線LED付カメラ3の撮像光学系32により集光されてCMOS33上に結像される。
【0032】
不可視マーカ7を構成する透明な再帰性反射材は、図4に示されるように、透明な合成樹脂系塗料7aと、微小なガラスビーズ(反射球)7bとから構成されている。この再帰性反射材は、含有するガラスビーズ7bが入射光1eを再帰反射(入射光が、入射角度に係らず再び入射方向に戻る反射現象)することにより、強力な反射性能を持つと共に、反射光1fを光源の方向に導く性質を有している。このため、赤外線LED31を有する赤外線LED付カメラ3によって不可視マーカ7の画像(後述する可視赤外画像)を得ることはできるが、赤外線LED付カメラ3の存在する方向(矢印1c,1dに沿った方向)以外の方向からは、不可視マーカ7を視認することも、不可視マーカ7の画像を得る(撮像する)こともできない。
【0033】
上記の不可視マーカ7は、図5に示される衣類61やDVDのケース(図10の91参照)等の移動可能な対象物自体に容易に塗布され得る。また、赤外光が照射されない場合には、ユーザ4が移動可能な対象物に塗布された不可視マーカ7を視認することができず、しかも、赤外光が照射された場合でも赤外光の光源と同じ方向からでなければ、ユーザ4が不可視マーカ7を視認することができないので、従来のビジュアルマーカを付与した場合やICタグを取り付けた場合と異なり、マーカを付与された対象物の美感を損ねることがない。
【0034】
次に、本情報提供システム10における赤外線LED付カメラ3側の処理について、図6を参照して説明する。赤外線LED付カメラ3におけるFPGA34は、赤外線LED31を用いて対象物6に可視光下で赤外光を照射(赤外線LED31を発光)した状態で(S1)、可視光(環境光)と赤外光の下での画像(以下、可視赤外画像という)をCMOS33により撮像する処理(S2)と、赤外光を照射しないで(赤外線LED31を消灯して)(S3)、可視光のみの下における画像(以下、可視画像という)をCMOS33により撮像する処理(S4)とを交互に実行するように制御する。すなわち、FPGA34は、可視光下で赤外線LED31を点滅させながら、この点滅の周期と同期させて、上記の可視赤外画像と可視画像とをCMOS33により交互に撮像する。そして、FPGA34は、上記の可視画像をUSBインタフェース35を介してウェアラブルコンピュータ5に出力すると共に(S5)、上記の可視赤外画像と可視画像との差分画像を生成して、この差分画像をウェアラブルコンピュータ5に出力する(S6)。
【0035】
図7は、上記の図6に示される差分画像生成処理の具体例を示す図である。この例では、画像Aの撮像の途中で赤外線LED31を点灯させ、画像Bの撮像の途中で赤外線LED31を消灯させて、カラー画像C(可視画像)82の撮像中には全く赤外線LED31を点灯させなかったものとする。この場合には、図に示されるように、差分画像83における各画素の輝度値は、画像Aの各画素の輝度値と画像Bの各画素の輝度値との平均値から、可視画像であるカラー画像C82の各画素の輝度値を減ずることにより算出された輝度値である。
【0036】
次に、本情報提供システム10におけるウェアラブルコンピュータ5側の処理について、図8及び図9を参照して説明する。まず、図8のフローチャートに示されるように、ウェアラブルコンピュータ5のCPU51は、赤外線LED付カメラ3側から出力された可視画像(カラー画像)82と差分画像83(図9参照)を、図3に示されるUSBインタフェース52を用いて交互に取り込むと(S11)、グレイスケール画像である上記の差分画像83を濃度階調変換によってコントラストの高い画像に変換した後、変換後の画像を二値化する(S12)。次に、CPU51は、この二値化した画像に対して膨張収縮処理を繰り返し行うことで、オープニングとクロージングを行う。オープニングは、膨張を行った後に収縮を行うことで、このオープニングを実行することにより、黒色画素の集合の中に現れる白色画素の「ごま塩ノイズ」を取り除くことができる。また、クロージングは、オープニングとは逆に、収縮の後に膨張を行うことで、このクロージングを実行することにより、白色画素の集合の中に現れる黒色画素の「ごま塩ノイズ」を取り除くことができる。上記の膨張収縮処理を繰り返し行うことにより、S12の処理で得られた二値化画像からノイズの除去を行う(S13)。
【0037】
次に、CPU51は、S13のノイズ除去処理が施された画像に対して輪郭(線)の追跡処理を実行することにより(S14)、不可視マーカ7が写っている可能性のある領域を抽出する。そして、CPU51は、抽出された各輪郭に対して多角形近似を行った後に(S15)、得られた多角形領域のうち四角形領域をマーカ候補領域として(S16でYES)、図9に示される四角形領域内の画像84とメモリ56上の各種マーカパターン85とのテンプレートマッチングを実行する(S17)。具体的には、CPU51は、四角形領域内の画像84をメモリ56上の各種マーカパターン85と同じサイズの矩形領域に正規化した上で、図9に示されるように、正規化した画像84とメモリ56上の各種マーカパターン85とのマッチング処理を行う。
【0038】
CPU51は、上記のテンプレートマッチングの結果、不可視マーカ7を認識することができた場合(S18でYES)、この不可視マーカ7に対応する対象物6自体の付加情報を示すデータ(例えば、付加情報が格納されているファイル名や、ホームページのアドレス等)をメモリ56から読み込んで、このデータに対応する付加情報を、HDD57から読み込んだり、外部回線通信部54を介してインターネット上のサイトにアクセスしたりして取得し(S19)、取得した(対象物自体の)付加情報と可視画像82との合成画像を、HMD本体2のLCD表示部22に表示させてユーザに提供する(S20)。図9の例の場合、対象物6は、展覧会の案内用のチラシであり、この対象物6自体の付加情報を示すデータは、展覧会の案内用のWebページのURLであり、対象物6自体の付加情報86は、展覧会の案内用のWebページである。従って、この例の場合、CPU51は、展覧会の案内用のチラシ上の不可視マーカ7を認識すると、展覧会の案内用のWebページをHMD本体2のLCD表示部22に表示させてユーザに提供する。
【0039】
本情報提供システム10では、上記S19の付加情報提供処理において、以下のような工夫を採用している。具体的には、ウェアラブルコンピュータ5のCPU51が、同じマーカパターンの不可視マーカ7を検出したとしても、赤外線LED付カメラ3側から出力された差分画像83内に、不可視マーカ7と共に何が写っているかによって、ユーザに提供する付加情報を変更する。例えば不可視マーカ7を付与する対象物6が、DVDの入ったケース91のときに、ウェアラブルコンピュータ5のCPU51が、上記の赤外線LED付カメラ3側から出力された差分画像83に基づいて、不可視マーカ7を認識したとする。この場合、図10に示されるように、赤外線LED付カメラ3の撮像エリア41内に、DVDの入った(不可視マーカ付きの)ケース91と、店のレジスタ92とが入っているので、CPU51は、この状態で得られた差分画像83に基づいて、その時点で、ユーザが店でDVD(の入ったケース91)を見ていると判定して、不可視マーカ7に対応する対象物6(DVDの入ったケース91)自体の付加情報として、DVDに格納されたコンテンツの予告編の映像を、赤外線LED付カメラ3で撮像した撮像エリア41内の実像(実世界の像)と共にLCD表示部22に表示させて、この予告編の映像をユーザに提供する。
【0040】
これに対して、ユーザがHMD本体2を介して見ている視野内に、図11に示されるDVDの入ったケース91とテレビジョン受像機28とが入っている場合は、赤外線LED付カメラ3の撮像エリア41も上記の視野と略同じになる。この状態では、赤外線LED付カメラ3の撮像エリア41内に、DVDの入った(不可視マーカ付きの)ケース91と、テレビジョン受像機28とが入っているので、CPU51は、この状態で得られた差分画像83に基づいて、その時点で、ユーザが家でDVD(の入ったケース91)を見ていると判定して、不可視マーカ7に対応する対象物6(DVDの入ったケース91)自体の付加情報として、図11に示されるように、DVDに格納されたコンテンツの各チャプターや特典映像の再生を選択するための(インタフェース用の画面である)選択画面27をLCD表示部22に表示させて、この選択画面27の映像をユーザに提供する。ユーザは、この選択画面27がLCD表示部22に表示された状態では、HMD本体2を用いて、図に示されるような実像26と選択画面27の仮想像の合成画像25を見ることができる。この状態において、ユーザは、ウェアラブルコンピュータ5の操作部55を用いて、選択画面27内の各チャプター又は特典映像の再生を選択することができる。
【0041】
以上のように、本実施形態の情報提供システム10及びその情報提供方法によれば、移動可能な対象物6上に、透明な再帰性反射材で構成された不可視マーカ7を塗布(配置)する方法を採用したことにより、従来のビジュアルマーカを付与した場合やICタグを取り付けた場合と異なり、マーカを付与された対象物6の美感を損ねることなく、移動可能な対象物自体にマーカを付与することができる。また、上記のように、移動可能な対象物6上に、透明な再帰性反射材で構成された不可視マーカ7を塗布(配置)する方法を採用したことにより、仮に非特許文献1に記載された半透明の再帰性反射材シートを用いたマーカ7を移動可能な対象物6に取り付けた場合と比べて、対象物6の美感を損ねることなく、移動可能な対象物自体にマーカを容易に付与することができる。さらにまた、上記非特許文献2に記載されたARシステムと異なり、マーカが付与される対象物が実質的に紙類に限定されることがなく、例えばDVDのケース91や衣類61にも不可視マーカ7を付与することができる。
【0042】
また、上記特許文献1に記載された発明と異なり、可視赤外画像と可視画像との差分画像83を用いて不可視マーカ7を検出する方法を採用したことにより、不可視マーカ7を正確に検出することができる。さらにまた、赤外線LED31を、赤外線LED付カメラ3に設けたことにより、赤外光発光装置をカメラとは別に設ける必要がなくなる。さらにまた、1台の赤外線LED付カメラ3で可視赤外画像と可視画像とを撮像することができるので、非特許文献1の発明や非特許文献2の発明と異なり、通常のカラーカメラと赤外線カメラの両方が必要になるという問題が生じない。また、赤外線LED付カメラ3及びHMD本体2をユーザが携帯又は装着可能なものとしたことにより、本発明のウェアラブルAR(Augmented Reality)システムへの適用が容易になる。
【0043】
なお、本発明は、上記実施形態の構成に限られず、発明の趣旨を変更しない範囲で種々の変形が可能である。例えば、上記実施形態では、ユーザが携帯又は装着可能なディスプレイが、HMDである場合の例について説明したが、付加情報の表示に使用されるディスプレイは、これに限られず、例えば携帯電話等の携帯可能な情報機器の表示装置であってもよい。また、上記実施形態では、移動可能な対象物6上に、透明な再帰性反射材で構成された不可視マーカ7を塗布するようにした場合の例について説明したが、本発明における不可視マーカは、再帰性反射特性を有する透明な物質で構成されていればよく、不可視マーカを対象物上に配置する方法も、塗布する方法に限られず、例えばシート状の不可視マーカを接着や溶着(熱溶着、高周波溶着、超音波溶着)により対象物上に配置してもよい。さらにまた、検出した不可視マーカに対応する対象物自体の付加情報を音声情報とし、この音声情報をスピーカから出力することによりユーザに提供してもよい。
【図面の簡単な説明】
【0044】
【図1】本発明の一実施形態に係る情報提供システムの主要部を構成するカメラ付HMDをユーザが装着した様子を示す図。
【図2】同情報提供システムにおけるHMD本体を介してユーザが見る像の説明図。
【図3】同情報提供システムの電気的ブロック図。
【図4】同情報提供システムにおける不可視マーカを構成する透明な再帰性反射材の説明図。
【図5】同不可視マーカを衣類に塗布した様子を示す図。
【図6】同情報提供システムにおける赤外線LED付カメラ側の処理を示すフローチャート。
【図7】図6に示される処理の具体例の説明図。
【図8】同情報提供システムにおけるウェアラブルコンピュータ側の処理を示すフローチャート。
【図9】図8に示される処理の具体例の説明図。
【図10】同情報提供システムの付加情報提供処理における工夫の説明図。
【図11】同情報提供システムの付加情報提供処理における工夫の説明図。
【符号の説明】
【0045】
1 カメラ付HMD
2 HMD本体(情報提供手段、表示手段、携帯又は装着可能なディスプレイ)
3 赤外線LED付カメラ(カメラ)
6 対象物
7 不可視マーカ
10 情報提供システム
31 赤外線LED(赤外光発光手段)
33 CMOS(撮像手段)
34 FPGA(撮像制御手段)
51 CPU(差分画像生成手段、不可視マーカ検出手段)
82 カラー画像C(可視画像)
83 差分画像
85 マーカパターン
図面
【図1】
0
【図2】
1
【図3】
2
【図4】
3
【図5】
4
【図6】
5
【図8】
6
【図10】
7
【図11】
8
【図7】
9
【図9】
10