TOP > 国内特許検索 > 視線計測装置および方法 > 明細書

明細書 :視線計測装置および方法

発行国 日本国特許庁(JP)
公報種別 特許公報(B2)
特許番号 特許第5818233号 (P5818233)
公開番号 特開2012-239849 (P2012-239849A)
登録日 平成27年10月9日(2015.10.9)
発行日 平成27年11月18日(2015.11.18)
公開日 平成24年12月10日(2012.12.10)
発明の名称または考案の名称 視線計測装置および方法
国際特許分類 A61B   3/113       (2006.01)
G06F   3/0346      (2013.01)
FI A61B 3/10 B
G06F 3/033 310A
請求項の数または発明の数 10
全頁数 35
出願番号 特願2011-116372 (P2011-116372)
出願日 平成23年5月24日(2011.5.24)
審査請求日 平成26年5月23日(2014.5.23)
特許権者または実用新案権者 【識別番号】504150450
【氏名又は名称】国立大学法人神戸大学
【識別番号】503092180
【氏名又は名称】学校法人関西学院
発明者または考案者 【氏名】長松 隆
【氏名】山本 倫也
個別代理人の代理人 【識別番号】110000822、【氏名又は名称】特許業務法人グローバル知財
審査官 【審査官】安田 明央
参考文献・文献 特開2009-297323(JP,A)
特開2005-185431(JP,A)
調査した分野 A61B 3/00-3/16
特許請求の範囲 【請求項1】
平面もしくは曲面で構成される領域における観測者の視線を計測する装置であって、
各々異なる位置に配置されるM個(Mは2以上)のカメラ手段と、
各々異なる位置に配置されるN個(Nは2以上)の光源手段と、
何れかのカメラ手段により撮像された眼球画像上における光源手段のプルキニエ像の位置と、実際の光源手段の位置とを対応付けする光源対応付け手段と、
対応付けられた少なくとも2組のカメラ手段と光源手段の位置関係から眼球の光軸を算出する眼球光軸算出手段と、
眼球の光軸から眼球の視軸を算出する眼球視軸算出手段と、
を備え、
眼球を中心とし、異なる位置同士の光源手段の位置とカメラ手段の位置とから決定される第1視線計測可能範囲候補が少なくとも3つ重なる第1の視線計測可能領域、カメラ手段のカメラレンズ中心と同一位置に光源手段が配置されるものがL組(LはN以下かつM以下)ある場合、同一位置にあるカメラ手段と光源手段から決定される第2視線計測可能範囲候補が、上記第1視線計測可能範囲候補と重なる第2の視線計測可能領域、上記第2視線計測可能範囲候補同士が重なる第3の視線計測可能領域を含む範囲内に、計測対象領域が収まるように、個々のカメラ手段および光源手段が配置される、ことを特徴とする視線計測装置。
【請求項2】
少なくとも1人の観測者の移動する範囲をすべて撮影するようにカメラ配置が決定された複数の前記カメラ手段と、カメラ配置された後に、計測対象領域について視線計測ができるように配置された複数の前記光源手段と、を備えることを特徴とする請求項1に記載の視線計測装置。
【請求項3】
前記光源対応付け手段は、各々の光源手段の照射光の形状パターン若しくは波長を異なるものとし、光源手段のプルキニエ像の位置と実際の光源手段の位置とを対応付けすることを特徴とする請求項1に記載の視線計測装置。
【請求項4】
前記光源対応付け手段は、各々の光源手段を順次点灯させて、或いは、所定時間内に各々の光源手段をユニークに点滅させて、光源手段のプルキニエ像の位置と実際の光源手段の位置とを対応付けすることを特徴とする請求項1に記載の視線計測装置。
【請求項5】
前記光源手段の照射光が赤外線であることを特徴とする請求項1~4のいずれかに記載の視線計測装置。
【請求項6】
前記光源手段と前記カメラ手段の少なくとも一方が計測対象領域よりも眼球側に近づいた位置に配置されていることを特徴とする請求項1~4のいずれかに記載の視線計測装置。
【請求項7】
平面もしくは曲面で構成される領域内外に、
各々異なる位置に配置されるM個(Mは2以上)のカメラ手段と、
各々異なる位置に配置されるN個(Nは2以上)の光源手段と、
を用いて、領域における視線を計測する方法であって、
眼球を中心とし、異なる位置同士の光源手段の位置とカメラ手段の位置とから決定される第1視線計測可能範囲候補が少なくとも3つ重なる第1の視線計測可能領域
カメラ手段のカメラレンズ中心と同一位置に光源手段が配置されるものがL組(LはN以下かつM以下)ある場合、同一位置にあるカメラ手段と光源手段から決定される第2視線計測可能範囲候補が、上記第1視線計測可能範囲候補と重なる第2の視線計測可能領域
上記第2視線計測可能範囲候補同士が重なる第3の視線計測可能領域を含む範囲内に、計測対象領域が収まるように、個々のカメラ手段および光源手段を配置するカメラ・光源配置ステップと、
何れかのカメラ手段により撮像された眼球画像上における光源手段のプルキニエ像の位置と、実際の光源手段の位置とを対応付けする光源対応付けステップと、
対応付けられた少なくとも2組のカメラ手段と光源手段の位置関係から眼球の光軸を算出する眼球光軸算出ステップと、
眼球の光軸から眼球の視軸を算出する眼球視軸算出ステップと、
を備えたことを特徴とする視線計測方法。
【請求項8】
カメラ・光源配置ステップにおいて、少なくとも1人の観測者の移動する範囲をすべて撮影するように前記カメラ手段のカメラ配置を決定した後に、計測対象領域について視線計測ができるように前記光源手段を配置することを特徴とする請求項7に記載の視線計測方法。
【請求項9】
前記光源対応付けステップは、各々の光源手段の照射光の形状パターン若しくは波長を異なるものとし、光源手段のプルキニエ像の位置と実際の光源手段の位置とを対応付けすることを特徴とする請求項7に記載の視線計測方法。
【請求項10】
前記光源対応付けステップは、各々の光源手段を順次点灯させて、或いは、所定時間内に各々の光源手段をユニークに点滅させて、光源手段のプルキニエ像の位置と実際の光源手段の位置とを対応付けすることを特徴とする請求項7に記載の視線計測方法。
発明の詳細な説明 【技術分野】
【0001】
本発明は、平面もしくは曲面で構成される領域周辺の光源(発光ダイオード(LED)や自然光など)を利用して、大画面ディスプレイや大型スクリーン全体などの任意の領域全体で視線計測を実現する視線計測装置に関するものである。
【背景技術】
【0002】
従来、コンピュータを操作するためのインタフェースの一種として非接触型の視線インタフェースがある。この視線インタフェースは、カメラと光源を用いて、利用者(ユーザ)の視線をデータとして検出し、検出された視線データを用いてコンピュータの画面上のアイコンなどを操作するものである。この視線インタフェースでは、利用者の眼球に赤外線などの所定光源からの光を照射して眼球を撮影し、撮影した画像の角膜表面における赤外線などの反射光と瞳孔との距離から算出される方向データを利用者の推定視線データとして検出する。
【0003】
最新の研究では、視線インタフェースを実現する視線計測装置では、所定の画面を見ている被験者について所定光源からの光が反射した眼球画像をカメラで取得し、眼球画像中の所定光源からの反射光(プルキニエ像)を算出し、プルキニエ像から角膜の曲率中心位置を算出し、曲率中心位置に基づき角膜の曲率半径を算出し、眼球画像中の瞳孔の中心位置を算出し、角膜の曲率中心位置及び瞳孔の中心位置に基づき角膜の曲率中心と瞳孔の瞳孔中心とを結ぶ軸である光軸を算出する。
そして、事前に行うキャリブレーション操作等によって予め与えられた光軸とのずれ値に基づき視軸を求める(例えば、特許文献1を参照)。なお、キャリブレーションを不要とする場合には、直接光軸と視軸が一致するとして視軸を求めることが可能である。
【0004】
上記のような視線インタフェースを実現する従来の視線計測装置では、コンピュータディスプレイの前に、計測される者(コンピュータのユーザ)が着座して、ディスプレイに表示される画面上のアイコンなどを見ることが前提とされており、ユーザが動ける範囲は限られていた。
そのため、従来の視線計測装置では、計測のために使用するカメラや光源の数は、多くても3~4程度であった。
【0005】
しかしながら、昨今、駅構内やビル壁面のディスプレイなど、情報共有化のためにディスプレイの大型化が進み、そのディスプレイに表示される映像コンテンツを見るユーザの視線の動く範囲が拡大している。すなわち、駅構内のディスプレイなどは縦横が数m~10数mに及ぶものもあり、ユーザの頭の姿勢のみならず体の位置を動かして、ディスプレイに表示される映像コンテンツを見ることもある。
このような現状に鑑みて、ユーザが動ける範囲を拡げて、大型ディスプレイや大型スクリーンに表示される大画面に対応できる視線計測装置が必要とされている。
【先行技術文献】
【0006】

【特許文献1】特開2009-297323号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
上記状況に鑑みて、本発明は、所定数・所定配置のカメラと光源を用いて視線計測可能範囲を拡大し、大画面などの広い領域に対応できる視線計測装置および方法を提供することを目的とする。
また、所定配置の複数の光源を用いることから、大画面を見ているユーザの角膜に映る光源の反射光が、どの光源のものであるかを判別できる視線計測装置および方法を提供することを目的とする。
【課題を解決するための手段】
【0008】
上記目的を達成すべく、本発明の視線計測装置は、平面もしくは曲面で構成される領域における観測者の視線を計測する装置であって、
1)各々異なる位置に配置されるM個(Mは2以上)のカメラ手段と、
2)各々異なる位置に配置されるN個(Nは2以上)の光源手段と、
3)何れかのカメラ手段により撮像された眼球画像上における光源手段のプルキニエ像の位置と、実際の光源手段の位置とを対応付けする光源対応付け手段と、
4)対応付けられた少なくとも2組のカメラ手段と光源手段の位置関係から眼球の光軸を算出する眼球光軸算出手段と、
5)眼球の光軸から眼球の視軸を算出する眼球視軸算出手段と、
を備え、
眼球を中心とし、異なる位置同士の光源手段の位置とカメラ手段の位置とから決定される第1視線計測可能範囲候補が少なくとも3つ重なる第1の視線計測可能領域
カメラ手段のカメラレンズ中心と同一位置に光源手段が配置されるものがL組(LはN以下かつM以下)ある場合、同一位置にあるカメラ手段と光源手段から決定される第2視線計測可能範囲候補が、上記第1視線計測可能範囲候補と重なる第2の視線計測可能領域
上記第2視線計測可能範囲候補同士が重なる第3の視線計測可能領域とを含む範囲内に、計測対象領域が収まるように、個々のカメラ手段および光源手段が配置される、ことを特徴とする。
【0009】
かかる構成により、大型ディスプレイや大型スクリーンなどの大画面のサイズや形状に応じて、最適な数のカメラと光源を用いて視線計測可能な範囲を拡大し、大画面におけるユーザの視線計測を行うことができる。
本発明は、大画面のサイズや形状に応じて多数のカメラ手段および光源手段をどう配置するのかがポイントである。大画面の視線計測のために、多数のカメラ手段および光源手段の配置を下記(A),(B)の2通りに分ける。
【0010】
(A)カメラ手段のカメラレンズ中心と同一位置に光源手段が配置されない場合、視線計測可能範囲の候補(これを、“第1視線計測可能範囲候補”とする。)は、眼球を頂点とし、カメラ手段、眼球、光源手段がなす角を2等分する線を中心とした円錐(gaze cone)の中全部である。
(B)カメラ手段のカメラレンズ中心と同一位置に光源手段が配置される場合、視線計測可能範囲の候補(これを、“第2視線計測可能範囲候補”とする。)は、眼球を頂点とし、眼球と光源手段(カメラレンズ中心と同一位置)を中心線とする円錐(gaze cone)の中全部である。
なお、同一位置には、カメラレンズに隣接させたり、ハーフミラーを用いることにより近似的に同一位置に光源手段が配置される場合も含まれる。
【0011】
次に、視線を計測できる範囲について、第1~第3の3通りの領域に分けて以下に説明する。
(1)上記(A)の第1視線計測可能範囲候補が少なくとも3つ重なる領域(これを、“第1の視線計測可能領域”とする。)が視線を計測できる範囲である。
(2)上記(B)の第2視線計測可能範囲候補と、上記(A)の第1視線計測可能範囲候補とが重なる領域(これを、“第2の視線計測可能領域”とする。)が視線を計測できる範囲である。
(3)上記(B)の第2視線計測可能範囲候補同士が重なる領域(これを、“第3の視線計測可能領域”とする。)が視線を計測できる範囲である。
【0012】
そして、第1の視線計測可能領域と第2の視線計測可能領域と第3の視線計測可能領域を含む範囲内に、大画面の領域がカバーできるように、カメラ手段および光源手段の個数・配置を行う。
カメラ手段と光源手段が多数配置された場合、上記(1),(2),(3)の場合の角膜曲率中心Aは、以下の(i)~(iii)でそれぞれ求めることができる。
【0013】
(i)第1視線計測可能範囲候補が3つ重なる領域がある場合
カメラ手段のレンズ中心と、光源手段位置と、カメラ手段のイメージセンサ上に映る光源手段によるプルキニエ像の位置の3点から求まる平面が3つ求まるので、その交点として、角膜曲率中心Aが求まる。但し、この場合、3平面は同じであってはならない。また、少なくとも2つカメラを利用する必要がある。1つのカメラでは、3つの光源の場合に第1視線計測可能領域候補は3つあるが、3平面全てがカメラレンズ中心と角膜曲率中心を結ぶ線を含むため3平面は1点で交わらず、交わる部分が直線となるので、解が求まらないからである。
【0014】
(ii)第1視線計測可能範囲候補と第2視線計測可能範囲候補が重なる場合
第1視線計測可能範囲候補からは、カメラ手段のレンズ中心と、光源手段位置と、カメラ手段のイメージセンサ上に映る光源手段によるプルキニエ像の位置の3点から求まる平面が求まり、第2視線計測可能範囲候補からは、カメラ手段のレンズ中心(光源手段位置と同一)とカメラ手段のイメージセンサ上に映る光源手段によるプルキニエ像の位置の2点から直線が求まり、それら平面と直線の交点として角膜曲率中心Aが求まる。但し、この場合、直線は平面に含まれてはならない。
【0015】
(iii)第2視線計測可能範囲候補同士が重なる領域がある場合
カメラ手段のレンズ中心(光源手段位置と同一)とカメラ手段のイメージセンサ上に映る光源手段によるプルキニエ像の位置の2点から求まる直線が2つ求まり、その交点として角膜曲率中心が求まる。但し、この場合、直線は同一であってはならない。
【0016】
また、平面もしくは曲面で構成される領域とは、平面のディスプレイやスクリーンに加え、曲面のディスプレイやスクリーン、ドーム状の曲面スクリーンや、360°の周囲を取り囲むスクリーンなど形状が既知のものが含まれる。また、領域とは、画面領域のみならず、視線を向ける対象物が配置されている一定の領域を意味する。
【0017】
また、上記1)のカメラ手段とは、ディジタルカメラやディジタルビデオカメラなど所定光源からの光が反射した眼球画像を取得できるものである。また、上記2)の光源手段とは、可視光から近赤外光や赤外光などの光を照射できるもので、LED(発光ダイオード)や赤外線レーザなどである。計測対象領域周辺の自然光を利用するのでもよい。
なお、カメラ手段や光源手段は必ずしも固定的に配置する必要はなく、電動雲台などでカメラを可動させて眼球を撮影するか、可動式のミラーで眼球を追跡するなどしてもよい。
【0018】
また、上記3)の何れかのカメラ手段により撮像された眼球画像上における光源手段のプルキニエ像の位置と、実際の光源手段の位置とを対応付けする光源対応付け手段により、大画面を見ているユーザの角膜に映る光源の反射光が、どの光源手段の光であるかを判別する。
また、上記4)の対応付けられた少なくとも2組のカメラ手段と光源手段の位置関係から眼球の光軸を算出する眼球光軸算出手段とは、プルキニエ像から角膜の曲率中心位置を算出し、眼球画像から瞳孔の中心位置を算出し、角膜の曲率中心位置及び瞳孔の中心位置に基づき角膜の曲率中心と瞳孔の瞳孔中心とを結ぶ軸である光軸を算出するものである。
また、上記5)の眼球の光軸から眼球の視軸を算出する眼球視軸算出手段とは、事前に行うキャリブレーション操作等によって予め与えられた光軸とのずれ値に基づき視軸を求めるか、或いは、キャリブレーションを不要とする場合には、直接光軸と視軸が一致するとして視軸を求めるものである。
【0019】
また、本発明の視線計測装置において、少なくとも1人の観測者の移動する範囲をすべて撮影するようにカメラ手段のカメラ配置が決定され、そして、カメラ配置された後に、計測対象領域について視線計測ができるように複数の光源手段が配置されるようにする。
これによれば、カメラ手段のカメラ配置を人間の動きについて決め、光源手段については視線をとる範囲と対応させて決めることができる。
【0020】
また、上記の本発明の視線計測装置における光源対応付け手段は、各々の光源手段の照射光の形状パターン若しくは波長を異なるものとし、光源手段のプルキニエ像の位置と実際の光源手段の位置とを対応付けする。
視線を計算するためには、実空間における3次元的な光源位置と、眼球画像上での反射像であるプルキニエ像の位置を対応付ける必要がある。光源手段が多数ある時、光源手段が角膜に1つまたは複数反射しているが、カメラ手段により撮影されたプルキニエ像と実際の光源手段との対応付けを行なう必要がある。
【0021】
ここで、各々の光源手段の照射光の形状パターンを異なるものにするとは、以下のa)~c)により光源手段を判別するものである。
a)複数の光源手段からなる形状パターンを異なるものにするもの
b)光源手段から照射する光の形状を星形,ハート型,文字型,QRコードに代表される二次元コードなど光源毎にユニークなものとして光源手段を区別できるようにするもの
c)ディスプレイやショーウィンドウなど形状が既知のものの自然光を用いるもの
また、各々の光源手段の照射光の波長を異なるものにするとは、光の色で光源手段を判別するものである。ここで、照射光の波長は、可視光波長のみならず赤外線波長も含む。
【0022】
また、上記の本発明の視線計測装置における光源対応付け手段は、各々の光源手段を順次点灯させて、或いは、所定時間内に各々の光源手段をユニークに点滅させて、光源手段のプルキニエ像の位置と実際の光源手段の位置とを対応付けする。
ここで、各々の光源手段を順次点灯させるとは、順番に光源手段を点灯させて、眼球に映るプルキニエ像を対応させるものである。すなわち、眼球上に複数のプルキニエ像が存在する場合、順番に光源手段を点灯させて、複数の光源手段を1つずつ特定する。
また、所定時間内に各々の光源手段をユニークに点滅させるとは、光源手段の点灯・消灯を2値データとし、特定の光源手段と対応付けするものである。
【0023】
また、上記の本発明の視線計測装置において、光源手段の照射光が赤外線であることがより好ましい態様である。
光源手段の照射光を肉眼でとらえることができない赤外線にすることにより、ディスプレイやスクリーンの枠外のみならず、枠内に光源手段を配置することができる。照射光が目に見えるものではなく、ディスプレイ等の枠内に配置されても、本来のコンテンツ画像の妨げとならない。ディスプレイやスクリーンの内外に光源手段を配置可能で、光源手段の配置制約が緩和されることにより視線計測可能範囲を拡大できる。
【0024】
また、上記の本発明の視線計測装置において、光源手段とカメラ手段の少なくとも一方が計測対象領域よりも眼球側に近づいた位置に配置されているものでもよい。
第1~第3の視線計測可能領域の3つの条件の1つでも成立していれば視線を計測できるので、光源手段やカメラ手段の配置の自由度を向上する。
【0025】
次に、本発明の視線計測方法は、平面もしくは曲面で構成される領域内外に、各々異なる位置に配置されるM個(Mは2以上)のカメラ手段と、各々異なる位置に配置されるN個(Nは2以上)の光源手段とを用いて、領域における視線を計測する方法であって、下記ステップ1~4を備えたことを特徴とする。
【0026】
ステップ1)眼球を中心とし、異なる位置同士の光源手段の位置とカメラ手段の位置とから決定される第1視線計測可能範囲候補が少なくとも3つ重なる第1の視線計測可能領域
カメラ手段のカメラレンズ中心と同一位置に光源手段が配置されるものがL組(LはN以下かつM以下)ある場合、同一位置にあるカメラ手段と光源手段から決定される第2視線計測可能範囲候補が、上記第1視線計測可能範囲候補と重なる第2の視線計測可能領域
上記第2視線計測可能範囲候補同士が重なる第3の視線計測可能領域を含む範囲内に、計測対象領域が収まるように、個々のカメラ手段および光源手段を配置するカメラ・光源配置ステップ
【0027】
ステップ2)何れかのカメラ手段により撮像された眼球画像上における光源手段のプルキニエ像の位置と、実際の光源手段の位置とを対応付けする光源対応付けステップ
ステップ3)対応付けられた少なくとも2組のカメラ手段と光源手段の位置関係から眼球の光軸を算出する眼球光軸算出ステップ
ステップ4)眼球の光軸から眼球の視軸を算出する眼球視軸算出ステップ
【0028】
かかる構成により、大型ディスプレイや大型スクリーンなどの大画面のサイズや形状に応じて、最適な数のカメラと光源を用いて視線計測可能な範囲を拡大し、大画面におけるユーザの視線計測を行うことができる。
【0029】
また、本発明の視線計測方法におけるカメラ・光源配置ステップ(上記ステップ1)において、少なくとも1人の観測者の移動する範囲をすべて撮影するようにカメラ手段のカメラ配置を決定した後に、計測対象領域について視線計測ができるように光源手段を配置する。
これによれば、カメラ手段のカメラ配置を人間の動きについて決め、光源手段については視線をとる範囲と対応させて決めることができる。
【0030】
また、上記の本発明の視線計測方法における光源対応付けステップ(上記ステップ2)は、各々の光源手段の照射光の形状パターン若しくは波長を異なるものとし、光源手段のプルキニエ像の位置と実際の光源手段の位置とを対応付けすることがより好ましい。
視線を計算するためには、実空間における3次元的な光源位置と、眼球画像上での反射像であるプルキニエ像の位置を対応付ける必要がある。光源が多数ある時、光源が角膜に複数反射しているが、このような場合は、カメラ手段により撮影されたプルキニエ像と実際の光源手段との対応付けを行なう必要がある。
ここで、各々の光源手段の照射光の形状パターンを異なるものにするとは、上述した如く、a)複数の光源手段からなる形状パターンを異なるものとするもの、b)光源手段から照射する光の形状を星形,ハート型,文字型,QRコードに代表される二次元コードなど光源毎にユニークなものとするもの、c)形状が既知のものの自然光を用いるものにより光源手段を判別するものである。また、各々の光源手段の照射光の波長を異なるものにするとは、光の色(可視光波長のみならず赤外線波長も含む)で光源手段を判別するものである。
【0031】
上記の本発明の視線計測方法における光源対応付けステップ(上記ステップ2)は、各々の光源手段を順次点灯させて、或いは、所定時間内に各々の光源手段をユニークに点滅させて、光源手段のプルキニエ像の位置と実際の光源手段の位置とを対応付けする。
ここで、各々の光源手段を順次点灯させるとは、順番に光源手段を点灯させて、眼球に映るプルキニエ像を対応させるものである。また、所定時間内に各々の光源手段をユニークに点滅させるとは、光源手段の点灯・消灯を2値データとし、特定の光源手段と対応付けするものである。
【発明の効果】
【0032】
本発明によれば、所定数・所定配置のカメラと光源を用いて視線計測可能範囲を拡大し、大画面などの広い領域に対応できるといった効果を有する。
また、本発明によれば、大画面を見ているユーザの角膜に映る光源の反射光が、どの光源のものであるかを判別できるといった効果を有する。
【図面の簡単な説明】
【0033】
【図1】本発明の視線計測装置の機能ブロック図
【図2】カメラ、光源、眼球を頂点とした円錐(gaze cone)の底面の関係の説明図
【図3】光源の位置を動かして視線計測可能範囲を変更できることの説明図
【図4】大型ディスプレイの周囲に光源とカメラを設置する場合における視線計測可能範囲を示す図
【図5】大型ディスプレイの枠の上部に光源を設置し、かつ、下部に光源一体型カメラを設置する場合における視線計測可能範囲を示す図
【図6】カメラと光源の位置関係を示す図(観測者が大型ディスプレイを見た際に、カメラと光源が離れて観測される場合)
【図7】光源が反射してカメラで撮影できる範囲である円錐(gaze cone)を示す図
【図8】カメラと光源の位置関係を示す図(観測者が大型ディスプレイを見た際に、カメラと光源が同一位置に観測される場合)
【図9】光源が反射してカメラで撮影できる範囲である円錐(gaze cone)を示す図
【図10】光源の光が角膜表面で反射する様子を幾何学的に示す図(観測者が大型ディスプレイを見た際に、カメラと光源が離れて観測される場合)
【図11】光源の光が角膜表面で反射する様子を幾何学的に示す図(観測者が大型ディスプレイを見た際に、カメラと光源が同一位置に観測される場合)
【図12】光軸を含む面の説明図
【図13】大型ディスプレイの画面領域の周囲に光源とカメラが配置された模式図
【図14】図13における第1の視線計測可能領域
【図15】大型ディスプレイの画面領域の周囲に光源と光源一体型カメラが配置された模式図
【図16】図15における第1の視線計測可能領域
【図17】図15における第2の視線計測可能領域
【図18】図15における第3の視線計測可能領域
【図19】図15における視線計測可能領域
【図20】カメラで撮影できる範囲(視線計測可能範囲)の説明図
【図21】虹彩とイメージセンサの模式図
【図22】凸面鏡に物体ABが反射したときの模式図
【図23】カメラのイメージセンサ上の画素(10×10px)の模式図
【図24】2つの光源の虚像(プルキニエ像)の間隔と光源間隔の模式図
【図25】本発明の視線計測装置のハードウェア構成図
【図26】角膜に投影する光源の形状パターン(2点をつないだ1つの直線と2点の組み合わせパターン)
【図27】角膜に投影する光源の30通りの形状パターンを示す図
【図28】3点を組み合わせた光源の照射光の形状パターンを示す図
【図29】形状パターンを1単位とし、4単位を縦横に並べたパターン図
【図30】ディスプレイを囲むように光源の照射光の形状パターンを配置した図
【図31】ディスプレイが横長の場合に、光源の照射光の形状パターンを繰り返し配置した図
【図32】数字が角膜に反射されて観察される様子
【図33】ディスプレイの周囲に異なる色の光源を用いるものの説明図
【図34】順番に光源を点灯させて、眼球に映るものを2つ選択するものの説明図

【発明を実施するための最良の形態】
【0034】
以下、本発明の実施形態について、図面を参照しながら詳細に説明していく。なお、本発明の範囲は、以下の実施例や図示例に限定されるものではなく、幾多の変更及び変形が可能である。
本発明の視線計測装置ならびに視線計測方法の概要について説明する。
本発明の視線計測装置ならびに視線計測方法は、従来の視線計測装置ならびに視線計測方法において、ユーザが動く範囲を撮影できるようにカメラを複数設置し、また視線計算には角膜に映った光源の反射像が必要なことから、どこにユーザがいても光源からの光が反射するように光源を複数設置し、さらに、どの反射光がどの光源から来たものかを判別するものである。
【0035】
本発明の視線計測装置および方法の概要について、図1に示す機能ブロック図を用いて説明する。視線計測装置100は、下記の構成要素からなる。
まず、計測対象領域の周囲もしくは領域内の異なる位置に配置された複数の光源手段104と、対象領域を見ている観測者について所定光源からの光が反射した眼球画像を取得するカメラ手段102が必要である。
次に、何れかのカメラ手段102により撮像された眼球画像上における光源のプルキニエ像の位置と、実際の光源の位置とを対応付けする光源対応付け手段106(もしくは、光源対応付けステップ)が必要である。
そして、対応付けられたカメラの3次元位置と光源の3次元位置とから、角膜の曲率中心位置を算出し、眼球画像から瞳孔の中心位置を算出し、角膜の曲率中心位置及び瞳孔の中心位置に基づき角膜の曲率中心と瞳孔の瞳孔中心とを結ぶ軸である光軸を算出する眼球光軸算出手段108(もしくは、眼球光軸算出ステップ)が必要である。
そして、事前に行うキャリブレーション操作等によって予め与えられた光軸と視軸とのずれ値を用いて、算出した光軸から中心窩と角膜の曲率中心とを結ぶ軸である視軸を算出する眼球視軸算出手段110(もしくは、眼球視軸算出ステップ)が必要である。或いは、キャリブレーションを不要とする場合には、直接光軸と視軸が一致するとして視軸を求める。
【0036】
計測対象領域の周囲もしくは領域内の異なる位置に配置された複数の光源とカメラの配置について説明する。
まず、視線計測においては、角膜で反射した光源の光をカメラで撮影する必要があることから、視線計測可能範囲候補は、眼球を中心とした円錐(以下では、これを“gaze cone”と称する。)に基づいて決定されることになる。図2は、眼球を頂点とした円錐(gaze cone)の底面、カメラ、光源の関係を、眼球の位置を固定しカメラの位置と光源の位置を変化させ、4通り示したものである。カメラの位置が固定の場合、光源をカメラから遠ざけると視線計測可能範囲候補もカメラから遠ざかることがわかる。このときカメラ、眼球、光源を2等分する線を中心とした円錐(gaze cone)とディスプレイの交線は楕円となる。この際、カメラと光源を離す距離の限界は、カメラで角膜の中の瞳孔が撮影できる範囲で決まる。
【0037】
一方、頭を動かしたときに広い範囲で計測可能とするには、光源を頭の移動方向の先の方に設置することで、同じカメラによって形成されるgaze coneを移動することができる。
図3に示すように大型ディスプレイ1の枠下にカメラが固定されてある状況を考えると、光源の位置を移動させることによって、gaze coneを動かすことができることがわかる。このことは、光源の位置を動かすだけで、gaze coneの位置を変更できることを意味する。例えば、カメラ3aが固定されてある場合、光源2aの位置から光源2bの位置に光源を移動させることによって、gaze coneの中心が移動し(6aから6bへ移動)、gaze coneを動かすことができる(5aから5bへ移動)。
これに基づけば、図4に示すように、ディスプレイ1の周囲に6つの光源(2a~2f)と3つのカメラ(3a~3c)を配置すれば、ディスプレイ1の領域全体において視線を計測できる。詳細は後述するが、図4に示すような場合、gaze coneが3つ重なるエリアにおいて視線の計算が可能である。Gaze coneとディスプレイとの交線の形状は、眼球の位置によって決まり楕円となるが、この図では、ディスプレイに垂直に見ていると仮定しており、計算に必要な3つのgaze coneは略正面にあり、gaze coneとディスプレイとの交線である3つの楕円は、ほぼ円形であるとして図示している。
【0038】
図5は、大型ディスプレイ1の上部に7つの光源(2a~2g)を設置し、かつ、下部に光源一体型カメラ(3a~3g,2h~2n)を設置する場合における視線計測可能範囲を示している。詳細は後述するが、光源一体型カメラを使った場合は、gaze coneは2つ重なるエリアにおいて視線が計算可能である。
【0039】
ここでは、カメラと光源の位置関係について2通りに分けて説明する。
図4に示すように、観測者が大型ディスプレイを見た際に、カメラと光源が離れた配置の場合、カメラと光源の位置に対して、眼球の向きを計測できる範囲は、光源からの光が角膜上で反射するか否かで決定される。図6に示すように、その限界は、θmaxで表される。但し、角膜の球面モデルを用いていることから角膜表面が球面と近似できる範囲で視線計測が可能である。そして、眼球が回転する全ての向きを考慮すると、図7に示す円錐(gaze cone)内が、光源が角膜の球面と近似できる部分に反射してカメラで撮影できる範囲となる。
【0040】
図5に示すように、観測者が大型ディスプレイを見た際に、カメラと光源が同一位置の配置の場合、視線計測を可能とする光源が反射する範囲は、図8で示されるように、その限界角は、同様にθmaxで表される。但し、角膜の球面モデルを用いていることから角膜表面が球面と近似できる範囲で視線計測が可能である。そして、眼球が回転する全ての向きを考慮すると、図9に示す円錐(gaze cone)内が、光源が角膜の球面と近似できる部分に反射してカメラで撮影できる範囲となる。
【0041】
次に、対応付けられたカメラの3次元位置と光源の3次元位置とから、角膜曲率中心(A)の算出の仕方について説明する。
図4に示すように、観測者が大型ディスプレイを見た際に、カメラと光源が離れた配置の場合、図10に示すように光源の光が角膜表面で反射する。この場合、カメラj,光源i,カメラ内部のイメージセンサ上のプルキニエ像を含む平面は、下記の式1で表される。角膜表面を球面であると近似しているので、式1で表される平面は、角膜曲率中心Aを含むことになる。なお、下記式において、P,C,L,Xは3次元ベクトルを表している。
【0042】
(数1)
{(P´ji-C) × (L-C)}・(X-C)=0 ・・・(式1)
【0043】
一方、図5に示すように、観測者が大型ディスプレイを見た際に、カメラと光源が同一の配置の場合(光源一体型カメラを含む)、図11の示すように、下記の式2で表される直線は角膜曲率中心Aを通ることになる。ここで、tkkはパラメタである。
【0044】
(数2)
X= C + tkk(C-P´kk) ・・・(式2)
【0045】
大型ディスプレイの画面領域の内外に、多数のカメラと光源が設置されるような場合では、図5に示されるように、観測者が大型ディスプレイを見た際に、カメラと光源が離れた配置のものと、カメラと光源が同一位置の配置のもの(光源一体型カメラなど)と、2種類の配置が混在することになる。
このように、2種類の配置が混在する場合、以下の(条件1)~(条件3)の3条件の1つを満たすときに、角膜曲率中心Aを求めることができる。
【0046】
(条件1)観測者が大型ディスプレイを見た際に、カメラと光源が離れた配置のものが3つある場合、上記の(式1)で示される平面が3つ求まるので、その交点として、角膜曲率中心Aが求まる。但し、交点が1点に決まる必要があり、少なくとも3平面は同じであってはならない。
(条件2)観測者が大型ディスプレイを見た際に、カメラと光源が離れた配置のものと、カメラと光源が同一位置の配置のもの(光源一体型カメラを含む)がある場合、上記の(式1)で示される平面と上記の(式2)で示される直線が求まり、その交点として角膜曲率中心が求まる。但し、この場合、直線は平面に含まれてはならない。
(条件3)観測者が大型ディスプレイを見た際に、カメラと光源が同一位置の配置のもの(光源一体型カメラを含む)が2つある場合、上記の(式2)で示される直線が2つ求まり、その交点として角膜曲率中心が求まる。但し、この場合、直線は同一であってはならない。
【0047】
上記(条件1)の場合、3つのgaze coneの重なる部分が視線を計測できる範囲である。また、上記(条件2)と(条件3)の場合、2つのgaze coneが重なる部分が視線を計算できる範囲である。
ここで、上記(条件1)の場合、1つのカメラで2つの反射光を撮影することは必ずしも必要ではなく、カメラ3台を使って3平面を求めてもよい。精度を上げるためには、(条件1)の場合、3平面は互いに直角に近い角度で交わる方が精度向上を図れる。(条件2)の場合でも、平面と直線が直角に近い角度で交わるものを選択する方が精度向上を図れる。(条件3)の場合でも、直線が直角に近い角度で交わる方が精度向上を図れる。
また、直角に近い角度で交わるものが複数ある場合は、それらを全て使えばロバスト性が向上する。なお、角度が極端に浅いものは、計算から除外するべきである。
複数満たす条件があったときは、精度向上が図れるように、上述の如く計算に利用するカメラと光源を選択する。
【0048】
以上のようにして、角膜曲率中心Aを求めることができる。次に、光軸を求める。
光軸を含む面は、角膜曲率中心A、瞳孔中心B、カメラ中心Cを含む面である。図12から下記の式3を得る。瞳孔が撮影できているカメラが2つあれば、2つの平面が求まるので、光軸(B-A)が求まる。
【0049】
(数3)
{( Cl-B’l) × (A-Cl)}・(X-Cl)=0 ・・・(式3)
【0050】
上述の内容を踏まえて、本発明の視線計測装置および方法における視線計測可能領域を導く手段または方法について、以下に説明する。
図13は、大型ディスプレイ1の周囲に配置された3つのカメラ(3a~3c)と6つの光源(2a~2f)を示した模式図である。
まず、眼球を中心とし、異なる位置同士の光源手段の位置とカメラ手段の位置とから決定される第1視線計測可能範囲候補を求める。図13の場合、大型ディスプレイ1の画面領域の周囲に合せて6個の光源(2a~2f)が存在する。また、大型ディスプレイ1の画面領域の下側に3台のカメラ(3a~3c)が存在する。これらのカメラ(3a~3c)と光源(2a~2f)は互いに異なる位置に配置されている。カメラ(3a~3c)を下側に配置することにより、眼球画像を下側から取得することができることから、目を少し閉じた状態や目の細い人の眼球も撮影することができる。但し、カメラの位置は、計測対象の領域の下側に限定される必要はない。
【0051】
第1視線計測可能範囲候補は、図14に示すように、異なる位置同士の6個の光源(2a~2f)の位置と3台のカメラ(3a~3c)の位置から決定される18(=6×3)通り存在する。ここで、18通りの第1視線計測可能範囲候補が少なくとも3つ重なる、すなわち、3つ以上重なる第1の視線計測可能領域を求める。図14において、第1の視線計測可能領域10は太線で囲まれた領域である。
なお、光源(2a~2f)の位置とカメラ(3a~3c)の位置を結ぶ線の中点が、gaze coneの中心(6a~6d等)である。
【0052】
また、図15は、大型ディスプレイの上側に配置された7個の光源(2a~2g)と、大型ディスプレイの下側に配置された7台の光源一体型カメラ(4a~4g)を示した模式図である。
まず、先ほどと同様に、眼球を中心とし、異なる位置同士の14個の光源の位置(2a~2n)とカメラ(3a~3g)の位置とから決定される(7+(7-1))×7通りの第1視線計測可能範囲候補を求める。なお、(7+(7-1))としたのは、光源一体型カメラの光源の位置も考慮して光源を13個としたからである。第1視線計測可能範囲候補は、13個の光源の位置と7台のカメラの位置(3a~3g)から決定される91(=13×7)通り存在する。
この第1視線計測可能範囲候補が少なくとも3つ重なる領域が、第一の視線計測可能領域である。図16において第1の視線計測可能領域10は図の太線で囲まれた領域である。なお、図16において、91通りの全ての第1視線計測可能範囲候補を図示するのは煩雑であるため便宜上割愛しており、全ての第1視線計測可能範囲候補を示しているわけではない。
【0053】
次に、観測者から見て光源とカメラが同じ位置にある第2視線計測可能範囲候補と第1視線計測可能範囲候補が重なる第2の視線計測可能領域を求める。図17のように、観測者とカメラレンズの中心を結ぶ略線上に光源が配置されるものが7個ある場合、第2視線計測可能範囲候補は7つある。ここで、第2視線計測可能範囲候補と第1視線計測可能範囲候補とが重なる第2の視線計測可能領域20は、図の太線で囲まれた領域である。
次に、第2視線計測可能範囲候補同士が重なる第3の視線計測可能領域を求める。図18において、第3の視線計測可能領域30は図の太線で囲まれた領域である。
【0054】
そして、図16に示す第1の視線計測可能領域10と、図17に示す第2の視線計測可能領域20と、図18に示す第3の視線計測可能領域30とを含む範囲内に、計測対象領域が収まることで、目的とする領域の視線計測が可能になる(図19を参照。)。このように、大型ディスプレイや大型スクリーンなどの大画面のサイズや形状に応じて、最適な数のカメラと光源を用いて視線計測可能な範囲を拡大し、大画面におけるユーザの視線計測を行うのである。
【0055】
次に、使用するカメラの性能による視線計測可能範囲について説明する。
まず、最小計測可能距離は、1つの眼球を2台のカメラで撮影するという制約により決まる。一般的にカメラの画角(横)は、下記の式4で表される。ここで、c(mm)はカメラのイメージセンサの幅、f(mm)はカメラレンズの焦点距離である。
【0056】
【数4】
JP0005818233B2_000002t.gif

【0057】
図20に示すように、2台のカメラで撮影できる範囲(視線計測可能範囲)は、図中に斜線で示す如くギザギザとなるが、図20のように山の谷までの距離をl(mm)とすると、2台のカメラで捉えるためには、カメラから距離lmm離れた位置(図中のラインAの位置)での撮影範囲の半分に相当する間隔でカメラを並べればよいことになる。従って、カメラ間隔は下記の式5で表される。ユーザが動く範囲を決定すれば、カメラの台数も決定できる。なお、ユーザ数が限られる場合は、カメラを並べずに、電動雲台などでカメラを動かして眼球を撮影するか、可動式のミラーで眼球を追跡するなどしてもよい。
例えば、カメラレンズの焦点距離fを12mm、カメラのイメージセンサの幅cを4.8mm、カメラからの距離lを2.5mと仮定した場合、下記の式5から、カメラの配置間隔は0.5mとなる。
【0058】
【数5】
JP0005818233B2_000003t.gif

【0059】
次に、最大計測可能距離(図中のラインBの位置)は、2つのプルキニエ像が検出できるかで決定される。そこで、観察される瞳孔の大きさに基づく最大計測可能距離について説明する。目の部分をカメラで撮像した場合、少なくとも瞳孔は15×15ピクセル(px)程度で撮影する必要がある。
例として、イメージセンサの幅c(mm),n(px)のカメラ、フォーカスf(mm)のカメラレンズを用いて、l(mm)先の直径e(mm)(約4mm程度(ただし、瞳孔径は明るさにより2~8mmで変化する))の瞳孔を撮影する場合について、図21を参照して説明する。相似関係から、下記の式6を導くことができる。
【0060】
【数6】
JP0005818233B2_000004t.gif

【0061】
これを展開すると、l=efn/15cとなり、e=4mm,f=12mm,c=4.8mm,n=10000(px)を代入すると、l=6.67mとなる。
また、瞳孔を15(px)程度で撮影しても、角膜表面に反射する2つのプルキニエ像の間隔が狭いと2つを分離できず、視線を求める計算は不可能となる。角膜表面での反射では、角膜表面は凸面鏡となることから、プルキニエ像の間隔が更に縮小されることになる。ここでは、プルキニエ像の間隔がどの程度縮小されるかについて、図22を参照して説明する。図22は、凸面鏡に物体ABが反射したときの模式図を示している。
凸面鏡に物体ABが反射したときの倍率mは、下記の式7で表される。ここで、aは光源と角膜との距離、Rは角膜曲率半径、fは角膜の凸面鏡としての焦点距離であり、角膜の曲率半径の1/2である(f =R/2)。
【0062】
【数7】
JP0005818233B2_000005t.gif

【0063】
光源の間隔をLとすると、凸面鏡である角膜に映った2つの光源の虚像であるプルキニエ像の間隔は、m倍されることから、下記の式8で表される。
【0064】
【数8】
JP0005818233B2_000006t.gif

【0065】
以上のことから、光源から(a+b)の位置に、上記数式7の右辺の間隔で、光源のプルキニエ像が観察されることがわかる。
隣接する2つのプルキニエ像を識別できる条件として、プルキニエ像が2(px)四方の大きさとして、2つのプルキニエ像の間に2(px)あればよいとする。画像処理のために2つのプルキニエ像の中心が少なくとも4(px)分だけ離れて写るようにする。カメラのイメージセンサ上の画素(10×10px)の模式図を図23に示す。また、図24に2つの光源の間隔と2つの光源の虚像(プルキニエ像)の間隔の幾何学的関係を示す。
最も眼球がカメラから離れた時、2つの光源からできる2つのプルキニエ像が、カメラのイメージセンサ上で4(px)離れている必要がある。図24に示すように、この光源の虚像(プルキニエ像)の間隔が、カメラ上で4(px)であるためには、光源の虚像(プルキニエ像)の間隔は、4cl/nfである。光源の虚像(プルキニエ像)の間隔は、上記数式7で表せることから、下記の式9の関係が成り立つ。
【0066】
【数9】
JP0005818233B2_000007t.gif

【0067】
角膜曲率半径Rの平均値は約7.8mmであるので、角膜の凸面鏡としての焦点距離fは約3.9mmである。例えば、f=3.9(mm)、光源と角膜との距離a=5000(mm)、イメージセンサの幅c=4.8(mm),n=10000(px),フォーカスf=12(mm)のカメラレンズを用いて、l=5000(mm)先の物体を観測する場合、光源の間隔Lは、上記数式8より、1026.4(mm)となる。
この距離より、近い幅で設置した光源によるプルキニエ像は区別できない。逆に光源の距離を離した場合は、ユーザがカメラに近づいたとき、プルキニエ像が1点しか観察されないことがある。
【0068】
次に、本発明の視線計測装置のハードウェア構成について、図25を参照して説明する。視線計測装置21は、CPU211、メモリ212、ハードディスク213、キーボード214、マウス215、プロジェクタ216、外部メモリ217、LED218及びカメラ219を備えている。
CPU211は、ハードディスク213に記録されているオペレーティング・システム(OS)、視線計測プログラム等その他のアプリケーションに基づいた処理を行う。メモリ212は、CPU211に対して作業領域を提供する。ハードディスク213は、オペレーティング・システム(OS)、視線計測プログラム等その他のアプリケーション及び視線計測の結果得られた計測データを記録する。キーボード214、マウス215は、外部からの命令を受け付ける。プロジェクタ216は、視線を計測する観測者が見る映像コンテンツを表示する。
LED218は、視線計測装置21によって視線を計測する観測者に対して、光を照射する。カメラ219は、観測者の眼球画像を撮影する。LED218及びカメラ219は大型ディスプレイのサイズや形状に応じて、複数配置する。配置の仕方は上述の通りである。
【0069】
視線を計算するためには、実空間における3次元的な光源位置と、眼球画像上での反射像であるプルキニエ像の位置を対応付ける必要がある。光源が複数存在する場合、光源が角膜に複数反射するため、或いは、反射光が1つでもどの光源のものか分からないために、カメラ手段により撮影されたプルキニエ像と実際の光源手段との対応付けを行なう必要がある。
以下の実施例では、複数存在する光源からの光のために、角膜表面に現れるプルキニエ像に関して、プルキニエ像の位置と実際の光源の位置との対応付けを説明する。
【実施例1】
【0070】
実施例1では、各々の光源の照射光の形状パターンを異なるものにすることにより、実際の光源の位置を判別するものについて説明する。角膜表面は凸面鏡となるため、光源の形状は縮小されるため、できるだけ大きな図形でないと識別は困難である。そのため、光源手段の形状パターン自体を異なるものにする。
ここで、角膜表面には3点映ればいいとする。単純な図形とするため、単に2点をつないだ直線と点の組み合わせとする。例えば、図26(1)のように、瞳孔7には3つの点光源(8a~8c)の反射光が観察される。或いは、図26(2)や(3)のように、瞳孔7には2つの点光源(8a,8b)と線光源9aの反射光が観察される。線光源は赤外線LEDを並べて構築するか、あるいは赤外線プロジェクタなどでパターンを投影してもよい。ここでは線光源の両端も点として認識するものとする。
【0071】
図27に、このような3点の組み合わせを30通り示す。30通りの組み合わせを番号1~30で示している。例えば、番号1は3つの点光源(8a,8b,8c)で構成されるもので、上に1点、下に2点の点光源があるものである。また、番号2は2つの点光源(8a,8b)と1つの線光源9aから構成されるもので、上に線光源、下に2点の点光源があるものである。また、番号30は3つの線光源(9a,9b,9c)で構成されるもので、上に2点、下に1点の線光源があるものである。
【0072】
また、図28にこのような3点を組み合わせた光源の照射光の形状パターンを示す。なお、図28において点光源と線光源の配置に意味があり、円は角膜に反射した光源のうちどの3点を選択したかという意味しかない。
図28に示す3点を組み合わせた光源の照射光の形状パターンは、5つのパターンが重なりながら横に並び、4段重なったものである。最上段は左から番号22,10,16,29,18、中段上は左から番号1,2,9,14,25、中段下は左から番号4,5,12,17,24、最下段は左から番号19,7,13,26,15の形状パターンで構成されている。
【0073】
ここで、図28の形状パターンは、縦横に繰り返して配置できるものとなっている。図29には、図28に示す形状パターンを1単位とし、4単位を縦横に並べたパターン図を示す。スクリーンのように、小さな穴を開ける等をしてスクリーン面に光源を配置できるような場合はこのまま配置すればよい。
また、ディスプレイ上に光源を配置できないような場合は、例えば、図30のようにディスプレイを囲むように光源の照射光の形状パターンを配置する。
また、ディスプレイが横長の場合は、図31のように配置すればよい。繰り返し配置することにより、360°の全周囲視線計測も可能である。
【0074】
各々の光源の照射光の形状パターンを異なるものとして、光源から照射する光の形状を星形,ハート型,文字型,QRコードに代表される二次元コードなど光源毎にユニークなものとして、光源を区別できるようにするものがある。
上述の如く、角膜表面は凸面鏡となることから光源の形状は縮小されるため、できるだけ大きな図形でないと識別は困難である。しかしながら、非常に高解像度の画像が取得できる場合に、光源から照射する光の形状を光源毎にユニークなものとして光源を判別できる。例えば、光源が赤外線LEDであり、LED毎にユニークな数字を照射できるようにする。図32の如く、眼球に赤外線の光が照射されると、数字が角膜に反射されて観察される。観察された数字から、どの光源からの光であるかを判別できる。
その他、ディスプレイに表示されている形状が既知のものを利用して、既知の形状と反射像の位置関係から、どの位置から発せられた光であるかを判別することも可能である。
【実施例2】
【0075】
実施例2では、各々の光源手段の照射光の波長を異なるものにすることにより、実際の光源の位置を判別するものについて説明する。各々の光源手段の照射光の波長を異なるものにし、光の色で光源を判別する。例えば、図33に示すように、ディスプレイ1の周囲に白(2a)、青(2b)、オレンジ(2c)、赤(2d)、黄(2e)、緑(2f)などの色のついた光源を用いることにより、角膜表面上のプルキニエ像と光源を対応付ける。
【実施例3】
【0076】
実施例3では、所定時間内に各々の光源をユニークに点滅させて、光源手段の点灯・消灯を2値データとし、特定の光源手段と対応付けするものについて説明する。
例えば、1フレームごとのLEDの点灯を0、消灯をXとして表記する。
終端記号を連続する2つの消灯とした場合、条件としては、終端記号XXとの差別化のために各信号の中に連続のXXが存在しないことと、終端記号XXとの差別化のために最後のビットが0である(Xでない)ことである。これにより採用可能な記号列は、4bitの場合、16個中の5通り(0000、00X0、0X00、X000、X0X0)になる。また、5bitの場合32個中以下の8通り(00000、000X0、00X00、0X000、0X0X0、X0000、X00X0、X0X00)になる。
また、終端記号を付加せずに、1ブロックの配列として対応付ける場合、LEDとプログラムを同期させる必要があるものの、切れ目なく連続して計測が可能である。例えば、“0000
0X0X XX0X ・・・”の場合、入力を4bit毎に区切ることにより、全記号列を認識・判別できる。
【実施例4】
【0077】
実施例4では、各々の光源を順次点灯させて、光源のプルキニエ像の位置と実際の光源の位置とを対応付けするものについて説明する。
ここで、各々の光源手段を順次点灯させるとは、図34(1)~(6)の如く、順番に光源手段を点灯させて(図中で点灯を“*”で表記)、眼球に映るプルキニエ像を対応させるものである。眼球上にプルキニエ像が存在する場合、順番に光源手段を点灯させて、複数の光源手段を1つずつ特定する。
例えば、図34(1)~(6)に示すように、順番に光源を点灯させて光源を判別する場合、ある場所の光源を光らせて、カメラで撮影された眼球画像にその反射光が映るかどうかを確認し、上述の(条件1)または(条件2)または(条件3)を満たすのに必要なプルキニエ像の位置と実際の光源の位置とを対応付けが完了すれば、視線の算出が可能になる。
【産業上の利用可能性】
【0078】
本発明は、大画面ディスプレイやスクリーン全体などの任意の画面全体、ショーウィンドウなどの所定領域全体で視線計測を実現できることから、デパートやコンビニやショーウィンドウなどのマーケティング調査装置や方法として有用である。
また、デジタルサイネージ(電子看板)、博物館や美術館などのユーザインタフェースや、観測者の行動分析装置や方法として有用である。
【符号の説明】
【0079】
1 ディスプレイ
2,2a~2n 光源
3,3a~3g カメラ
4a~4g 光源一体型カメラ
5,5a,5b gaze cone
6,6a~6f gaze coneの中心
7 瞳孔
8a~8c 点光源
9a~9c 線光源
10 第1の視線計測可能領域
20 第2の視線計測可能領域
30 第3の視線計測可能領域
40 視線計測可能領域
21,100 視線計測装置
図面
【図1】
0
【図2】
1
【図3】
2
【図4】
3
【図5】
4
【図6】
5
【図7】
6
【図8】
7
【図9】
8
【図10】
9
【図11】
10
【図12】
11
【図13】
12
【図14】
13
【図15】
14
【図16】
15
【図17】
16
【図18】
17
【図19】
18
【図20】
19
【図21】
20
【図22】
21
【図23】
22
【図24】
23
【図25】
24
【図26】
25
【図27】
26
【図28】
27
【図29】
28
【図30】
29
【図31】
30
【図32】
31
【図33】
32
【図34】
33