TOP > 国内特許検索 > 立体映像評価装置および立体映像チューナ > 明細書

明細書 :立体映像評価装置および立体映像チューナ

発行国 日本国特許庁(JP)
公報種別 特許公報(B2)
特許番号 特許第4469159号 (P4469159)
公開番号 特開2005-142819 (P2005-142819A)
登録日 平成22年3月5日(2010.3.5)
発行日 平成22年5月26日(2010.5.26)
公開日 平成17年6月2日(2005.6.2)
発明の名称または考案の名称 立体映像評価装置および立体映像チューナ
国際特許分類 H04N  13/04        (2006.01)
H04N  17/04        (2006.01)
FI H04N 13/04
H04N 17/04 Z
請求項の数または発明の数 20
全頁数 44
出願番号 特願2003-377005 (P2003-377005)
出願日 平成15年11月6日(2003.11.6)
審査請求日 平成18年10月27日(2006.10.27)
特許権者または実用新案権者 【識別番号】899000068
【氏名又は名称】学校法人早稲田大学
発明者または考案者 【氏名】河合 隆史
【氏名】井上 哲理
個別代理人の代理人 【識別番号】100114638、【弁理士】、【氏名又は名称】中野 寛也
審査官 【審査官】伊東 和重
参考文献・文献 特開2003-018619(JP,A)
特開平09-121370(JP,A)
特開2004-165708(JP,A)
調査した分野 H04N 13/00
H04N 17/00
特許請求の範囲 【請求項1】
左眼用画像と右眼用画像とを融像させて得られる立体映像を評価する立体映像評価装置であって、
オプティカルフローを求める画像処理を用いて前記左眼用画像と前記右眼用画像との対応点間の視差量をピクセル単位で算出するピクセル視差量算出手段と、
このピクセル視差量算出手段により算出されたピクセル単位の前記視差量を用いて前記立体映像の評価に用いられる評価用データを作成する評価用データ作成手段と
前記立体映像の評価に必要な情報を画面表示する評価用ディスプレイ装置と、
前記評価用データ作成手段により作成された前記評価用データを前記評価用ディスプレイ装置の画面上に表示する処理を行う評価用データ表示処理手段とを備え、
前記評価用データ作成手段は、
前記ピクセル視差量算出手段により算出されたピクセル単位の前記視差量のうちから最前面の対象についてのピクセル単位の視差量を前記評価用データとして算出する最前面ピクセル視差量算出手段と、
前記ピクセル視差量算出手段により算出されたピクセル単位の前記視差量のうちから最背面の対象についてのピクセル単位の視差量を前記評価用データとして算出する最背面ピクセル視差量算出手段とのうち、
少なくとも一方の算出手段を含んで構成されている
ことを特徴とする立体映像評価装置。
【請求項2】
請求項に記載の立体映像評価装置において、
前記評価用データ表示処理手段は、
前記最前面ピクセル視差量算出手段により算出された前記最前面の対象についてのピクセル単位の前記視差量の時系列変化について一方の軸をフレーム単位または時間単位の軸としてグラフ表示する処理を行う最前面ピクセル視差量表示処理手段と、
前記最背面ピクセル視差量算出手段により算出された前記最背面の対象についてのピクセル単位の前記視差量の時系列変化について一方の軸をフレーム単位または時間単位の軸としてグラフ表示する処理を行う最背面ピクセル視差量表示処理手段とのうち、
少なくとも一方の表示処理手段を含んで構成されている
ことを特徴とする立体映像評価装置。
【請求項3】
請求項またはに記載の立体映像評価装置において、
前記評価用データ作成手段は、
前記最前面ピクセル視差量算出手段および/または前記最背面ピクセル視差量算出手段により算出された前記最前面および/または前記最背面の対象のピクセル単位の前記視差量についての各フレームの累積値を前記評価用データとして算出するピクセル視差量累積値算出手段を含んで構成され、
前記評価用データ表示処理手段は、
前記ピクセル視差量累積値算出手段により算出された前記累積値の時系列変化について一方の軸をフレーム単位または時間単位の軸としてグラフ表示する処理を行うピクセル視差量累積値表示処理手段を含んで構成されている
ことを特徴とする立体映像評価装置。
【請求項4】
請求項のいずれかに記載の立体映像評価装置において、
前記評価用データ作成手段は、
前記最前面ピクセル視差量算出手段により算出された前記最前面の対象についてのピクセル単位の視差量と前記最背面ピクセル視差量算出手段により算出された前記最背面の対象についてのピクセル単位の視差量との差分を前記評価用データとして算出するピクセル差分算出手段を含んで構成され、
前記評価用データ表示処理手段は、
前記ピクセル差分算出手段により算出された前記差分の時系列変化について一方の軸をフレーム単位または時間単位の軸としてグラフ表示する処理を行うピクセル差分表示処理手段を含んで構成されている
ことを特徴とする立体映像評価装置。
【請求項5】
請求項のいずれかに記載の立体映像評価装置において、
前記評価用データ作成手段は、
前記最前面の対象のピクセル単位の視差量についての複数フレームの平均値、分散、または標準偏差、
前記最背面の対象のピクセル単位の視差量についての複数フレームの平均値、分散、または標準偏差、
前記最前面の対象のピクセル単位の視差量についての複数フレームの平均値と前記最背面の対象のピクセル単位の視差量についての複数フレームの平均値との差分、
前記最前面の対象のピクセル単位の視差量と前記最背面の対象のピクセル単位の視差量との差分についての複数フレームの平均値、分散、または標準偏差、
各フレームのそれぞれでの全画素のピクセル単位の視差量についての平均値、分散、または標準偏差のうち、
少なくとも一つの統計データを前記評価用データとして算出する統計データ算出手段を含んで構成され、
前記評価用データ表示処理手段は、
前記統計データ算出手段により算出された前記統計データのうちの少なくとも一つを表示する処理を行う統計データ表示処理手段を含んで構成されている
ことを特徴とする立体映像評価装置。
【請求項6】
請求項のいずれかに記載の立体映像評価装置において、
前記立体映像の観察者から立体映像呈示用ディスプレイ装置の画像呈示面までの視距離および前記立体映像呈示用ディスプレイ装置の画像呈示面サイズを観察条件として設定する観察条件設定手段を備え、
前記評価用データ作成手段は、
前記観察条件設定手段により設定された前記画像呈示面サイズを用いて、前記最前面ピクセル視差量算出手段および/または前記最背面ピクセル視差量算出手段により算出された前記最前面および/または前記最背面の対象についての前記視差量をピクセル単位から標準的な測長単位に換算する単位換算手段と、
この単位換算手段により換算して得られた標準的な測長単位の前記視差量と瞳孔間隔と前記視距離とを用いて前記画像呈示面から前記立体映像の再生位置までの奥行き方向距離を前記評価用データとして算出する再生位置算出手段とを含んで構成され、
前記評価用データ表示処理手段は、
前記再生位置算出手段により算出した前記奥行き方向距離を表示する処理を行う再生位置表示処理手段を含んで構成されている
ことを特徴とする立体映像評価装置。
【請求項7】
請求項のいずれかに記載の立体映像評価装置において、
前記立体映像の観察者から立体映像呈示用ディスプレイ装置の画像呈示面までの視距離および前記立体映像呈示用ディスプレイ装置の画像呈示面サイズを観察条件として設定する観察条件設定手段を備え、
前記評価用データ作成手段は、
前記観察条件設定手段により設定された前記画像呈示面サイズを用いて、前記最前面ピクセル視差量算出手段および/または前記最背面ピクセル視差量算出手段により算出された前記最前面および/または前記最背面の対象についての前記視差量をピクセル単位から標準的な測長単位に換算する単位換算手段と、
この単位換算手段により換算して得られた標準的な測長単位の前記視差量と前記視距離とを用いて角度単位の視差量を前記評価用データとして算出する角度視差量算出手段とを含んで構成され、
前記評価用データ表示処理手段は、
前記角度視差量算出手段により算出した角度単位の前記視差量を表示する処理を行う角度視差量表示処理手段を含んで構成されている
ことを特徴とする立体映像評価装置。
【請求項8】
請求項のいずれかに記載の立体映像評価装置において、
前記立体映像の観察者から立体映像呈示用ディスプレイ装置の画像呈示面までの視距離および前記立体映像呈示用ディスプレイ装置の画像呈示面サイズを観察条件として設定する観察条件設定手段を備え、
前記評価用データ作成手段は、
前記観察条件設定手段により設定された前記画像呈示面サイズを用いて、前記最前面ピクセル視差量算出手段および/または前記最背面ピクセル視差量算出手段により算出された前記最前面および/または前記最背面の対象についての前記視差量をピクセル単位から標準的な測長単位に換算する単位換算手段と、
この単位換算手段により換算して得られた標準的な測長単位の前記視差量と前記視距離とを用いて角度単位の視差量を前記評価用データとして算出する角度視差量算出手段と、
この角度視差量算出手段により算出した角度単位の前記視差量についての各フレームの累積値を前記評価用データとして算出する角度視差量累積値算出手段とを含んで構成され、
前記評価用データ表示処理手段は、
前記角度視差量累積値算出手段により算出された前記累積値を表示する処理を行う角度視差量累積値表示処理手段を含んで構成されている
ことを特徴とする立体映像評価装置。
【請求項9】
請求項のいずれかに記載の立体映像評価装置において、
前記立体映像の観察者から立体映像呈示用ディスプレイ装置の画像呈示面までの視距離および前記立体映像呈示用ディスプレイ装置の画像呈示面サイズを観察条件として設定する観察条件設定手段を備え、
前記評価用データ作成手段は、
前記最前面ピクセル視差量算出手段および/または前記最背面ピクセル視差量算出手段により算出された前記最前面および/または前記最背面の対象のピクセル単位の前記視差量についての各フレームの累積値を前記評価用データとして算出するピクセル視差量累積値算出手段と、
前記観察条件設定手段により設定された前記画像呈示面サイズを用いて、前記ピクセル視差量累積値算出手段により算出された前記最前面および/または前記最背面の対象のピクセル単位の前記視差量についての各フレームの累積値をピクセル単位から標準的な測長単位に換算する単位換算手段と、
この単位換算手段により換算して得られた標準的な測長単位の前記累積値と前記視距離とを用いて角度単位の累積値を前記評価用データとして算出する角度視差量累積値算出手段とを含んで構成され、
前記評価用データ表示処理手段は、
前記角度視差量累積値算出手段により算出した角度単位の前記累積値を表示する処理を行う角度視差量累積値表示処理手段を含んで構成されている
ことを特徴とする立体映像評価装置。
【請求項10】
請求項のいずれかに記載の立体映像評価装置において、
前記立体映像の観察者から立体映像呈示用ディスプレイ装置の画像呈示面までの視距離および前記立体映像呈示用ディスプレイ装置の画像呈示面サイズを観察条件として設定する観察条件設定手段を備え、
前記評価用データ作成手段は、
前記観察条件設定手段により設定された前記画像呈示面サイズを用いて、前記最前面ピクセル視差量算出手段により算出された前記最前面の対象についてのピクセル単位の前記視差量と前記最背面ピクセル視差量算出手段により算出された前記最背面の対象についてのピクセル単位の前記視差量との差分を、ピクセル単位から標準的な測長単位に換算する単位換算手段と、
この単位換算手段により換算して得られた標準的な測長単位の前記差分と前記視距離とを用いて角度単位の差分を前記評価用データとして算出する角度差分算出手段とを含んで構成され、
前記評価用データ表示処理手段は、
前記角度差分算出手段により算出された角度単位の前記差分を表示する処理を行う角度差分表示処理手段を含んで構成されている
ことを特徴とする立体映像評価装置。
【請求項11】
請求項またはに記載の立体映像評価装置において、
前記角度視差量累積値算出手段により算出した前記累積値と生理・心理実験により求めた安全性基準値とを比較する角度視差量累積値比較手段と、
この角度視差量累積値比較手段による比較結果に基づき観察者に対して顕著な視覚負担を与える可能性の有無または度合いについて判断する安全性判断手段と
を備えたことを特徴とする立体映像評価装置。
【請求項12】
請求項10に記載の立体映像評価装置において、
前記角度差分算出手段により算出した角度単位の前記差分と生理・心理実験により求めた快適性上限値および快適性下限値とを比較する角度差分比較手段と、
この角度差分比較手段による比較結果に基づき観察者が前記左眼用画像と前記右眼用画像とを無理なく融像することができ、かつ、十分な立体感を得ることができる可能性の有無または度合いについて判断する快適性判断手段と
を備えたことを特徴とする立体映像評価装置。
【請求項13】
請求項11に記載の立体映像評価装置において、
前記安全性判断手段による判断結果に基づいて前記累積値が前記安全性基準値を超えている場合に前記累積値が前記安全性基準値以下になるか若しくは前記安全性基準値に近づくように前記左眼用画像および/または前記右眼用画像を補正する処理を行う画像補正処理手段を備えたことを特徴とする立体映像評価装置。
【請求項14】
請求項12に記載の立体映像評価装置において、
前記快適性判断手段による判断結果に基づいて角度単位の前記差分が前記快適性上限値から前記快適性下限値までの範囲に収まっていない場合に角度単位の前記差分が前記範囲に収まるか若しくは収まる状態に近づくように前記左眼用画像および/または前記右眼用画像を補正する処理を行う画像補正処理手段を備えたことを特徴とする立体映像評価装置。
【請求項15】
左眼用画像と右眼用画像とを融像させて得られる立体映像を評価する立体映像評価装置であって、
オプティカルフローを求める画像処理を用いて前記左眼用画像と前記右眼用画像との対応点間の視差量をピクセル単位で算出するピクセル視差量算出手段と、
このピクセル視差量算出手段により算出されたピクセル単位の前記視差量を用いて前記立体映像の評価に用いられる評価用データを作成する評価用データ作成手段と
この評価用データ作成手段により作成した前記評価用データのうちの少なくとも一種類の評価用データを、放送用電波に乗せて若しくは通信ネットワークを介して配信する立体映像または記録媒体に記録して提供する立体映像のコンテンツとしての前記左眼用画像および前記右眼用画像に、メタデータとして付加する処理を行うメタデータ付加処理手段とを備え、
前記評価用データ作成手段は、
前記ピクセル視差量算出手段により算出されたピクセル単位の前記視差量のうちから最前面の対象についてのピクセル単位の視差量を前記評価用データとして算出する最前面ピクセル視差量算出手段と、
前記ピクセル視差量算出手段により算出されたピクセル単位の前記視差量のうちから最背面の対象についてのピクセル単位の視差量を前記評価用データとして算出する最背面ピクセル視差量算出手段とのうち、
少なくとも一方の算出手段を含んで構成されている
ことを特徴とする立体映像評価装置。
【請求項16】
請求項1~10のいずれかに記載の立体映像評価装置において、
前記評価用データ作成手段により作成した前記評価用データのうちの少なくとも一種類の評価用データを、放送用電波に乗せて若しくは通信ネットワークを介して配信する立体映像または記録媒体に記録して提供する立体映像のコンテンツとしての前記左眼用画像および前記右眼用画像に、メタデータとして付加する処理を行うメタデータ付加処理手段を備えたことを特徴とする立体映像評価装置。
【請求項17】
観察者に立体映像を呈示するための立体映像呈示用ディスプレイ装置に接続されてこの立体映像呈示用ディスプレイ装置の画面上に表示する前記立体映像を調整する立体映像チューナであって、
放送用電波に乗せて若しくは通信ネットワークを介して配信されてくる立体映像または記録媒体に記録されている立体映像のコンテンツとしての左眼用画像および右眼用画像並びにこのコンテンツに付加されたメタデータを入力する立体映像入力手段と、
前記立体映像の観察者から前記立体映像呈示用ディスプレイ装置の画像呈示面までの視距離および前記立体映像呈示用ディスプレイ装置の画像呈示面サイズを観察条件として設定する観察条件設定手段と、
前記メタデータに含まれる評価用データおよび前記観察条件設定手段により設定した前記観察条件を用いて前記立体映像の再生用の前記左眼用画像および前記右眼用画像を作成する再生用画像作成手段と、
この再生用画像作成手段により作成された前記左眼用画像および前記右眼用画像を前記立体映像呈示用ディスプレイ装置に送り出す再生用画像出力手段とを備え、
前記評価用データは、請求項15または16に記載のメタデータ付加処理手段により付加された評価用データである
ことを特徴とする立体映像チューナ。
【請求項18】
請求項17に記載の立体映像チューナにおいて、
前記評価用データには、
請求項1に記載の最前面ピクセル視差量算出手段および/または最背面ピクセル視差量算出手段により算出された前記最前面および/または前記最背面の対象についてのピクセル単位の視差量と、
請求項に記載のピクセル視差量累積値算出手段により算出された前記最前面および/または前記最背面の対象のピクセル単位の前記視差量についての各フレームの累積値とのうち、
少なくとも一方が含まれ、
前記再生用画像作成手段は、
前記観察条件設定手段により設定された前記画像呈示面サイズを用いて前記最前面および/または前記最背面の対象のピクセル単位の前記視差量についての各フレームの累積値をピクセル単位から標準的な測長単位に換算する単位換算手段と、
この単位換算手段により換算して得られた標準的な測長単位の前記累積値と前記視距離とを用いて角度単位の累積値を算出する角度視差量累積値算出手段と、
この角度視差量累積値算出手段により算出した角度単位の前記累積値と生理・心理実験により求めた安全性基準値とを比較する角度視差量累積値比較手段と、
この角度視差量累積値比較手段による比較結果に基づき観察者に対して顕著な視覚負担を与える可能性の有無または度合いについて判断する安全性判断手段と、
この安全性判断手段による判断結果に基づいて前記累積値が前記安全性基準値を超えている場合に前記累積値が前記安全性基準値以下になるか若しくは前記安全性基準値に近づくように前記左眼用画像および/または前記右眼用画像を補正する処理を行う画像補正処理手段とを含んで構成されている
ことを特徴とする立体映像チューナ。
【請求項19】
請求項17に記載の立体映像チューナにおいて、
前記評価用データには、
請求項1に記載の最前面ピクセル視差量算出手段および/または最背面ピクセル視差量算出手段により算出された前記最前面および/または前記最背面の対象についてのピクセル単位の視差量と、
請求項に記載のピクセル差分算出手段により算出された前記最前面の対象についてのピクセル単位の視差量と前記最背面ピクセル視差量算出手段により算出された前記最背面の対象についてのピクセル単位の視差量との差分とのうち、
少なくとも一方が含まれ、
前記再生用画像作成手段は、
前記観察条件設定手段により設定された前記画像呈示面サイズを用いて前記最前面の対象についてのピクセル単位の視差量と前記最背面の対象についてのピクセル単位の視差量との差分をピクセル単位から標準的な測長単位に換算する単位換算手段と、
この単位換算手段により換算して得られた標準的な測長単位の前記差分と前記視距離とを用いて角度単位の差分を算出する角度差分算出手段と、
この角度差分算出手段により算出した角度単位の前記差分と生理・心理実験により求めた快適性上限値および快適性下限値とを比較する角度差分比較手段と、
この角度差分比較手段による比較結果に基づき観察者が前記左眼用画像と前記右眼用画像とを無理なく融像することができ、かつ、十分な立体感を得ることができる可能性の有無または度合いについて判断する快適性判断手段と、
この快適性判断手段による判断結果に基づいて角度単位の前記差分が前記快適性上限値から前記快適性下限値までの範囲に収まっていない場合に角度単位の前記差分が前記範囲に収まるか若しくは収まる状態に近づくように前記左眼用画像および/または前記右眼用画像を補正する処理を行う画像補正処理手段とを含んで構成されている
ことを特徴とする立体映像チューナ。
【請求項20】
観察者に立体映像を呈示するための立体映像呈示用ディスプレイ装置に接続されてこの立体映像呈示用ディスプレイ装置の画面上に表示する前記立体映像を調整する立体映像チューナであって、
放送用電波に乗せて若しくは通信ネットワークを介して配信されてくる立体映像または記録媒体に記録されている立体映像のコンテンツとしての左眼用画像および右眼用画像並びにこのコンテンツに付加されたメタデータを入力する立体映像入力手段と、
前記立体映像の観察者から前記立体映像呈示用ディスプレイ装置の画像呈示面までの視距離または前記立体映像呈示用ディスプレイ装置の画像呈示面サイズのいずれか一方の観察条件を設定する観察条件設定手段と、
前記メタデータに含まれる評価用データおよび前記観察条件設定手段により設定した前記一方の観察条件を用いて前記視距離または前記画像呈示面サイズのいずれか他方の観察条件についての最適な条件を算出する最適観察条件算出手段と、
この最適観察条件算出手段による算出結果を前記観察者に呈示する最適観察条件呈示手段とを備え、
前記評価用データは、請求項15または16に記載のメタデータ付加処理手段により付加された評価用データである
ことを特徴とする立体映像チューナ。
発明の詳細な説明 【技術分野】
【0001】
本発明は、左眼用画像と右眼用画像とを融像させて得られる立体映像を評価する立体映像評価装置、および観察者に立体映像を呈示するための立体映像呈示用ディスプレイ装置に接続されてこの立体映像呈示用ディスプレイ装置の画面上に表示する立体映像を調整する立体映像チューナに係り、例えば、立体映像のコンテンツ制作者、立体映像を放送用電波に乗せて若しくは通信ネットワークを介して配信する者、または記録媒体に記録して提供する者が、それぞれ制作、配信、提供する立体映像を評価する場合、あるいはこれらの者から立体映像の配信や提供を受けた者が、立体映像を観察する場合等に利用できる。
【背景技術】
【0002】
立体映像は、ディスプレイ技術に研究の重点が置かれ、コンテンツや人への影響に関する検討が遅れていたことから、これまでメディアとして普及してこなかった。しかし、最近、各企業により構成される業界団体が設立される等、立体映像の市場創出を目指す動きが本格化している。こうした動きを背景として、立体映像メディアの普及のためには、コンテンツ制作や応用領域の検討に加え、人への影響の観点から、コンテンツの安全性や快適性を評価・管理する方法、並びにシステムが、今後、重要になると考えられる。
【0003】
ところで、従来より、既存の画像処理の手法として、オプティカルフローを求める画像処理技術が知られている。このオプティカルフローを求める画像処理は、時間変化するベクトルの動きの解析に用いられ、例えば、笑い始めから笑い終わりまでの笑い表情形成時等における表情筋の動きの解析等に利用されるものであり、これにより表情筋の動きの大きい部分と小さい部分との区別をつけることができる。そして、このようなオプティカルフローを求める画像処理の原理等については、各種の文献に記述されている(例えば、非特許文献1等参照)。
【0004】
また、このようなオプティカルフローを求める画像処理を利用して立体表示を行う手法として、連続する撮影画像からスリット状に切り出したスリット画像を結合し、左目視用および右目視用のパノラマ画像を生成し、立体表示を行うパノラマステレオ画像生成表示方法がある(特許文献1参照)。このパノラマステレオ画像生成表示方法では、連続する2つのフレーム画像を比較し、基準フレーム画像を2等分する中心線から等距離にある2本の基準線上の各画素におけるオプティカルフローの大きさを算出する工程と、オプティカルフローの大きさに基づいて、スリット画像の幅をそれぞれ決定し、基準フレーム画像からスリット画像をそれぞれ切り出す工程と、右目用および左目用のパノラマ画像を生成するためのスリット画像をそれぞれ結合し、右目用および左目用のパノラマ画像をそれぞれ生成する工程とを有している。
【0005】

【特許文献1】特開平11-164326号公報(段落[0013]、[0016]~[0018]、図1、要約)
【非特許文献1】船久保登著、“視覚パターンの処理と認識”、初版、啓学出版株式会社、1990年2月28日、p.234-238
【発明の開示】
【発明が解決しようとする課題】
【0006】
前述したように、立体映像の市場創出を目指す動きが本格化しているにもかかわらず、立体映像メディアの普及にかかせないコンテンツの安全性や快適性を評価・管理する方法やシステムが確立・開発されていないのが現状である。従って、多様なコンテンツについて、視覚負担の度合いという安全性、および適正な奥行き感が得られるかどうかという快適性の観点から、簡易かつ効果的に立体映像の評価が可能となる装置を開発するとともに、この評価結果に基づき、観察者に対し、立体感を最適化した状態で立体映像を呈示することができるシステムの構築が望まれる。
【0007】
なお、前述した特許文献1に記載されたパノラマステレオ画像生成表示方法では、連続する2つのフレーム画像を比較するので(特許文献1の段落[0018]には、1つのフレーム画像に対し、オプティカルフローは左目用、右目用それぞれについて求まる旨の記載がある。)、結局、異なるフレーム同士を比較しており、同じフレームを構成する左右の画像同士を比較しているものではない。
【0008】
本発明の目的は、簡易かつ効果的に立体映像の評価を行うことができる立体映像評価装置、および観察者に対し、立体感を最適化した状態で立体映像を呈示することができる立体映像チューナを提供するところにある。
【課題を解決するための手段】
【0009】
本発明は、左眼用画像と右眼用画像とを融像させて得られる立体映像を評価する立体映像評価装置であって、オプティカルフローを求める画像処理を用いて左眼用画像と右眼用画像との対応点間の視差量をピクセル単位で算出するピクセル視差量算出手段と、このピクセル視差量算出手段により算出されたピクセル単位の視差量を用いて立体映像の評価に用いられる評価用データを作成する評価用データ作成手段とを備え、評価用データ作成手段は、ピクセル視差量算出手段により算出されたピクセル単位の視差量のうちから最前面の対象についてのピクセル単位の視差量を評価用データとして算出する最前面ピクセル視差量算出手段と、ピクセル視差量算出手段により算出されたピクセル単位の視差量のうちから最背面の対象についてのピクセル単位の視差量を評価用データとして算出する最背面ピクセル視差量算出手段とのうち、少なくとも一方の算出手段を含んで構成されていることを特徴とするものである。
【0010】
ここで、「最前面ピクセル視差量算出手段」は、全画素について視差量を算出したときに、最も一般的な場合として交差方向の視差量と同側方向の視差量との両方が算出される場合には、交差方向のピクセル単位の最大視差量(絶対値が最大のもの)であることを意味し、交差方向の視差量のみが算出される場合にも、交差方向のピクセル単位の最大視差量(絶対値が最大のもの)であることを意味するが、同側方向の視差量のみが算出される場合には、同側方向のピクセル単位の最小視差量(絶対値が最小のもの)であることを意味する。一方、「最背面ピクセル視差量算出手段」は、全画素について視差量を算出したときに、最も一般的な場合として交差方向の視差量と同側方向の視差量との両方が算出される場合には、同側方向のピクセル単位の最大視差量(絶対値が最大のもの)であることを意味し、同側方向の視差量のみが算出される場合にも、同側方向のピクセル単位の最大視差量(絶対値が最大のもの)であることを意味するが、交差方向の視差量のみが算出される場合には、交差方向のピクセル単位の最小視差量(絶対値が最小のもの)であることを意味する。
【0011】
また、「最前面ピクセル視差量算出手段」および「最背面ピクセル視差量算出手段」は、視差量の値(絶対値)が最大(但し、上述のように、全画素についての視差量が交差方向または同側方向のいずれか一方になっている場合には、最小もあり得る。)となる1画素(1点)の値のみを採用し、これを最前面や最背面の対象についての視差量としてもよく、あるいは視差量の値(絶対値)が最大(または最小)となる1画素の値を含めて複数画素(例えば、2番目や3番目に値(絶対値)の大きい(または小さい)画素等を合わせる。)の値を平均し、これを最前面や最背面の対象についての視差量としてもよい。さらには、最大(または最小)となる1画素の値のみが他の画素の値に比べ、突出している場合には、その値はエラーとして除外し、最前面や最背面の対象についての視差量として採用しない処理を行ってもよい。
【0012】
さらに、「左眼用画像と右眼用画像との対応点間の視差量」とは、左眼用画像と右眼用画像との対応する点同士のピクセル単位のずれ量のことをいう。
【0013】
このような本発明の立体映像評価装置においては、オプティカルフローを求める画像処理を、通常の場合のように時系列上の異なる時点で得られた2つの画像(時間の経過とともに状態が変化した被写体を写した2つの画像)同士を比較し、その動きの解析を行うために用いるのではなく、つまり、時系列の変化を捉えるために用いるのではなく、立体映像を構成する左眼用画像と右眼用画像との対応点間の視差量の算出に用いる。このため、ピクセル視差量算出手段により、左眼用画像と右眼用画像との対応点間の視差量を、全画素について容易に得ることが可能となる。
【0014】
また、最前面ピクセル視差量算出手段および/または最背面ピクセル視差量算出手段により、オプティカルフローを求める画像処理で得られた全画素についての視差量のうちから、最前面および/または最背面の対象についてのピクセル単位の視差量を算出するので、立体映像の評価に用いるのに適した評価用データを得ることが可能となり、これらにより前記目的が達成される。
【0015】
また、前述した立体映像評価装置において、立体映像の評価に必要な情報を画面表示する評価用ディスプレイ装置と、評価用データ作成手段により作成された評価用データを評価用ディスプレイ装置の画面上に表示する処理を行う評価用データ表示処理手段とを備えていることが望ましい。
【0016】
ここで、「評価用ディスプレイ装置」は、評価用データを参照するための専用のディスプレイ装置である必要はなく、他の用途(例えば、立体映像の参照)にも用いられるディスプレイ装置であってもよい。
【0017】
また、「評価用データ表示処理手段」は、左右の動画像の各フレームまたは左右の静止画像から得られた評価用データを、数値表示する処理を行う構成としてもよく、あるいは時系列変化について一方の軸をフレーム単位または時間単位の軸としてグラフ表示する処理を行う構成としてもよい。
【0018】
このように評価用ディスプレイ装置および評価用データ表示処理手段を備えた構成とした場合には、例えば、立体映像のコンテンツ制作者、配信者、提供者等のような立体映像の評価を行う者が、評価用ディスプレイ装置の画面上に表示された評価用データを参照することにより、立体映像の評価作業を容易に行うことができるようになる。
【0019】
さらに、前述した立体映像評価装置において、評価用データ表示処理手段は、最前面ピクセル視差量算出手段により算出された最前面の対象についてのピクセル単位の視差量の時系列変化について一方の軸をフレーム単位または時間単位の軸としてグラフ表示する処理を行う最前面ピクセル視差量表示処理手段と、最背面ピクセル視差量算出手段により算出された最背面の対象についてのピクセル単位の視差量の時系列変化について一方の軸をフレーム単位または時間単位の軸としてグラフ表示する処理を行う最背面ピクセル視差量表示処理手段とのうち、少なくとも一方の表示処理手段を含んで構成されていることが望ましい。
【0020】
このように最前面ピクセル視差量表示処理手段と最背面ピクセル視差量表示処理手段とのうち少なくとも一方を備えた構成とした場合には、安全性の評価および/または快適性の評価を容易に行うことができるようになる。例えば、最前面ピクセル視差量表示処理手段によるグラフ表示を行えば、立体映像の安全性の評価を容易に行うことができ、最前面ピクセル視差量表示処理手段によるグラフ表示と最背面ピクセル視差量表示処理手段によるグラフ表示とを組み合わせれば、立体映像の快適性の評価を容易に行うことができるようになる。
【0021】
なお、「最前面ピクセル視差量表示処理手段」および「最背面ピクセル視差量表示処理手段」を両方備えた構成とする場合には、「最前面ピクセル視差量表示処理手段」により表示される最前面の対象についてのピクセル単位の視差量の時系列変化と、「最背面ピクセル視差量表示処理手段」により表示される最背面の対象についてのピクセル単位の視差量の時系列変化とは、同一画面上に同時に表示してもよく、別の画面上に表示してもよく、前者の同一画面上への同時表示とする場合には、両者を同一グラフ内に表示してもよく、あるいは別のグラフとして表示してもよい。例えば、安全性の評価モードの画面では、最前面ピクセル視差量表示処理手段により、最前面の対象についてのピクセル単位の視差量の時系列変化のみを単独でグラフ表示し、快適性の評価モードの画面では、最前面ピクセル視差量表示処理手段および最背面ピクセル視差量表示処理手段により、最前面および最背面の各対象についてのピクセル単位の視差量の時系列変化を同一グラフ内に併せて表示したり、あるいは両者を別々に表示したグラフを同一画面内に並べて配置してもよい。
【0022】
そして、前述した立体映像評価装置において、評価用データ作成手段は、最前面ピクセル視差量算出手段および/または最背面ピクセル視差量算出手段により算出された最前面および/または最背面の対象のピクセル単位の視差量についての各フレームの累積値を評価用データとして算出するピクセル視差量累積値算出手段を含んで構成され、評価用データ表示処理手段は、ピクセル視差量累積値算出手段により算出された累積値の時系列変化について一方の軸をフレーム単位または時間単位の軸としてグラフ表示する処理を行うピクセル視差量累積値表示処理手段を含んで構成されていることが望ましい。
【0023】
このようにピクセル視差量累積値算出手段およびピクセル視差量累積値表示処理手段を備えた構成とした場合には、立体映像の評価を、より一層容易に行うことができるようになり、例えば、最前面の対象のピクセル単位の視差量についての各フレームの累積値の時系列変化をグラフ上で把握すれば、安全性の評価を容易に行うことができるようになる。
【0024】
また、前述した立体映像評価装置において、評価用データ作成手段は、最前面ピクセル視差量算出手段により算出された最前面の対象についてのピクセル単位の視差量と最背面ピクセル視差量算出手段により算出された最背面の対象についてのピクセル単位の視差量との差分を評価用データとして算出するピクセル差分算出手段を含んで構成され、評価用データ表示処理手段は、ピクセル差分算出手段により算出された差分の時系列変化について一方の軸をフレーム単位または時間単位の軸としてグラフ表示する処理を行うピクセル差分表示処理手段を含んで構成されていることが望ましい。
【0025】
このようにピクセル差分算出手段およびピクセル差分表示処理手段を備えた構成とした場合には、快適性の評価を容易に行うことができるようになる。
【0026】
さらに、前述した立体映像評価装置において、評価用データ作成手段は、最前面の対象のピクセル単位の視差量についての複数フレームの平均値、分散、または標準偏差、最背面の対象のピクセル単位の視差量についての複数フレームの平均値、分散、または標準偏差、最前面の対象のピクセル単位の視差量についての複数フレームの平均値と最背面の対象のピクセル単位の視差量についての複数フレームの平均値との差分、最前面の対象のピクセル単位の視差量と最背面の対象のピクセル単位の視差量との差分についての複数フレームの平均値、分散、または標準偏差、各フレームのそれぞれでの全画素のピクセル単位の視差量についての平均値、分散、または標準偏差のうち、少なくとも一つの統計データを評価用データとして算出する統計データ算出手段を含んで構成され、評価用データ表示処理手段は、統計データ算出手段により算出された統計データのうちの少なくとも一つを表示する処理を行う統計データ表示処理手段を含んで構成されていることが望ましい。
【0027】
ここで、「複数フレーム」は、連続する複数フレームでもよく、または一定間隔または任意の間隔で選択された複数フレームでもよい。また、評価対象となる立体映像を構成する一連のフレームを区分して評価を行う場合(例えば、シーン毎に評価を行う場合等)には、その一区分を構成する一連のフレームの中の複数フレームが対象となる。
【0028】
このように統計データ算出手段および統計データ表示処理手段を備えた構成とした場合には、統計データの表示を参照することで、立体映像について、より一層詳細な評価を行うことが可能となる。
【0029】
なお、「最前面の対象のピクセル単位の視差量についての複数フレームの平均値と最背面の対象のピクセル単位の視差量についての複数フレームの平均値との差分」と、「最前面の対象のピクセル単位の視差量と最背面の対象のピクセル単位の視差量との差分についての複数フレームの平均値」とは、通常は同じ値となるが、視差量や差分の各算出過程において突出値をエラーとして除外する処理の方法が異なる場合等には、異なる値となる場合もあり得る。
【0030】
そして、前述した立体映像評価装置において、立体映像の観察者から立体映像呈示用ディスプレイ装置の画像呈示面までの視距離および立体映像呈示用ディスプレイ装置の画像呈示面サイズを観察条件として設定する観察条件設定手段を備え、評価用データ作成手段は、観察条件設定手段により設定された画像呈示面サイズを用いて、最前面ピクセル視差量算出手段および/または最背面ピクセル視差量算出手段により算出された最前面および/または最背面の対象についての視差量をピクセル単位から標準的な測長単位に換算する単位換算手段と、この単位換算手段により換算して得られた標準的な測長単位の視差量と瞳孔間隔と視距離とを用いて画像呈示面から立体映像の再生位置までの奥行き方向距離を評価用データとして算出する再生位置算出手段とを含んで構成され、評価用データ表示処理手段は、再生位置算出手段により算出した奥行き方向距離を表示する処理を行う再生位置表示処理手段を含んで構成されていることが望ましい。
【0031】
ここで、「観察条件設定手段」は、「視距離」について、観察者の手入力による入力設定を受け付ける構成でもよく、あるいは、センサにより観察者の位置または観察者までの距離を検出し、その検出結果に基づき視距離を自動設定する構成でもよい。また、「観察条件設定手段」は、「画像呈示面サイズ」について、観察者の手入力による入力設定を受け付ける構成でもよく、立体映像呈示用ディスプレイ装置から画像呈示面サイズの情報を自動的に読み込む構成でもよい。なお、ここでいう「観察条件」には、立体映像のコンテンツ制作者、配信者、提供者等が、制作・配信・提供の対象となる立体映像の評価を行う際に想定する仮想的な観察条件(立体映像の配信・提供を受ける者が置かれるであろう視聴環境を予測して設定される条件)も含まれる。従って、ここでいう「観察者」には、自分が制作・配信・提供する立体映像を、観察者の立場にたって実際に画面で観察しながら評価するコンテンツ制作者、配信者、提供者等も含まれる。さらに、「観察条件設定手段」による「観察条件」の設定には、これらのコンテンツ制作者、配信者、提供者等が、制作・配信・提供の対象となる立体映像を実際に画面で観察しながら評価するのではなく、評価用データのみを参照して評価を行う際に、その評価用データを得るために仮想的な観察条件を設定する場合も含まれる。
【0032】
また、「標準的な測長単位」とは、例えば、メートル、インチ、ヤード等の単位をいう。
【0033】
さらに、「瞳孔間隔」は、個々の観察者の瞳孔間隔である必要はなく、人間の平均的な瞳孔間隔の値を用いればよい。
【0034】
そして、「再生位置表示処理手段」は、左右の動画像の各フレームまたは左右の静止画像における最前面および/または最背面の対象についての画像呈示面から立体映像の再生位置までの奥行き方向距離を数値表示する処理を行う構成としてもよく、あるいは最前面および/または最背面の対象についての画像呈示面から立体映像の再生位置までの奥行き方向距離の時系列変化について一方の軸をフレーム単位または時間単位の軸としてグラフ表示する処理を行う構成としてもよい。
【0035】
このように再生位置を算出・表示する構成とした場合には、立体映像の奥行き方向の再生位置を、標準的な測長単位で把握することが可能となり、立体映像の評価を、より一層容易に行うことができるようになる。
【0036】
また、前述した立体映像評価装置において、立体映像の観察者から立体映像呈示用ディスプレイ装置の画像呈示面までの視距離および立体映像呈示用ディスプレイ装置の画像呈示面サイズを観察条件として設定する観察条件設定手段を備え、評価用データ作成手段は、観察条件設定手段により設定された画像呈示面サイズを用いて、最前面ピクセル視差量算出手段および/または最背面ピクセル視差量算出手段により算出された最前面および/または最背面の対象についての視差量をピクセル単位から標準的な測長単位に換算する単位換算手段と、この単位換算手段により換算して得られた標準的な測長単位の視差量と視距離とを用いて角度単位の視差量を評価用データとして算出する角度視差量算出手段とを含んで構成され、評価用データ表示処理手段は、角度視差量算出手段により算出した角度単位の視差量を表示する処理を行う角度視差量表示処理手段を含んで構成されていることが望ましい。
【0037】
ここで、「角度視差量表示処理手段」は、表示対象の角度単位の視差量を数値表示する処理を行う構成としてもよく、あるいは一方の軸をフレーム単位または時間単位の軸としてグラフ表示する処理を行う構成としてもよい。
【0038】
このように角度単位の視差量を算出・表示する構成とした場合には、安全性や快適性等の立体映像の評価基準になる値が、ピクセル単位ではなく角度単位で与えられた場合にも、その基準値との対比を容易に行うことができるので、立体映像の評価を、より一層容易に行うことができるようになる。
【0039】
さらに、前述した立体映像評価装置において、立体映像の観察者から立体映像呈示用ディスプレイ装置の画像呈示面までの視距離および立体映像呈示用ディスプレイ装置の画像呈示面サイズを観察条件として設定する観察条件設定手段を備え、評価用データ作成手段は、観察条件設定手段により設定された画像呈示面サイズを用いて、最前面ピクセル視差量算出手段および/または最背面ピクセル視差量算出手段により算出された最前面および/または最背面の対象についての視差量をピクセル単位から標準的な測長単位に換算する単位換算手段と、この単位換算手段により換算して得られた標準的な測長単位の視差量と視距離とを用いて角度単位の視差量を評価用データとして算出する角度視差量算出手段と、この角度視差量算出手段により算出した角度単位の視差量についての各フレームの累積値を評価用データとして算出する角度視差量累積値算出手段とを含んで構成され、評価用データ表示処理手段は、角度視差量累積値算出手段により算出された累積値を表示する処理を行う角度視差量累積値表示処理手段を含んで構成されていることが望ましい。
【0040】
ここで、「角度視差量累積値表示処理手段」は、表示対象の角度単位の視差量の累積値を数値表示する処理を行う構成としてもよく、あるいは一方の軸をフレーム単位または時間単位の軸としてグラフ表示する処理を行う構成としてもよい。
【0041】
このように角度単位の視差量についての各フレームの累積値を算出・表示する構成とした場合には、立体映像の評価を、より一層容易に行うことができるようになり、例えば、最前面の対象の角度単位の視差量についての各フレームの累積値の時系列変化をグラフ上で把握すれば、安全性の評価を容易に行うことができるようになるうえ、安全性の評価基準になる値が、ピクセル単位ではなく角度単位で与えられた場合にも、その基準値との対比を容易に行うことができるので、安全性の評価を、より一層容易に行うことができるようになる。
【0042】
そして、上記の場合には、視差量を角度単位に換算してから累積する構成となっていたが、下記のように、視差量をピクセル単位で累積してから角度単位に換算する構成としてもよい。
【0043】
すなわち、前述した立体映像評価装置において、立体映像の観察者から立体映像呈示用ディスプレイ装置の画像呈示面までの視距離および立体映像呈示用ディスプレイ装置の画像呈示面サイズを観察条件として設定する観察条件設定手段を備え、評価用データ作成手段は、最前面ピクセル視差量算出手段および/または最背面ピクセル視差量算出手段により算出された最前面および/または最背面の対象のピクセル単位の視差量についての各フレームの累積値を評価用データとして算出するピクセル視差量累積値算出手段と、観察条件設定手段により設定された画像呈示面サイズを用いて、ピクセル視差量累積値算出手段により算出された最前面および/または最背面の対象のピクセル単位の視差量についての各フレームの累積値をピクセル単位から標準的な測長単位に換算する単位換算手段と、この単位換算手段により換算して得られた標準的な測長単位の累積値と視距離とを用いて角度単位の累積値を評価用データとして算出する角度視差量累積値算出手段とを含んで構成され、評価用データ表示処理手段は、角度視差量累積値算出手段により算出した角度単位の累積値を表示する処理を行う角度視差量累積値表示処理手段を含んで構成されていてもよい。
【0044】
ここで、「角度視差量累積値表示処理手段」は、表示対象の角度単位の視差量の累積値を数値表示する処理を行う構成としてもよく、あるいは一方の軸をフレーム単位または時間単位の軸としてグラフ表示する処理を行う構成としてもよい。
【0045】
また、前述した立体映像評価装置において、立体映像の観察者から立体映像呈示用ディスプレイ装置の画像呈示面までの視距離および立体映像呈示用ディスプレイ装置の画像呈示面サイズを観察条件として設定する観察条件設定手段を備え、評価用データ作成手段は、観察条件設定手段により設定された画像呈示面サイズを用いて、最前面ピクセル視差量算出手段により算出された最前面の対象についてのピクセル単位の視差量と最背面ピクセル視差量算出手段により算出された最背面の対象についてのピクセル単位の視差量との差分を、ピクセル単位から標準的な測長単位に換算する単位換算手段と、この単位換算手段により換算して得られた標準的な測長単位の差分と視距離とを用いて角度単位の差分を評価用データとして算出する角度差分算出手段とを含んで構成され、評価用データ表示処理手段は、角度差分算出手段により算出された角度単位の差分を表示する処理を行う角度差分表示処理手段を含んで構成されていることが望ましい。
【0046】
ここで、「角度差分表示処理手段」は、表示対象の角度単位の差分を数値表示する処理を行う構成としてもよく、あるいは一方の軸をフレーム単位または時間単位の軸としてグラフ表示する処理を行う構成としてもよい。
【0047】
このように角度単位の差分を算出・表示する構成とした場合には、快適性の評価を容易に行うことができるようになるうえ、快適性の評価基準になる値が、ピクセル単位ではなく角度単位で与えられた場合にも、その基準値との対比を容易に行うことができるので、快適性の評価を、より一層容易に行うことができるようになる。
【0048】
さらに、前述した角度単位の視差量についての各フレームの累積値を算出・表示する構成とした場合において、角度視差量累積値算出手段により算出した累積値と生理・心理実験により求めた安全性基準値とを比較する角度視差量累積値比較手段と、この角度視差量累積値比較手段による比較結果に基づき観察者に対して顕著な視覚負担を与える可能性の有無または度合いについて判断する安全性判断手段とを備えた構成とすることが望ましい。
【0049】
このように角度視差量累積値比較手段および安全性判断手段を備えた構成とした場合には、安全性の判断を自動的に行うことが可能となり、立体映像の評価を行う者の作業の手間が軽減され、作業時間の短縮が図られる。
【0050】
そして、前述した角度単位の差分を算出・表示する構成とした場合において、角度差分算出手段により算出した角度単位の差分と生理・心理実験により求めた快適性上限値および快適性下限値とを比較する角度差分比較手段と、この角度差分比較手段による比較結果に基づき観察者が左眼用画像と右眼用画像とを無理なく融像することができ、かつ、十分な立体感を得ることができる可能性の有無または度合いについて判断する快適性判断手段とを備えた構成とすることが望ましい。
【0051】
このように角度差分比較手段および快適性判断手段を備えた構成とした場合には、快適性の判断を自動的に行うことが可能となり、立体映像の評価を行う者の作業の手間が軽減され、作業時間の短縮が図られる。
【0052】
さらに、前述した角度視差量累積値比較手段および安全性判断手段を備えた構成とした場合において、安全性判断手段による判断結果に基づいて累積値が安全性基準値を超えている場合に累積値が安全性基準値以下になるか若しくは安全性基準値に近づくように左眼用画像および/または右眼用画像を補正する処理を行う画像補正処理手段を備えた構成とすることが望ましい。
【0053】
このように画像補正処理手段を備えた構成とした場合には、立体映像の評価を行う者は、評価結果を反映させて調整した立体映像を容易に得ることが可能となる。例えば、立体映像のコンテンツ制作者、配信者、提供者等は、安全性を考慮した立体映像の制作・配信・提供を容易に実現することができるようになる。
【0054】
そして、前述した角度差分比較手段および快適性判断手段を備えた構成とした場合において、快適性判断手段による判断結果に基づいて角度単位の差分が快適性上限値から快適性下限値までの範囲に収まっていない場合に角度単位の差分が前記範囲に収まるか若しくは収まる状態に近づくように左眼用画像および/または右眼用画像を補正する処理を行う画像補正処理手段を備えた構成とすることが望ましい。
【0055】
このように画像補正処理手段を備えた構成とした場合には、立体映像の評価を行う者は、評価結果を反映させて調整した立体映像を容易に得ることが可能となる。例えば、立体映像のコンテンツ制作者、配信者、提供者等は、快適性を考慮した立体映像の制作・配信・提供を容易に実現することができるようになる。
【0056】
なお、「画像補正処理手段」は、安全性判断手段による判断結果および快適性判断手段による判断結果を組み合わせて左眼用画像および/または右眼用画像を補正する処理を行う構成としてもよい。また、安全性または快適性のいずれを優先させて補正を行うのかを選択できる構成としてもよい。
【0057】
また、前述した立体映像評価装置において、評価用データ作成手段により作成した評価用データのうちの少なくとも一種類の評価用データを、放送用電波に乗せて若しくは通信ネットワークを介して配信する立体映像または記録媒体に記録して提供する立体映像のコンテンツとしての左眼用画像および右眼用画像に、メタデータとして付加する処理を行うメタデータ付加処理手段を備えた構成とすることが望ましい。
【0058】
このようにメタデータ付加処理手段を備えた構成とした場合には、評価用データをコンテンツとともに配信・提供することができるので、これらの配信・提供を受けた立体映像の観察者は、コンテンツに付随する評価用データを用い、配信・提供を受けたコンテンツに対する評価結果を反映させた状態で立体映像を観察することが可能となる。
【0059】
また、本発明は、観察者に立体映像を呈示するための立体映像呈示用ディスプレイ装置に接続されてこの立体映像呈示用ディスプレイ装置の画面上に表示する立体映像を調整する立体映像チューナであって、放送用電波に乗せて若しくは通信ネットワークを介して配信されてくる立体映像または記録媒体に記録されている立体映像のコンテンツとしての左眼用画像および右眼用画像並びにこのコンテンツに付加されたメタデータを入力する立体映像入力手段と、立体映像の観察者から立体映像呈示用ディスプレイ装置の画像呈示面までの視距離および立体映像呈示用ディスプレイ装置の画像呈示面サイズを観察条件として設定する観察条件設定手段と、メタデータに含まれる評価用データおよび観察条件設定手段により設定した観察条件を用いて立体映像の再生用の左眼用画像および右眼用画像を作成する再生用画像作成手段と、この再生用画像作成手段により作成された左眼用画像および右眼用画像を立体映像呈示用ディスプレイ装置に送り出す再生用画像出力手段とを備え、評価用データは、前述した本発明の立体映像評価装置を構成するメタデータ付加処理手段により付加された評価用データであることを特徴とするものである。
【0060】
このような本発明の立体映像チューナにおいては、立体映像入力手段により、コンテンツおよびこれに付加されたメタデータを入力するとともに、観察条件設定手段により、観察者が立体映像を観察する際の観察条件を設定する。そして、再生用画像作成手段により、メタデータに含まれる評価用データおよび観察条件設定手段により設定した観察条件を用いて立体映像の再生用の左眼用画像および右眼用画像を作成した後、再生用画像出力手段により、再生用の左眼用画像および右眼用画像を立体映像呈示用ディスプレイ装置に送り出す。
【0061】
このため、観察者が観察する立体映像は、メタデータに含まれる評価用データおよび観察条件を用いて作成された再生映像となるので、観察者は、観察条件に応じて立体感を最適化された状態の立体映像を観察することが可能となり、これにより前記目的が達成される。
【0062】
さらに、前述した立体映像チューナにおいて、評価用データには、前述した本発明の立体映像評価装置を構成する最前面ピクセル視差量算出手段および/または最背面ピクセル視差量算出手段により算出された最前面および/または最背面の対象についてのピクセル単位の視差量と、前述した本発明の立体映像評価装置を構成するピクセル視差量累積値算出手段により算出された最前面および/または最背面の対象のピクセル単位の視差量についての各フレームの累積値とのうち、少なくとも一方が含まれ、再生用画像作成手段は、観察条件設定手段により設定された画像呈示面サイズを用いて最前面および/または最背面の対象のピクセル単位の視差量についての各フレームの累積値をピクセル単位から標準的な測長単位に換算する単位換算手段と、この単位換算手段により換算して得られた標準的な測長単位の累積値と視距離とを用いて角度単位の累積値を算出する角度視差量累積値算出手段と、この角度視差量累積値算出手段により算出した角度単位の累積値と生理・心理実験により求めた安全性基準値とを比較する角度視差量累積値比較手段と、この角度視差量累積値比較手段による比較結果に基づき観察者に対して顕著な視覚負担を与える可能性の有無または度合いについて判断する安全性判断手段と、この安全性判断手段による判断結果に基づいて累積値が安全性基準値を超えている場合に累積値が安全性基準値以下になるか若しくは安全性基準値に近づくように左眼用画像および/または右眼用画像を補正する処理を行う画像補正処理手段とを含んで構成されていることが望ましい。
【0063】
ここで、立体映像入力手段により立体映像チューナに入力されるメタデータの中に、評価用データとして、最前面ピクセル視差量算出手段および/または最背面ピクセル視差量算出手段により算出された最前面および/または最背面の対象についてのピクセル単位の視差量は含まれているが、ピクセル視差量累積値算出手段により算出された最前面および/または最背面の対象のピクセル単位の視差量についての各フレームの累積値は含まれていない場合には、立体映像チューナにおいて、累積値の算出処理を行えばよい。
【0064】
このように安全性判断手段および画像補正処理手段を備えた構成とした場合には、観察者は、評価データおよび観察条件を用いて安全性を考慮して調整された状態の立体映像を観察することが可能となる。
【0065】
そして、前述した立体映像チューナにおいて、評価用データには、前述した本発明の立体映像評価装置を構成する最前面ピクセル視差量算出手段および/または最背面ピクセル視差量算出手段により算出された最前面および/または最背面の対象についてのピクセル単位の視差量と、前述した本発明の立体映像評価装置を構成するピクセル差分算出手段により算出された最前面の対象についてのピクセル単位の視差量と最背面ピクセル視差量算出手段により算出された最背面の対象についてのピクセル単位の視差量との差分とのうち、少なくとも一方が含まれ、再生用画像作成手段は、観察条件設定手段により設定された画像呈示面サイズを用いて最前面の対象についてのピクセル単位の視差量と最背面の対象についてのピクセル単位の視差量との差分をピクセル単位から標準的な測長単位に換算する単位換算手段と、この単位換算手段により換算して得られた標準的な測長単位の差分と視距離とを用いて角度単位の差分を算出する角度差分算出手段と、この角度差分算出手段により算出した角度単位の差分と生理・心理実験により求めた快適性上限値および快適性下限値とを比較する角度差分比較手段と、この角度差分比較手段による比較結果に基づき観察者が左眼用画像と右眼用画像とを無理なく融像することができ、かつ、十分な立体感を得ることができる可能性の有無または度合いについて判断する快適性判断手段と、この快適性判断手段による判断結果に基づいて角度単位の差分が快適性上限値から快適性下限値までの範囲に収まっていない場合に角度単位の差分が前記範囲に収まるか若しくは収まる状態に近づくように左眼用画像および/または右眼用画像を補正する処理を行う画像補正処理手段とを含んで構成されていることが望ましい。
【0066】
ここで、立体映像入力手段により立体映像チューナに入力されるメタデータの中に、評価用データとして、最前面ピクセル視差量算出手段および/または最背面ピクセル視差量算出手段により算出された最前面および/または最背面の対象についてのピクセル単位の視差量は含まれているが、ピクセル差分算出手段により算出された最前面の対象についてのピクセル単位の視差量と最背面ピクセル視差量算出手段により算出された最背面の対象についてのピクセル単位の視差量との差分は含まれていない場合には、立体映像チューナにおいて、差分の算出処理を行えばよい。
【0067】
このように快適性判断手段および画像補正処理手段を備えた構成とした場合には、観察者は、評価データおよび観察条件を用いて快適性を考慮して調整された状態の立体映像を観察することが可能となる。
【0068】
なお、立体映像チューナに設けられる画像補正処理手段は、安全性判断手段による判断結果および快適性判断手段による判断結果を組み合わせて左眼用画像および/または右眼用画像を補正する処理を行う構成としてもよい。また、安全性または快適性のいずれを優先させて補正を行うのかを、観察者に選択させることができる構成としてもよい。
【0069】
また、本発明は、観察者に立体映像を呈示するための立体映像呈示用ディスプレイ装置に接続されてこの立体映像呈示用ディスプレイ装置の画面上に表示する立体映像を調整する立体映像チューナであって、放送用電波に乗せて若しくは通信ネットワークを介して配信されてくる立体映像または記録媒体に記録されている立体映像のコンテンツとしての左眼用画像および右眼用画像並びにこのコンテンツに付加されたメタデータを入力する立体映像入力手段と、立体映像の観察者から立体映像呈示用ディスプレイ装置の画像呈示面までの視距離または立体映像呈示用ディスプレイ装置の画像呈示面サイズのいずれか一方の観察条件を設定する観察条件設定手段と、メタデータに含まれる評価用データおよび観察条件設定手段により設定した一方の観察条件を用いて視距離または画像呈示面サイズのいずれか他方の観察条件についての最適な条件を算出する最適観察条件算出手段と、この最適観察条件算出手段による算出結果を観察者に呈示する最適観察条件呈示手段とを備え、評価用データは、前述した本発明の立体映像評価装置を構成するメタデータ付加処理手段により付加された評価用データであることを特徴とするものである。
【0070】
ここで、「最適観察条件呈示手段」は、最適観察条件算出手段による算出結果を立体映像呈示用ディスプレイ装置の画面上に表示する処理を行う構成でもよく、音声報知する処理を行う構成でもよく、立体映像チューナに設けられた画面上に表示する処理を行う構成でもよい。
【0071】
このような本発明の立体映像チューナにおいては、最適観察条件算出手段により、評価用データおよび一方の観察条件を用いて他方の観察条件についての最適な条件が算出され、この算出結果が最適観察条件呈示手段により観察者に呈示されるので、観察者は、算出・呈示された他方の観察条件に従って立体映像を観察することで、立体感を最適化された状態の立体映像を観察することが可能となり、これにより前記目的が達成される。
【発明の効果】
【0072】
以上に述べたように本発明によれば、オプティカルフローを求める画像処理を用いて左眼用画像と右眼用画像との対応点間の視差量をピクセル単位で算出し、このピクセル単位の視差量を用いて、立体映像の評価に用いられる評価用データとして、最前面および/または最背面の対象についてのピクセル単位の視差量を算出するので、簡易かつ効果的に立体映像の評価を行うことができるという効果がある。
【0073】
また、メタデータとして立体映像コンテンツに付加された評価用データを用いて再生用画像を作成して出力するので、観察者に対し、立体感を最適化した状態で立体映像を呈示することができるという効果がある。
【0074】
さらに、メタデータとして立体映像コンテンツに付加された評価用データを用いて最適な観察条件を算出して呈示するので、観察者は、立体感を最適化した状態で立体映像を観察することができるという効果がある。
【発明を実施するための最良の形態】
【0075】
以下に本発明の一実施形態について図面を参照して説明する。図1には、本実施形態の立体映像評価装置20および立体映像チューナ50の全体構成が示されている。図2には、立体映像チューナ50による処理の流れがフローチャートで示されている。図3は、評価対象となるソース映像とこのソース映像を観察時の立体像の再生位置との関係の説明図である。図4は、右眼用画像を基準とした左右画像のオプティカルフローの説明図である。図5は、立体像の再生位置の算出方法の説明図である。図6は、角度単位の視差量の算出方法の説明図である。図7には、安全性評価モードの画面例が示され、図8には、快適性評価モードの画面例が示されている。
【0076】
先ず、図3を用いて、評価対象となるソース映像とこのソース映像を観察時の立体像の再生位置との関係を説明する。評価対象となるソース映像は、左眼用画像1と右眼用画像2とからなり、観察者3が立体視用メガネ4をかけて画像呈示面5に表示された左眼用画像1および右眼用画像2を観察すると、これらの左眼用画像1および右眼用画像2が融像され、立体映像が得られる。
【0077】
例えば、左眼用画像1には、図中点線で示された四角形の対象1Aと、円形の対象1Bとがあるものとし、これらに対応する点(対象)として、右眼用画像2には、図中実線で示された四角形の対象2Aと、円形の対象2Bとがあるものとする。この際、左眼用画像1と右眼用画像2とを画像呈示面5で表示すると、左眼用画像1の四角形の対象1Aは、左側に位置し、右眼用画像2の四角形の対象2Aは、右側に位置する。従って、四角形の対象1A,2Aは、同側方向にある対象であるから、画像呈示面5よりも奥側(観察者3とは反対側)に立体像Z1が形成される。一方、左眼用画像1の円形の対象1Bは、右側に位置し、右眼用画像2の円形の対象2Bは、左側に位置する。従って、円形の対象1B,2Bは、交差方向にある対象であるから、画像呈示面5よりも手前側(観察者3側)に立体像Z2が形成される。
【0078】
図1において、立体映像評価装置20は、コンピュータにより構成され、立体映像の評価および最適化のための画像補正処理に必要となる各種の処理を行う処理手段20Aと、立体映像の評価に必要な情報を画面表示する評価用ディスプレイ装置40と、立体映像のコンテンツ制作者や配信者や提供者等に制作・配信・提供等の対象となっている立体映像を呈示する立体映像呈示用ディスプレイ装置41とを備えている。なお、評価用ディスプレイ装置40と立体映像呈示用ディスプレイ装置41とは、同一のディスプレイ装置により実現してもよい。
【0079】
処理手段20Aは、ピクセル視差量算出手段21と、評価用データ作成手段22と、評価用データ表示処理手段23と、観察条件設定手段24と、角度視差量累積値比較手段25と、安全性判断手段26と、角度差分比較手段27と、快適性判断手段28と、画像補正処理手段29と、メタデータ付加処理手段30とを含んで構成されている。
【0080】
ピクセル視差量算出手段21は、オプティカルフローを求める画像処理を用いて左眼用画像と右眼用画像との対応点間の視差量をピクセル単位で算出する処理を行うものである。ここで、オプティカルフローとは、画像上の各点について求めた速度ベクトルのことである。通常は、現時間から微小時間後の物体の動きを推定するために利用されるが、本発明では、図4に示すように、ある任意の一時刻である特定時間(フレーム単位)の左右画像間の差異(ピクセル単位での視差量)を、定量的に算出する手段として利用する。なお、図4では、右眼用画像2を基準とした左眼用画像1と右眼用画像2との対応点間のずれ量としてオプティカルフローが示されているが、基準画像は、左右画像のいずれでもよい。オプティカルフローの原理については、前述した非特許文献1等の一般的文献に記載されているので、ここでは詳しい説明を省略する。
【0081】
評価用データ作成手段22は、ピクセル視差量算出手段21により算出されたピクセル単位の視差量を用いて、立体映像の評価に用いられる評価用データを作成する処理を行うものであり、最前面ピクセル視差量算出手段22Aと、最背面ピクセル視差量算出手段22Bと、ピクセル視差量累積値算出手段22Cと、ピクセル差分算出手段22Dと、統計データ算出手段22Eと、単位換算手段22Fと、再生位置算出手段22Gと、角度視差量算出手段22Hと、角度視差量累積値算出手段22Jと、角度差分算出手段22Kとを含んで構成されている。
【0082】
最前面ピクセル視差量算出手段22Aは、ピクセル視差量算出手段21により算出された各画素(各点)についてのピクセル単位の視差量のうちから最前面の対象についてのピクセル単位の視差量を評価用データとして算出する処理を行うものである。最前面の対象についてのピクセル単位の視差量とは、全画素の視差量が同側方向の視差量にならない限りは、交差方向のピクセル単位の最大視差量(絶対値が最大のもの)である。なお、全画素の視差量が同側方向の視差量になる場合には、同側方向のピクセル単位の最小視差量(絶対値が最小のもの)である。
【0083】
最背面ピクセル視差量算出手段22Bは、ピクセル視差量算出手段21により算出された各画素(各点)についてのピクセル単位の視差量のうちから最背面の対象についてのピクセル単位の視差量を評価用データとして算出する処理を行うものである。最背面の対象についてのピクセル単位の視差量とは、全画素の視差量が交差方向の視差量にならない限りは、同側方向のピクセル単位の最大視差量(絶対値が最大のもの)である。なお、全画素の視差量が交差方向の視差量になる場合には、交差方向のピクセル単位の最小視差量(絶対値が最小のもの)である。
【0084】
ピクセル視差量累積値算出手段22Cは、最前面ピクセル視差量算出手段22Aおよび最背面ピクセル視差量算出手段22Bにより算出された最前面および最背面の対象のピクセル単位の視差量についての各フレームの累積値を、評価用データとして算出する処理を行うものである。
【0085】
ピクセル差分算出手段22Dは、最前面ピクセル視差量算出手段22Aにより算出された最前面の対象についてのピクセル単位の視差量と、最背面ピクセル視差量算出手段22Bにより算出された最背面の対象についてのピクセル単位の視差量との差分を、評価用データとして算出する処理を行うものである。
【0086】
統計データ算出手段22Eは、(1)最前面の対象のピクセル単位の視差量についての複数フレームの平均値、分散、および標準偏差、(2)最背面の対象のピクセル単位の視差量についての複数フレームの平均値、分散、および標準偏差、(3)最前面の対象のピクセル単位の視差量についての複数フレームの平均値と最背面の対象のピクセル単位の視差量についての複数フレームの平均値との差分、(4)最前面の対象のピクセル単位の視差量と最背面の対象のピクセル単位の視差量との差分についての複数フレームの平均値、分散、および標準偏差、(5)各フレームのそれぞれでの全画素のピクセル単位の視差量についての平均値、分散、および標準偏差を含む各種の統計データを、評価用データとして算出する処理を行うものである。なお、統計データ算出手段22Eは、必ずしも、これらの各種の統計データの全てを、いつでも算出する構成とする必要はなく、これらの各種の統計データの一部を算出する構成としてもよく、あるいはこれらの各種の統計データを必要に応じて適宜選択して算出する構成としてもよい。
【0087】
単位換算手段22Fは、観察条件設定手段24により設定された画像呈示面サイズを用いて、最前面ピクセル視差量算出手段22Aおよび最背面ピクセル視差量算出手段22Bにより算出された最前面および最背面の対象についての視差量を、ピクセル単位から標準的な測長単位に換算する処理を行うものである。標準的な測長単位には、メートル、インチ、ヤード等の各種単位があり、ここではメートル単位に換算するものとして説明を行うが、これに限定されるものではない。具体的には、最前面および最背面の対象についての視差量(すなわち、左右対応点のずれ量)は、次の式(1)により、ピクセル単位からメートル単位に変換される。
【0088】
メートル単位の左右対応点のずれ量=
(ピクセル単位の左右対応点のずれ量/水平方向の全ピクセル数)
×メートル単位の水平方向の画像呈示面サイズ ・・・・・・・・(1)
【0089】
ここで、メートル単位の水平方向の画像呈示面サイズは、例えば21インチで画面の縦横比率4:3のテレビであれば、「21÷5×3(水平方向のインチを算出)×2.54(メートル単位に変換)」で求めることができる。
【0090】
また、単位換算手段22Fは、観察条件設定手段24により設定された画像呈示面サイズを用いて、最前面ピクセル視差量算出手段22Aにより算出された最前面の対象についてのピクセル単位の視差量と、最背面ピクセル視差量算出手段22Bにより算出された最背面の対象についてのピクセル単位の視差量との差分を、ピクセル単位から標準的な測長単位(本実施形態では、一例としてメートル単位とする。)に換算する処理も行う。この際の換算処理には、上記の式(1)を用いることができ、「左右対応点のずれ量」として差分を代入すればよい。
【0091】
なお、単位換算手段22Fは、観察条件設定手段24により設定された画像呈示面サイズを用いて、ピクセル視差量累積値算出手段22Cにより算出された最前面および最背面の対象のピクセル単位の視差量についての各フレームの累積値を、ピクセル単位から標準的な測長単位(本実施形態では、一例としてメートル単位とする。)に換算する処理を行う構成としてもよい。この際の換算処理には、上記の式(1)を用いることができ、「左右対応点のずれ量」のところに視差量の累積値を代入すればよい。
【0092】
再生位置算出手段22Gは、単位換算手段22Fにより換算して得られた最前面および最背面の対象についての標準的な測長単位(本実施形態では、メートル単位)の視差量(すなわち、左右対応点のずれ量)と、瞳孔間隔(メートル単位)と、観察条件設定手段24により設定された視距離(メートル単位)とを用いて、画像呈示面から立体像(最前面および最背面の対象)の再生位置までの奥行き方向距離(メートル単位)を、評価用データとして算出する処理を行うものである。具体的には、図5に示すように、画像呈示面5から再生位置までの奥行き方向距離Hは、交差方向の視差量の場合には、次の式(2)により求めることができ、同側方向の視差量の場合には、次の式(3)により求めることができる。
【0093】
再生位置の奥行き方向距離H=
{左右対応点のずれ量L/(左右対応点のずれ量L+瞳孔間隔P)}×視距離D
・・・・・・(2)
【0094】
再生位置の奥行き方向距離H=
{左右対応点のずれ量L/(瞳孔間隔P-左右対応点のずれ量L)}×視距離D
・・・・・・(3)
【0095】
ここで、瞳孔間隔Pは、人類の平均値として例えば65mmを代入すればよい。また、上記の式(2)および式(3)のいずれにおいても、左右対応点のずれ量Lは、絶対値(正の値)を代入し、再生位置の奥行き方向距離Hも、絶対値(正の値)として得られる。なお、算出結果の画面表示の際には、例えば、上記の式(3)により求めた同側方向の視差量の場合についての再生位置の奥行き方向距離Hは、負の値として表示してもよい。
【0096】
角度視差量算出手段22Hは、単位換算手段22Fにより換算して得られた最前面および最背面の対象についての標準的な測長単位(本実施形態では、メートル単位)の視差量(すなわち、左右対応点のずれ量)と、観察条件設定手段24により設定された視距離(メートル単位)とを用いて、最前面および最背面の対象についての角度単位の視差量を、評価用データとして算出する処理を行うものである。具体的には、図6に示すように、角度単位の視差量θ(度)は、次の式(4)により求めることができる。
【0097】
角度単位の視差量θ=
(左右対応点のずれ量L/視距離D)×(180/π) ・・・・・・(4)
【0098】
ここで、角度単位の視差量θ(度)は、図6に示された平面画像を観察する場合の輻輳角θ1と、立体視を行っている場合の輻輳角θ2との差分の絶対値として求められるが、上記の式(4)は、この角度単位の視差量θ(度)の近似値を求めるものである。
【0099】
角度視差量累積値算出手段22Jは、角度視差量算出手段22Hにより算出した最前面および最背面の対象の角度単位の視差量についての各フレームの累積値を、評価用データとして算出する処理を行うものである。
【0100】
なお、前述した単位換算手段22Fが、ピクセル視差量累積値算出手段22Cにより算出された最前面および最背面の対象のピクセル単位の視差量についての各フレームの累積値を、ピクセル単位から標準的な測長単位(本実施形態では、一例としてメートル単位とする。)に換算する処理を行う構成である場合には、角度視差量累積値算出手段22Jは、次のように視差量をピクセル単位で累積してからこの累積値を標準的な測長単位(本実施形態では、メートル単位)に換算したものについて、角度単位に換算する構成としてもよい。すなわち、角度視差量累積値算出手段22Jは、単位換算手段22Fにより換算して得られた最前面および最背面の対象についての標準的な測長単位(本実施形態では、メートル単位)の視差量の累積値と、観察条件設定手段24により設定された視距離(メートル単位)とを用いて、最前面および最背面の対象についての角度単位の視差量の累積値を、評価用データとして算出する処理を行う構成としてもよい。この際、算出に用いる式は、上記の式(4)と同じであり、式(4)において、左右対応点のずれ量Lとして標準的な測長単位(本実施形態では、メートル単位)の視差量の累積値を代入すれば、その解として角度単位の視差量の累積値が得られる。
【0101】
角度差分算出手段22Kは、単位換算手段22Fにより換算して得られた最前面の対象と最背面の対象との標準的な測長単位(本実施形態では、メートル単位)の視差量の差分と、観察条件設定手段24により設定された視距離(メートル単位)とを用いて、最前面の対象と最背面の対象との角度単位の視差量の差分を、評価用データとして算出する処理を行うものである。この際、算出に用いる式は、前述した式(4)と同じであり、式(4)において、左右対応点のずれ量Lとして標準的な測長単位(本実施形態では、メートル単位)の視差量の差分を代入すれば、その解として角度単位の視差量の差分が得られる。
【0102】
評価用データ表示処理手段23は、評価用データ作成手段22により作成された評価用データを評価用ディスプレイ装置40の画面上に表示する処理を行うものであり、最前面ピクセル視差量表示処理手段23Aと、最背面ピクセル視差量表示処理手段23Bと、ピクセル視差量累積値表示処理手段23Cと、ピクセル差分表示処理手段23Dと、統計データ表示処理手段23Eと、再生位置表示処理手段23Fと、角度視差量表示処理手段23Gと、角度視差量累積値表示処理手段23Hと、角度差分表示処理手段23Jとを含んで構成されている。
【0103】
最前面ピクセル視差量表示処理手段23Aは、最前面ピクセル視差量算出手段22Aにより算出された最前面の対象についてのピクセル単位の視差量の時系列変化について、一方の軸(本実施形態では、横軸)をフレーム単位または時間単位の軸とし、他方の軸(本実施形態では、縦軸)をピクセル単位の視差量としてグラフ表示する処理を行うものである。
【0104】
最背面ピクセル視差量表示処理手段23Bは、最背面ピクセル視差量算出手段22Bにより算出された最背面の対象についてのピクセル単位の視差量の時系列変化について、一方の軸(本実施形態では、横軸)をフレーム単位または時間単位の軸とし、他方の軸(本実施形態では、縦軸)をピクセル単位の視差量としてグラフ表示する処理を行うものである。
【0105】
ピクセル視差量累積値表示処理手段23Cは、ピクセル視差量累積値算出手段22Cにより算出された各累積値の時系列変化について、一方の軸(本実施形態では、横軸)をフレーム単位または時間単位の軸とし、他方の軸(本実施形態では、縦軸)をピクセル単位の累積値としてグラフ表示する処理を行うものである。
【0106】
ピクセル差分表示処理手段23Dは、ピクセル差分算出手段22Dにより算出された差分の時系列変化について、一方の軸(本実施形態では、横軸)をフレーム単位または時間単位の軸とし、他方の軸(本実施形態では、縦軸)をピクセル単位の差分としてグラフ表示する処理を行うものである。
【0107】
統計データ表示処理手段23Eは、統計データ算出手段22Eにより算出された各種の統計データを表示する処理を行うものである。この統計データ表示処理手段23Eは、例えば、(1)最前面の対象のピクセル単位の視差量についての複数フレームの平均値、分散、および標準偏差、(2)最背面の対象のピクセル単位の視差量についての複数フレームの平均値、分散、および標準偏差、(3)最前面の対象のピクセル単位の視差量についての複数フレームの平均値と最背面の対象のピクセル単位の視差量についての複数フレームの平均値との差分、(4)最前面の対象のピクセル単位の視差量と最背面の対象のピクセル単位の視差量との差分についての複数フレームの平均値、分散、および標準偏差については、数値表示を行い、(5)各フレームのそれぞれでの全画素のピクセル単位の視差量についての平均値、分散、および標準偏差については、それらの時系列変化について、一方の軸(本実施形態では、横軸)をフレーム単位または時間単位の軸とし、他方の軸(本実施形態では、縦軸)を全画素のピクセル単位の視差量についての平均値、分散、および標準偏差としてグラフ表示する処理を行う。
【0108】
再生位置表示処理手段23Fは、再生位置算出手段22Gにより算出した奥行き方向距離を表示する処理を行うものである。この再生位置表示処理手段23Fは、各フレームのそれぞれでの最前面および最背面の対象についての再生位置の奥行き方向距離Hを数値表示するか、あるいは最前面および最背面の対象についての再生位置の奥行き方向距離Hの時系列変化について、一方の軸(本実施形態では、横軸)をフレーム単位または時間単位の軸とし、他方の軸(本実施形態では、縦軸)をメートル単位の再生位置の奥行き方向距離としてグラフ表示する処理を行う。
【0109】
角度視差量表示処理手段23Gは、角度視差量算出手段22Hにより算出した最前面および最背面の対象についての角度単位の視差量を表示する処理を行うものである。この角度視差量表示処理手段23Gは、各フレームのそれぞれでの最前面および最背面の対象についての角度単位の視差量を数値表示するか、あるいは最前面および最背面の対象についての角度単位の視差量の時系列変化について、一方の軸(本実施形態では、横軸)をフレーム単位または時間単位の軸とし、他方の軸(本実施形態では、縦軸)を角度単位の視差量としてグラフ表示する処理を行う。
【0110】
角度視差量累積値表示処理手段23Hは、角度視差量累積値算出手段22Jにより算出された最前面および最背面の対象についての角度単位の視差量の累積値の時系列変化について、一方の軸(本実施形態では、横軸)をフレーム単位または時間単位の軸とし、他方の軸(本実施形態では、縦軸)を角度単位の視差量の累積値としてグラフ表示する処理を行うものである。
【0111】
角度差分表示処理手段23Jは、角度差分算出手段22Kにより算出された最前面の対象と最背面の対象との角度単位の視差量の差分を表示する処理を行うものである。この角度差分表示処理手段23Jは、各フレームのそれぞれでの最前面の対象と最背面の対象との角度単位の視差量の差分を数値表示するか、あるいは最前面の対象と最背面の対象との角度単位の視差量の差分の時系列変化について、一方の軸(本実施形態では、横軸)をフレーム単位または時間単位の軸とし、他方の軸(本実施形態では、縦軸)を角度単位の視差量の差分としてグラフ表示する処理を行う。
【0112】
観察条件設定手段24は、立体映像の観察者(但し、ここでは観察者である一般視聴者の立場に立って観察を行う立体映像のコンテンツ制作者や配信者や提供者等)から立体映像呈示用ディスプレイ装置41の画像呈示面までの視距離、および立体映像呈示用ディスプレイ装置41の画像呈示面サイズを、観察条件として設定する処理を行うものである。
【0113】
なお、観察条件設定手段24は、「視距離」について、観察者(ここでは、立体映像のコンテンツ制作者や配信者や提供者等)の手入力による入力設定を受け付ける構成でもよく、あるいは、センサにより観察者の位置または観察者までの距離を検出し、その検出結果に基づき視距離を自動設定する構成でもよい。また、「画像呈示面サイズ」について、観察者の手入力による入力設定を受け付ける構成でもよく、立体映像呈示用ディスプレイ装置41から画像呈示面サイズの情報を自動的に読み込む構成でもよい。
【0114】
角度視差量累積値比較手段25は、角度視差量累積値算出手段22Jにより算出した最前面および最背面の対象の角度単位の視差量についての各フレームの累積値と、生理・心理実験により求めた安全性基準値とを比較する処理を行うものである。
【0115】
安全性判断手段26は、角度視差量累積値比較手段25による比較結果に基づき、評価対象となっている立体映像が、観察者に対して顕著な視覚負担を与える可能性の有無または度合いについて判断する処理を行うものである。
【0116】
角度差分比較手段27は、角度差分算出手段22Kにより算出した最前面の対象と最背面の対象との角度単位の視差量の差分と、生理・心理実験により求めた快適性上限値および快適性下限値とを比較する処理を行うものである。
【0117】
快適性判断手段28は、角度差分比較手段27による比較結果に基づき、評価対象となっている立体映像について、観察者が左眼用画像と右眼用画像とを無理なく融像することができ、かつ、十分な立体感を得ることができる可能性の有無または度合いについて判断する処理を行うものである。
【0118】
画像補正処理手段29は、安全性判断手段26による判断結果に基づき、最前面および最背面の対象(特に、最前面の対象が問題となる。)の角度単位の視差量についての各フレームの累積値が安全性基準値を超えている場合に、その累積値が安全性基準値以下になるか若しくは安全性基準値に近づくように左眼用画像および/または右眼用画像を補正する処理を行うものである。具体的には、例えば、左眼用画像と右眼用画像とを相対的にシフトさせる処理(左右のずれ量を変化させる処理)、あるいは再生倍率を変化させる処理等を行う。
【0119】
また、画像補正処理手段29は、快適性判断手段28による判断結果に基づき、最前面の対象と最背面の対象との角度単位の視差量の差分が快適性上限値から快適性下限値までの範囲に収まっていない場合に、その角度単位の視差量の差分が、快適性上限値から快適性下限値までの範囲に収まるか若しくは収まる状態に近づくように左眼用画像および/または右眼用画像を補正する処理を行うものである。具体的には、例えば、左眼用画像と右眼用画像とを相対的にシフトさせる処理(左右のずれ量を変化させる処理)、あるいは再生倍率を変化させる処理等を行う。
【0120】
メタデータ付加処理手段30は、評価用データ作成手段22により作成した評価用データのうちの少なくとも一種類の評価用データを、放送用電波6に乗せて若しくは通信ネットワーク7を介して配信する立体映像または記録媒体8に記録して提供する立体映像のコンテンツとしての左眼用画像および右眼用画像に、メタデータとして付加する処理を行うものである。
【0121】
図1において、立体映像チューナ50は、コンピュータにより構成され、観察者に立体映像を呈示するための立体映像呈示用ディスプレイ装置60に接続されてこの立体映像呈示用ディスプレイ装置60の画面上に表示する立体映像を調整する装置であり、立体映像入力手段51と、観察条件設定手段52と、再生用画像作成手段53と、再生用画像出力手段54と、最適観察条件算出手段55と、最適観察条件呈示手段56とを備えている。
【0122】
立体映像入力手段51は、放送用電波6に乗せて若しくは通信ネットワーク7を介して配信されてくる立体映像または記録媒体8に記録されている立体映像のコンテンツとしての左眼用画像および右眼用画像、並びにこのコンテンツに付加されたメタデータを入力する処理を行うものである。
【0123】
観察条件設定手段52は、立体映像の観察者から立体映像呈示用ディスプレイ装置60の画像呈示面までの視距離、および立体映像呈示用ディスプレイ装置60の画像呈示面サイズを、観察条件として設定する処理を行うものである。この観察条件設定手段52は、立体映像評価装置20の観察条件設定手段24と同様の構成および機能を有するものであり、これらの観察条件設定手段24,52の相違は、単に、コンテンツ制作者・配信者・提供者等が、観察者である一般視聴者の立場に立って自分の制作・配信・提供するコンテンツの評価・観察を行う際に仮想的な観察条件を設定する手段であるか、あるいは観察者である一般視聴者その者が、配信・提供を受けた立体映像の観察を行う際に実際の観察条件を設定する手段であるかの相違である。従って、観察条件設定手段52は、観察条件設定手段24の場合と同様に、「視距離」について、観察者の手入力による入力設定を受け付ける構成でもよく、あるいは、センサにより観察者の位置または観察者までの距離を検出し、その検出結果に基づき視距離を自動設定する構成でもよく、また、「画像呈示面サイズ」について、観察者の手入力による入力設定を受け付ける構成でもよく、立体映像呈示用ディスプレイ装置60から画像呈示面サイズの情報を自動的に読み込む構成でもよい。
【0124】
また、立体映像チューナ50は、視距離または画像呈示面サイズのいずれか一方の観察条件が固定されているときに、視距離または画像呈示面サイズのいずれか他方についての最適な観察条件を算出し、呈示する処理も行うが、観察条件設定手段52は、この際の固定される視距離または画像呈示面サイズのいずれか一方の観察条件を設定する処理を行うものである。
【0125】
再生用画像作成手段53は、立体映像入力手段51により入力したコンテンツに付随するメタデータに含まれる評価用データ、および観察条件設定手段52により設定した観察条件を用いて、立体映像の再生用の左眼用画像および右眼用画像を作成する処理を行うものであり、単位換算手段53Aと、角度視差量累積値算出手段53Bと、角度視差量累積値比較手段53Cと、安全性判断手段53Dと、角度差分算出手段53Eと、角度差分比較手段53Fと、快適性判断手段53Gと、画像補正処理手段53Hとを含んで構成されている。
【0126】
単位換算手段53Aは、観察条件設定手段52により設定された画像呈示面サイズを用いて、立体映像入力手段51により入力したコンテンツに付随するメタデータに含まれる最前面および最背面の対象のピクセル単位の視差量についての各フレームの累積値を、ピクセル単位から標準的な測長単位(本実施形態では、一例としてメートル単位とする。)に換算する処理を行うものである。この際、算出に用いる式は、立体映像評価装置20の単位換算手段22Fの場合と同様に、前述した式(1)である。
【0127】
また、単位換算手段53Aは、観察条件設定手段52により設定された画像呈示面サイズを用いて、最前面の対象についてのピクセル単位の視差量と、最背面の対象についてのピクセル単位の視差量との差分を、ピクセル単位から標準的な測長単位(本実施形態では、メートル単位)に換算する処理も行う。
【0128】
なお、立体映像入力手段51により入力したコンテンツに付随するメタデータに、最前面および最背面の対象のピクセル単位の視差量についての各フレームの累積値は含まれていないが、最前面および最背面の対象のピクセル単位の視差量は含まれている場合には、立体映像チューナ50に設けられた図示されないピクセル視差量累積値算出手段により、最前面および最背面の対象のピクセル単位の視差量についての各フレームの累積値を算出してから、単位換算手段53Aによる単位換算処理を行えばよい。
【0129】
また、立体映像入力手段51により入力したコンテンツに付随するメタデータに、最前面の対象についてのピクセル単位の視差量と最背面の対象についてのピクセル単位の視差量との差分は含まれていないが、最前面および最背面の対象についてのピクセル単位の視差量は含まれている場合には、立体映像チューナ50に設けられた図示されないピクセル差分算出手段により、最前面の対象についてのピクセル単位の視差量と最背面の対象についてのピクセル単位の視差量との差分を算出してから、単位換算手段53Aによる単位換算処理を行えばよい。
【0130】
角度視差量累積値算出手段53Bは、単位換算手段53Aにより換算して得られた標準的な測長単位(本実施形態では、メートル単位)の視差量の累積値と、観察条件設定手段52により設定された視距離とを用いて、角度単位の視差量の累積値を算出する処理を行うものである。この際、算出に用いる式は、立体映像評価装置20の角度視差量累積値算出手段22Jの場合と同様に、前述した式(4)である。
【0131】
角度視差量累積値比較手段53Cは、角度視差量累積値算出手段53Bにより算出した角度単位の視差量の累積値と、生理・心理実験により求めた安全性基準値とを比較する処理を行うものである。
【0132】
安全性判断手段53Dは、角度視差量累積値比較手段53Cによる比較結果に基づき、観察者に対して顕著な視覚負担を与える可能性の有無または度合いについて判断する処理を行うものである。
【0133】
角度差分算出手段53Eは、単位換算手段53Aにより換算して得られた標準的な測長単位(本実施形態では、メートル単位)の視差量の差分と、観察条件設定手段52により設定された視距離とを用いて、角度単位の視差量の差分を算出する処理を行うものである。この際、算出に用いる式は、立体映像評価装置20の角度差分算出手段22Kの場合と同様に、前述した式(4)である。
【0134】
角度差分比較手段53Fは、角度差分算出手段53Eにより算出した角度単位の視差量の差分と、生理・心理実験により求めた快適性上限値および快適性下限値とを比較する処理を行うものである。
【0135】
快適性判断手段53Gは、角度差分比較手段53Fによる比較結果に基づき、観察者が左眼用画像と右眼用画像とを無理なく融像することができ、かつ、十分な立体感を得ることができる可能性の有無または度合いについて判断する処理を行うものである。
【0136】
画像補正処理手段53Hは、立体映像評価装置20の画像補正処理手段29の場合と同様に、安全性判断手段53Dによる判断結果に基づき、最前面および最背面の対象(特に、最前面の対象が問題となる。)の角度単位の視差量についての各フレームの累積値が安全性基準値を超えている場合に、その累積値が安全性基準値以下になるか若しくは安全性基準値に近づくように左眼用画像および/または右眼用画像を補正する処理を行うものである。具体的には、例えば、左眼用画像と右眼用画像とを相対的にシフトさせる処理、あるいは再生倍率を変化させる処理等を行う。
【0137】
また、画像補正処理手段53Hは、立体映像評価装置20の画像補正処理手段29の場合と同様に、快適性判断手段53Gによる判断結果に基づき、最前面の対象と最背面の対象との角度単位の視差量の差分が快適性上限値から快適性下限値までの範囲に収まっていない場合に、その角度単位の視差量の差分が、快適性上限値から快適性下限値までの範囲に収まるか若しくは収まる状態に近づくように左眼用画像および/または右眼用画像を補正する処理を行うものである。具体的には、例えば、左眼用画像と右眼用画像とを相対的にシフトさせる処理、あるいは再生倍率を変化させる処理等を行う。
【0138】
再生用画像出力手段54は、再生用画像作成手段53により作成された左眼用画像および右眼用画像を、立体映像呈示用ディスプレイ装置60に送り出す処理を行うものである。
【0139】
最適観察条件算出手段55は、立体映像入力手段51により入力したコンテンツに付随するメタデータに含まれる評価用データ、および観察条件設定手段52により設定した一方の観察条件を用いて視距離または画像呈示面サイズのいずれか他方の観察条件についての最適な条件を算出する処理を行うものである。具体的には、例えば、画像呈示面サイズが固定されているときに、安全性の面からの最適な観察条件としての視距離を算出する場合には、前述した式(4)を変形し、次の式(5)により最適な観察条件としての視距離を算出することができる。
【0140】
視距離D1=
(標準的な測長単位の視差量の累積値/安全性基準値θ1)×(180/π)
・・・・・・(5)
【0141】
ここで、安全性基準値θ1(度)は、角度視差量累積値比較手段53Cによる比較処理で用いる安全性基準値と同じであり、標準的な測長単位は、本実施形態では、一例としてメートル単位であり、視差量の累積値は、主として最前面の対象についての視差量の累積値である。また、算出された視距離D1の値は、それ以上離れて観察すれば、安全であるということを示す値である。
【0142】
また、例えば、画像呈示面サイズが固定されているときに、快適性の面からの最適な観察条件としての視距離を算出する場合には、前述した式(4)を変形し、次の式(6)および式(7)により最適な観察条件としての視距離を算出することができる。
【0143】
視距離D2=
(標準的な測長単位の視差量の差分/快適性上限値θ2)×(180/π)
・・・・・・(6)
【0144】
視距離D3=
(標準的な測長単位の視差量の差分/快適性下限値θ3)×(180/π)
・・・・・・(7)
【0145】
ここで、快適性上限値θ2および快適性下限値θ3は、角度差分比較手段53Fによる比較処理で用いる快適性上限値および快適性下限値と同じであり、標準的な測長単位は、本実施形態では、一例としてメートル単位であり、視差量の差分は、最前面の対象と最背面の対象との視差量の差分である。また、算出された視距離D2,D3の値は、視距離D2~D3の範囲で観察すれば、快適であることを示す値である。
【0146】
また、視距離が固定されているときに、安全性の面から、あるいは快適性の面からの最適な観察条件としての画像呈示面サイズを算出する場合には、上記式(5)~式(7)の場合と同様な手法で、前述した式(1)および式(4)を変形することにより、最適な観察条件としての画像呈示面サイズを算出することができる。
【0147】
最適観察条件呈示手段56は、最適観察条件算出手段55による算出結果を観察者に呈示する処理を行うものである。この最適観察条件呈示手段56は、最適観察条件算出手段55による算出結果を立体映像呈示用ディスプレイ装置60の画面上に表示する処理を行う構成でもよく、音声報知する処理を行う構成でもよく、立体映像チューナ50に設けられた画面(不図示)上に表示する処理を行う構成でもよい。
【0148】
以上において、立体映像評価装置20の処理手段20Aに含まれる各手段21~30、および立体映像チューナ50の各手段51~56は、立体映像評価装置20および立体映像チューナ50を構成する各コンピュータ本体(パーソナル・コンピュータのみならず、その上位機種のものも含む。)の内部に設けられた中央演算処理装置(CPU)、およびこのCPUの動作手順を規定する一つまたは複数のプログラムにより実現される。
【0149】
また、立体映像評価装置20の評価用ディスプレイ装置40および立体映像呈示用ディスプレイ装置41、並びに立体映像チューナ50に接続された立体映像呈示用ディスプレイ装置60としては、例えば、液晶ディスプレイやCRTディスプレイ等を採用することができる。
【0150】
さらに、立体映像評価装置20および立体映像チューナ50は、それぞれ一台のコンピュータあるいは一つのCPUにより実現されるものに限定されず、複数のコンピュータ等で分散処理を行うことにより実現されるものであってもよい。
【0151】
このような本実施形態においては、以下のようにして立体映像のコンテンツ制作者または配信者や提供者が、立体映像評価装置20を用いて制作・配信・提供対象である立体映像の評価作業を行った後、立体映像の配信や提供を受けた観察者が、立体映像チューナ50により調整された立体映像を観察する。
【0152】
先ず、立体映像のコンテンツ制作者、あるいは立体映像の配信者(放送事業者やインターネットによるコンテンツ配信サービス業者等)や提供者(記録媒体8の発行者や販売者等)は、自己の制作した、あるいは自分の配信・提供する立体映像コンテンツである左眼用画像および右眼用画像について、立体映像評価装置20を用いて評価を行い、安全性や快適性の面から立体映像の品質を確認する。この確認結果は、制作したコンテンツや配信・提供するコンテンツの修正に活かされ、さらには次回のコンテンツ制作等に反映される。
【0153】
具体的には、コンテンツについて、ピクセル視差量算出手段21により、各フレーム毎に左眼用画像と右眼用画像とのオプティカルフローを求める画像処理を行う(図4参照)。その後、ピクセル視差量算出手段21による算出結果を用い、最前面ピクセル視差量算出手段22Aおよび最背面ピクセル視差量算出手段22Bにより、最前面および最背面の対象についてのピクセル単位の視差量を求める。通常は、交差方向のピクセル単位の最大視差量および同側方向のピクセル単位の最大視差量を求めることになる。
【0154】
続いて、ピクセル視差量累積値算出手段22C、ピクセル差分算出手段22D、および統計データ算出手段22Eにより、ピクセル単位で示される評価用データの算出処理を行う。
【0155】
さらに、コンテンツ制作者または配信者・提供者は、立体映像を観察する観察者である一般視聴者の立場に立って、自己の制作・配信・提供する立体映像の評価をするため、観察条件設定手段24により、視距離および画像呈示面サイズの設定を行う。そして、観察条件設定手段24による観察条件の設定が行われると、単位換算手段22F、再生位置算出手段22G、角度視差量算出手段22H、角度視差量累積値算出手段22J、および角度差分算出手段22Kにより、角度単位で示される評価用データの算出処理が行われる。
【0156】
それから、コンテンツ制作者または配信者・提供者は、必要に応じ、最前面ピクセル視差量表示処理手段23A、最背面ピクセル視差量表示処理手段23B、ピクセル視差量累積値表示処理手段23C、ピクセル差分表示処理手段23D、統計データ表示処理手段23E、再生位置表示処理手段23F、角度視差量表示処理手段23G、角度視差量累積値表示処理手段23H、および角度差分表示処理手段23Jにより、ピクセル単位あるいは角度単位とされた評価用データを、評価用ディスプレイ装置40の画面上に表示させる。
【0157】
例えば、図7に示すように、安全性評価モードにおいて、角度視差量累積値表示処理手段23Hにより、最前面の対象についての角度単位の視差量の累積値(図中の実線)を、安全性基準値(図中の一点鎖線)とともにグラフ表示する。このグラフは、横軸が時間単位またはフレーム単位で、縦軸が角度単位の視差量の累積値となっている。なお、グラフ中の累積値は、例えば、連続する立体映像中の一つのシーンを構成する複数フレームについての累積値とする。
【0158】
また、図8に示すように、快適性評価モードにおいて、角度差分表示処理手段23Jにより、最前面の対象と最背面の対象との角度単位の視差量の差分(図中の実線)を、快適性上限値(図中の二点鎖線)および快適性下限値(図中の一点鎖線)とともにグラフ表示する。このグラフは、横軸が時間単位またはフレーム単位で、縦軸が角度単位の視差量の差分となっている。
【0159】
その後、安全性評価モードでは、角度視差量累積値比較手段25により、角度視差量累積値算出手段22Jにより算出した最前面の対象についての角度単位の視差量の累積値と、生理・心理実験により予め求めた安全性基準値(但し、安全性基準値は、比較対象となる立体映像のフレーム数により変化し、フレーム数が大きくなれば、安全性基準値も大きくなる。)とを比較する。そして、安全性判断手段26により、角度視差量累積値比較手段25による比較結果に基づき、観察者に対して顕著な視覚負担を与える可能性の有無または度合いについて判断する。
【0160】
例えば、図7のグラフで、連続する立体映像中の一つのシーンを構成する複数フレーム(一例として10フレームとする。)についての角度単位の視差量の累積値が10度(1度×10フレーム分)を超えていたとすると、顕著な視覚負担を与える可能性があると判断したり、あるいは累積値が10度を超えている程度に応じ、顕著な視覚負担を与える度合いを判断する。なお、先行研究では、1フレームにつき1度を超えると視覚負担になるという結果が得られている。
【0161】
続いて、画像補正処理手段29により、累積値(例えば、10フレームの累積値)が安全性基準値(例えば、10度)以下になるように、または視覚負担の度合いが減る方向に、左右の画像を補正し、この補正された左右の画像による立体映像を、立体映像呈示用ディスプレイ装置41の画面上に表示する。コンテンツ制作者または配信者・提供者は、立体映像呈示用ディスプレイ装置41に画面表示された立体画像を参照し、通常の観察条件で観察を行う一般視聴者にとって安全な映像であるか否か等を確認する。
【0162】
この際、画像補正処理手段29は、例えば、図7中の点線に示すように、全フレーム(例えば、10フレームの全て)について左右の画像を一律にシフトする処理を行う。例えば、視覚負担の度合いが減る方向にシフトする場合には、左眼用画像を左方向へ、右眼用画像を右方向へ、ずらす処理を行う。また、シフト量は、角度単位で把握した後に、これをピクセル単位に戻す処理を行って算出する。
【0163】
また、快適性評価モードでは、角度差分比較手段27により、角度差分算出手段22Kにより算出した最前面の対象と最背面の対象との角度単位の視差量の差分と、生理・心理実験により予め求めた快適性上限値および快適性下限値とを比較する。そして、快適性判断手段28により、角度差分比較手段27による比較結果に基づき、観察者が左眼用画像と右眼用画像とを無理なく融像することができ、かつ、十分な立体感を得ることができる可能性の有無または度合いについて判断する。
【0164】
例えば、図8のグラフで、連続する立体映像中の一つのシーンを構成する複数フレーム(一例として10フレームとする。)のうちのいずれかについての角度単位の視差量の差分が、快適性上限値を超えていたとすると、観察者が左眼用画像と右眼用画像とを無理なく融像することができない可能性があると判断したり、あるいは差分が快適性上限値を超えている程度(何割のフレームが超えているのか、各フレームがどれぐらい超えているのか、あるいは超えている部分の面積や面積比率等)に応じ、無理なく融像することができない度合いを判断する。一方、いずれかのフレームの差分が、快適性下限値を下回っていたとすると、観察者が十分な立体感を得ることができない可能性があると判断したり、あるいは差分が快適性下限値を下回っている程度(何割のフレームが下回っているのか、各フレームがどれぐらい下回っているのか、あるいは下回っている部分の面積や面積比率等)に応じ、十分な立体感を得ることができない度合いを判断する。
【0165】
続いて、画像補正処理手段29により、例えば、図8中の点線の如く、差分が快適性上限値から快適性下限値までの範囲に収まるように、またはこの範囲に収まる割合(面積)が増える方向に、左右の画像を補正し、この補正された左右の画像による立体映像を、立体映像呈示用ディスプレイ装置41の画面上に表示する。コンテンツ制作者または配信者・提供者は、立体映像呈示用ディスプレイ装置41に画面表示された立体画像を参照し、通常の観察条件で観察を行う一般視聴者にとって快適な映像であるか否か等を確認する。
【0166】
コンテンツ制作者または配信者・提供者が、制作・配信・提供の対象となる立体映像について、安全性や快適性の面からの確認をし、立体映像についてそれらの面からの問題がないと判断された場合には、メタデータ付加処理手段30により、評価用データ作成手段22により作成した評価用データのうちの少なくとも一種類の評価用データを、コンテンツとしての左眼用画像および右眼用画像にメタデータとして付加した後、これらのコンテンツおよびそれに付随するメタデータを、図1に示した立体映像配信装置70のコンテンツ記憶手段71に記憶させるか、あるいは記録媒体8に記録する。
【0167】
なお、立体映像配信装置70は、コンテンツおよびそれに付随するメタデータを放送用電波6に乗せて配信する装置、あるいはインターネット、イントラネット、エクストラネット、ローカル・エリア・ネットワーク(LAN)、メトロポリタン・エリア・ネットワーク(MAN)、ワイド・エリア・ネットワーク(WAN)等のネットワーク7に接続されたコンテンツ提供用のサーバである。また、コンテンツ記憶手段71は、例えばハードディスク等である。さらに、記録媒体8は、例えば、光磁気ディスク(MO)、コンパクトディスク(CD)を利用した読出し専用メモリ(CD-ROM)、CDレコーダブル(CD-R)、CDリライタブル(CD-RW)、デジタル・バーサタイル・ディスク(DVD)を利用した読出し専用メモリ(DVD-ROM)、DVDを利用したランダム・アクセス・メモリ(DVD-RAM)、フレキシブルディスク(FD)、磁気テープ等である。
【0168】
次に、観察者である一般視聴者が、放送用電波6に乗せて若しくはネットワーク7を介して配信されてきた立体映像(コンテンツおよびメタデータ)、あるいは記録媒体8に記録されている立体映像(コンテンツおよびメタデータ)を、立体映像チューナ50を通して立体映像呈示用ディスプレイ装置60の画面上に表示させ、観察する場合の処理の流れを説明する。
【0169】
図2において、立体映像チューナ50の電源を入れ、チューナ用のプログラムを立ち上げてチューニング処理を開始する(ステップS1)。続いて、立体映像入力手段51により、コンテンツおよびメタデータを入力する(ステップS2)。この入力は、例えば、立体映像配信装置70から発信された放送用電波6の受信、立体映像配信装置70からのネットワーク7を介したダウンロード、あるいは記録媒体8の記録情報の読取りという形で行われる。
【0170】
そして、観察者は、自己の観察条件として、視距離および立体映像呈示用ディスプレイ装置60の画像呈示面サイズを手作業で入力し、観察条件設定手段52により、これらの入力が受け付けられて視距離および画像呈示面サイズの設定が行われる(ステップS3)。なお、視距離は、センサを用いて自動読取により設定してもよく、画像呈示面サイズは、立体映像呈示用ディスプレイ装置60からの自動読込としてもよい。
【0171】
それから、メタデータとして入力した最前面の対象についてのピクセル単位の視差量の累積値を、単位換算手段53Aにより、メートル単位に換算し(ステップS4)、さらに、角度視差量累積値算出手段53Bにより、角度単位の視差量の累積値を算出する(ステップS5)。
【0172】
その後、角度視差量累積値比較手段53Cにより、角度視差量累積値算出手段53Bにより算出した角度単位の視差量の累積値と、安全性基準値との比較を行い、この比較結果に基づき、安全性判断手段53Dにより、安全性の判断を行う(ステップS6)。
【0173】
ここで、安全ではないと判断された場合(ステップS7)には、立体映像呈示用ディスプレイ装置60の画面上または立体映像チューナ50に設けられた画面(不図示)上に評価結果が表示され、観察者は、この表示を参照し、観察する立体映像を最適化するか否かを選択する(ステップS8)。ここで、最適化するという選択が行われた場合(ステップS9)には、画像補正処理手段53Hにより、左右の画像の補正処理が行われる(ステップS10)。
【0174】
一方、ステップS7で、安全であると判断された場合、およびステップS9で、最適化しないという選択が行われた場合には、画像補正処理手段53Hによる画像補正処理(ステップS10)を行うことなく、次のステップに進む。
【0175】
続いて、快適性の判断および快適性確保のための画像補正処理を行うか否かを判断する(ステップS11)。なお、快適性を判断するか否かは、予め観察者が設定しておく。また、安全性の判断と快適性の判断とを両方とも行う場合において、安全性確保のための画像補正と、快適性確保のための画像補正とが両立しないときには、いずれを優先するかを観察者に選択させておいてもよい。
【0176】
ステップS11で、快適性を判断する場合には、メタデータとして入力した最前面の対象と最背面の対象とのピクセル単位の視差量の差分を、単位換算手段53Aにより、メートル単位に換算し(ステップS12)、さらに、角度差分算出手段53Eにより、角度単位の視差量の差分を算出する(ステップS13)。
【0177】
その後、角度差分比較手段53Fにより、角度差分算出手段53Eにより算出した角度単位の視差量の差分と、快適性上限値および快適性下限値との比較を行い、この比較結果に基づき、快適性判断手段53Gにより、快適性の判断を行う(ステップS14)。
【0178】
ここで、快適ではないと判断された場合(ステップS15)には、立体映像呈示用ディスプレイ装置60の画面上または立体映像チューナ50に設けられた画面(不図示)上に評価結果が表示され、観察者は、この表示を参照し、観察する立体映像を最適化するか否かを選択する(ステップS16)。ここで、最適化するという選択が行われた場合(ステップS17)には、画像補正処理手段53Hにより、左右の画像の補正処理が行われる(ステップS18)。
【0179】
一方、ステップS15で、快適であると判断された場合、およびステップS17で、最適化しないという選択が行われた場合には、画像補正処理手段53Hによる画像補正処理(ステップS18)を行うことなく、次のステップに進む。また、ステップS11で、快適性を判断しない場合には、ステップS12~S18の処理を行うことなく、次のステップに進む。
【0180】
なお、ステップS18で快適性確保のための画像補正処理を何ら制限なく行うと、画像補正をした結果、ステップS10で一旦確保した安全性が損なわれる可能性もある。従って、快適性確保のための画像補正処理後(仮にその画像補正処理を行ったとした場合の状態)の左右の画像につき、再度、ステップS6の安全性の判断を行い、安全性も確保されるか否かを判断した後に、次のステップに進む構成とすることが好ましい。そして、快適性確保のための画像補正処理を何ら制限なく行うと、安全性が確保されないと判断された場合には、快適性確保のための画像補正処理は行わないか、あるいは安全性が確保される限度内で快適性確保のための画像補正処理を行うことが好ましい。また、観察者の選択に従って、安全性確保と快適性確保とのいずれかを優先させる画像補正処理を行ってもよい。
【0181】
続いて、立体映像入力手段51により入力したコンテンツのままの状態か、あるいはステップS10,S18で画像補正された状態の左眼用画像および右眼用画像を、再生用画像出力手段54により、立体映像呈示用ディスプレイ装置60に送り出し(ステップS19)、観察者への立体映像の呈示を行う。そして、観察者は、立体映像呈示用ディスプレイ装置60に画面表示された立体映像を、観察条件設定手段52により設定した観察条件で参照することにより、安全性や快適性を考慮した状態で立体映像を観察することができる。以上で、立体映像についての一連の調整処理を終了する(ステップS20)。
【0182】
また、以上に述べた立体映像についての一連の調整処理(ステップS1~S20)は、観察条件である視距離および画像呈示面サイズのいずれもが固定されている場合についての調整処理であるが、これらの観察条件のうち、いずれか一方が固定され、他方が調整自在な場合には、観察者が、固定されている方の観察条件を入力すれば、調整自在な方の観察条件について、最適観察条件算出手段55により最適な条件が算出され、最適観察条件呈示手段56によりその算出結果が観察者に呈示される。従って、観察者は、呈示された他方の観察条件についての最適な条件に従って、立体映像を参照することにより、安全性や快適性を考慮した状態で立体映像を観察することができる。例えば、立体映像呈示用ディスプレイ装置60の画像呈示面サイズが固定されている場合には、観察者は、最適観察条件呈示手段56により呈示された最適な条件に従って、自身が移動することにより視距離を変化させればよく、一方、立体映像呈示用ディスプレイ装置60と椅子との相対距離が固定され、視距離を調整することが困難な場合等には、画像呈示面サイズが可変な構成を有する立体映像呈示用ディスプレイ装置60であれば、最適観察条件呈示手段56により呈示された最適な条件に従って、画像呈示面サイズを調整すればよい。
【0183】
このような本実施形態によれば、次のような効果がある。すなわち、立体映像評価装置20は、ピクセル視差量算出手段21を備えているので、オプティカルフローを求める画像処理を、時系列の変化を捉えるために用いるのではなく、立体映像を構成する左眼用画像と右眼用画像との対応点間の視差量の算出に用いることができる。このため、左眼用画像と右眼用画像との対応点間の視差量を、全画素について容易に得ることができるので、これらの対応点間の視差量を用いて、評価用データ作成手段22により、立体映像の評価に用いられる各種の評価用データを作成することができる。
【0184】
例えば、評価用データ作成手段22は、最前面ピクセル視差量算出手段22Aおよび最背面ピクセル視差量算出手段22Bを備えているので、オプティカルフローを求める画像処理で得られた全画素についての視差量のうちから、最前面の対象および最背面の対象についてのピクセル単位の視差量を算出することができ、これにより立体映像の評価に用いるのに適した評価用データを得ることができる。
【0185】
そして、立体映像評価装置20は、評価用ディスプレイ装置40および評価用データ表示処理手段23を備えているので、例えば、立体映像のコンテンツ制作者、配信者、提供者等のような立体映像の評価を行う者に対し、評価用データ作成手段22により作成された各種の評価用データを、評価用ディスプレイ装置40の画面上に表示して呈示することができる。このため、立体映像の評価を行う者は、この表示を参照することにより、立体映像の評価作業を容易に行うことができる。
【0186】
さらに、評価用データ表示処理手段23は、最前面ピクセル視差量表示処理手段23Aおよび最背面ピクセル視差量表示処理手段23Bを備えているので、最前面の対象および最背面の対象についてのピクセル単位の視差量の時系列変化について、一方の軸をフレーム単位または時間単位の軸とするグラフ表示を行うことができる。このため、立体映像の評価を行う者は、このグラフ表示を参照することにより、安全性の評価および快適性の評価を容易に行うことができる。
【0187】
また、立体映像評価装置20は、ピクセル視差量累積値算出手段22Cおよびピクセル視差量累積値表示処理手段23Cを備えているので、最前面の対象および最背面の対象のピクセル単位の視差量についての各フレームの累積値の時系列変化について、一方の軸をフレーム単位または時間単位の軸とするグラフ表示を行うことができる。このため、立体映像の評価を行う者は、このグラフ表示を参照することにより、立体映像の評価を、より一層容易に行うことができる。例えば、最前面の対象のピクセル単位の視差量についての各フレームの累積値の時系列変化をグラフ上で把握すれば、安全性の評価を容易に行うことができる。
【0188】
さらに、立体映像評価装置20は、ピクセル差分算出手段22Dおよびピクセル差分表示処理手段23Dを備えているので、最前面の対象と最背面の対象とのピクセル単位の視差量の差分を算出し、この差分の時系列変化について、一方の軸をフレーム単位または時間単位の軸とするグラフ表示を行うことができる。このため、立体映像の評価を行う者は、このグラフ表示を参照することにより、快適性の評価を容易に行うことができる。
【0189】
そして、立体映像評価装置20は、統計データ算出手段22Eおよび統計データ表示処理手段23Eを備えているので、各種の統計データを算出し、これを表示することができる。このため、立体映像の評価を行う者は、これらの統計データを参照することで、立体映像について、より一層詳細な評価を行うことができる。
【0190】
例えば、統計データ算出手段22Eおよび統計データ表示処理手段23Eにより、(1)最前面の対象のピクセル単位の視差量についての複数フレームの平均値、分散、および標準偏差、(2)最背面の対象のピクセル単位の視差量についての複数フレームの平均値、分散、および標準偏差が、統計データとして算出され、表示されるので、複数のフレームにより構成される立体映像の作品全体としての視差量の平均や、ばらつき具合を把握することができる。
【0191】
また、(3)最前面の対象のピクセル単位の視差量についての複数フレームの平均値と最背面の対象のピクセル単位の視差量についての複数フレームの平均値との差分、(4)最前面の対象のピクセル単位の視差量と最背面の対象のピクセル単位の視差量との差分についての複数フレームの平均値、分散、および標準偏差が、統計データとして算出され、表示されるので、作品全体として、どの程度の立体感を持ったコンテンツであるかを把握することができる。
【0192】
さらに、(5)各フレームのそれぞれでの全画素のピクセル単位の視差量についての平均値、分散、および標準偏差が、統計データとして算出され、表示されるので、立体映像を構成する複数のフレームのそれぞれを1枚の立体画像として見たときの画面全体としての視差量の平均や、ばらつき具合を把握することができる。従って、前述した(1)および(2)の統計データから、時系列的に並ぶ複数フレームの全体としての視差量の平均や、ばらつき具合を把握することができることと合わせ、コンテンツについて、複数フレーム全体で見た場合と、各々のフレーム単位で見た場合との両方の分析を行うことができる。
【0193】
また、立体映像評価装置20は、観察条件設定手段24と、単位換算手段22Fと、再生位置算出手段22Gと、再生位置表示処理手段23Fとを備えているので、立体映像の奥行き方向の再生位置を、標準的な測長単位(本実施形態では、一例としてメートル単位とする。)で把握することができる。このため、立体映像の評価を、より一層容易に行うことができる。
【0194】
さらに、立体映像評価装置20は、観察条件設定手段24と、単位換算手段22Fと、角度視差量算出手段22Hと、角度視差量表示処理手段23Gとを備えているので、角度単位の視差量を、数値表示することができ、あるいは一方の軸(例えば、横軸)をフレーム単位または時間単位の軸とするグラフで表示することができる。このため、安全性や快適性等の立体映像の評価基準となる値が、ピクセル単位ではなく角度単位で与えられた場合にも、その基準値との対比を容易に行うことができるので、立体映像の評価を、より一層容易に行うことができる。
【0195】
そして、立体映像評価装置20は、観察条件設定手段24と、単位換算手段22Fと、角度視差量算出手段22Hと、角度視差量累積値算出手段22Jと、角度視差量累積値表示処理手段23Hとを備えているので、角度単位の視差量の累積値を、数値表示することができ、あるいは一方の軸をフレーム単位または時間単位の軸とするグラフで表示することができる。このため、立体映像の評価を、より一層容易に行うことができ、例えば、最前面の対象の角度単位の視差量についての各フレームの累積値の時系列変化をグラフ上で把握すれば、安全性の評価を容易に行うことができるうえ、安全性の評価基準となる値が、ピクセル単位ではなく角度単位で与えられた場合にも、その基準値との対比を容易に行うことができるので、安全性の評価を、より一層容易に行うことができる。
【0196】
また、立体映像評価装置20は、観察条件設定手段24と、単位換算手段22Fと、角度差分算出手段22Kと、角度差分表示処理手段23Jとを備えているので、角度単位の視差量の差分を、数値表示することができ、あるいは一方の軸をフレーム単位または時間単位の軸とするグラフで表示することができる。このため、快適性の評価を容易に行うことができるうえ、快適性の評価基準となる値が、ピクセル単位ではなく角度単位で与えられた場合にも、その基準値との対比を容易に行うことができるので、快適性の評価を、より一層容易に行うことができる。
【0197】
さらに、立体映像評価装置20は、角度視差量累積値比較手段25および安全性判断手段26を備えているので、安全性の判断を自動的に行うことができ、立体映像の評価を行う者の作業の手間を軽減でき、作業時間の短縮を図ることができる。
【0198】
そして、立体映像評価装置20は、角度差分比較手段27および快適性判断手段28を備えているので、快適性の判断を自動的に行うことができ、立体映像の評価を行う者の作業の手間を軽減でき、作業時間の短縮を図ることができる。
【0199】
また、立体映像評価装置20は、画像補正処理手段29を備えているので、立体映像の評価を行う者は、評価結果を反映させて調整した立体映像を容易に得ることができる。例えば、立体映像のコンテンツ制作者、配信者、提供者等は、安全性や快適性を考慮した立体映像の制作・配信・提供を容易に実現することができる。
【0200】
さらに、立体映像評価装置20は、メタデータ付加処理手段30を備えているので、評価用データをメタデータとしてコンテンツに付加する処理を行うことができる。このため、評価用データをコンテンツとともに配信・提供することができるので、例えばブロードバンド放送や地上波デジタル放送等による立体映像の配信・提供に利用することができ、これらの配信・提供を受けた立体映像の観察者は、コンテンツに付随する評価用データを用い、配信・提供を受けたコンテンツに対する評価結果を反映させた状態で立体映像を観察することができる。
【0201】
そして、立体映像チューナ50は、立体映像入力手段51によりコンテンツおよびこれに付加されたメタデータを入力し、再生用画像作成手段53により、メタデータに含まれる評価用データおよび観察条件設定手段52により設定した観察条件を用いて再生用画像を作成する構成とされているので、観察者は、観察条件に応じて立体感を最適化された状態の立体映像を観察することができる。
【0202】
また、立体映像チューナ50は、安全性判断手段53Dおよび画像補正処理手段53Hを備えているので、観察者は、評価データおよび観察条件を用いて安全性を考慮して調整された状態の立体映像を観察することができる。
【0203】
さらに、立体映像チューナ50は、快適性判断手段53Gおよび画像補正処理手段53Hを備えているので、観察者は、評価データおよび観察条件を用いて快適性を考慮して調整された状態の立体映像を観察することができる。
【0204】
そして、立体映像チューナ50は、最適観察条件算出手段55および最適観察条件呈示手段56を備えているので、評価用データおよび一方の観察条件を用いて他方の観察条件についての最適な条件を算出し、観察者に呈示することができる。このため、観察者は、算出・呈示された他方の観察条件に従って立体映像を観察することで、立体感を最適化された状態の立体映像を観察することができる。
【0205】
なお、本発明は前記実施形態に限定されるものではなく、本発明の目的を達成できる範囲内での変形等は本発明に含まれるものである。
【0206】
すなわち、前記実施形態では、立体映像チューナ50は、汎用のコンピュータにチューナ用のソフトウェアを搭載することにより実現されていたが、チューナ専用の装置として実現してもよい。
【0207】
また、前記実施形態の立体映像チューナ50は、図2のフローチャートに示すように、安全性の判断およびその判断結果に基づく画像補正を中心として行い、快適性の判断およびその判断結果に基づく画像補正については選択的に行う構成とされていたが、本発明の立体映像チューナは、これに限定されるものではなく、例えば、快適性に関する処理を中心とし、安全性に関する処理を選択的に行う構成としてもよく、あるいは安全性に関する処理のみを行う構成や、快適性に関する処理のみを行う構成としてもよい。
【0208】
さらに、前記実施形態の立体映像チューナ50は、図2のフローチャートに示すように、観察者に対して安全性や快適性に関する評価結果を示し、最適化の有無を選択させ、観察者によって最適化するという選択がなされた場合に画像補正処理を行う構成とされていたが(ステップS8,S9,S16,S17)、本発明の立体映像チューナは、このような構成に限定されるものではなく、観察者への評価結果の呈示処理や観察者による最適化の有無の選択の受付処理を行うことなく、自動的に安全性確保や快適性確保のための画像補正処理を行う構成としてもよい。
【産業上の利用可能性】
【0209】
以上のように、本発明の立体映像評価装置および立体映像チューナは、例えば、立体映像のコンテンツ制作者、立体映像を放送用電波に乗せて若しくは通信ネットワークを介して配信する者、または記録媒体に記録して提供する者が、それぞれ制作、配信、提供する立体映像を評価する場合、あるいはこれらの者から立体映像の配信や提供を受けた者が、立体映像を観察する場合等に用いるのに適し、より具体的には、例えば、ブロードバンド放送や地上波デジタル放送等による立体映像の配信およびその受信・再生に利用するのに適している。
【図面の簡単な説明】
【0210】
【図1】本発明の一実施形態の立体映像評価装置および立体映像チューナの全体構成図。
【図2】前記実施形態の立体映像チューナによる処理の流れを示すフローチャートの図。
【図3】評価対象となるソース映像とこのソース映像を観察時の立体像の再生位置との関係の説明図。
【図4】右眼用画像を基準とした左右画像のオプティカルフローの説明図。
【図5】立体像の再生位置の算出方法の説明図。
【図6】角度単位の視差量の算出方法の説明図。
【図7】安全性評価モードの画面例を示す図。
【図8】快適性評価モードの画面例を示す図。
【符号の説明】
【0211】
20 立体映像評価装置
21 ピクセル視差量算出手段
22 評価用データ作成手段
22A 最前面ピクセル視差量算出手段
22B 最背面ピクセル視差量算出手段
22C ピクセル視差量累積値算出手段
22D ピクセル差分算出手段
22E 統計データ算出手段
22F,53A 単位換算手段
22G 再生位置算出手段
22H 角度視差量算出手段
22J,53B 角度視差量累積値算出手段
22K,53E 角度差分算出手段
23 評価用データ表示処理手段
23A 最前面ピクセル視差量表示処理手段
23B 最背面ピクセル視差量表示処理手段
23C ピクセル視差量累積値表示処理手段
23D ピクセル差分表示処理手段
23E 統計データ表示処理手段
23F 再生位置表示処理手段
23G 角度視差量表示処理手段
23H 角度視差量累積値表示処理手段
23J 角度差分表示処理手段
24,52 観察条件設定手段
25,53C 角度視差量累積値比較手段
26,53D 安全性判断手段
27,53F 角度差分比較手段
28,53G 快適性判断手段
29,53H 画像補正処理手段
30 メタデータ付加処理手段
40 評価用ディスプレイ装置
41,60 立体映像呈示用ディスプレイ装置
50 立体映像チューナ
51 立体映像入力手段
52 観察条件設定手段
53 再生用画像作成手段
54 再生用画像出力手段
55 最適観察条件算出手段
56 最適観察条件呈示手段
図面
【図1】
0
【図2】
1
【図3】
2
【図4】
3
【図5】
4
【図6】
5
【図7】
6
【図8】
7