Top > Search of Japanese Patents > (In Japanese)特徴量変換モジュール、パターン識別装置、パターン識別方法、およびプログラム

(In Japanese)特徴量変換モジュール、パターン識別装置、パターン識別方法、およびプログラム

Patent code P190015812
File No. (S2016-0420-N0)
Posted date Jan 24, 2019
Application number P2018-500181
Date of filing Feb 15, 2017
International application number JP2017005600
International publication number WO2017141997
Date of international filing Feb 15, 2017
Date of international publication Aug 24, 2017
Priority data
  • P2016-025892 (Feb 15, 2016) JP
Inventor
  • (In Japanese)渡邉 恵理子
  • (In Japanese)藤吉 弘亘
  • (In Japanese)谷口 泰史
  • (In Japanese)池田 佳奈美
  • (In Japanese)脇田 英
  • (In Japanese)鈴木 秀典
Applicant
  • (In Japanese)国立大学法人電気通信大学
Title (In Japanese)特徴量変換モジュール、パターン識別装置、パターン識別方法、およびプログラム
Abstract (In Japanese)本発明を適用した特徴量変換モジュール(特徴量変換手段)(500)は、学習データ入力部(510)と、光演算制約条件を満たす第二の次元数を有する重みとバイアスとを因子にもつ式からなる関数より構成された学習モデルに、前記学習データ入力部に入力された学習データを入力し、前記第二の次元数を有する中間層を設定する中間層設定部(520)と、出力算出部(530)と、誤差算出部(540)と、判定部(550)と、重みバイアス変更部(560)と、学習モデル出力部(570)と、制御部(580)と、を備えている。
Outline of related art and contending technology (In Japanese)

近年、大規模データ群から新たな知見・知識を得ることを目的とした研究開発が注目されている。コンビュータービジョンにおける機械学習では、学習器の構築によって二次元画像からの物体認識・照合・検出を実現する。物体認識・照合・検出における精度を高めるためには、学習用の良質かつ膨大なデータ群および学習のための高速演算処理技術が必要とされ、汎用プロセッサの動作周波数の向上が求められる。しかしながら、半導体製造プロセスの微細化に伴う回路の発熱などの問題があるため、汎用プロセッサの動作周波数のさらなる向上は困難になっている。そこで、プロセッサコアや演算器を並列化して学習器の性能向上を図る技術や、得意な部分を専用プロセッサで担わせるなど、既存の技術と新たなコンピューティング技術とを効率的に組み合わせた融合システムに関する研究開発が行われている。

例えば、多次元ベクトルの内積演算を高速に実現する処理として、光演算処理が挙げられる(非特許文献1参照)。光演算処理は汎用性に乏しいが、特定のアルゴリズムにおいては、アナログ特性による並列高速演算と、情報の大容量記憶に秀でている。例えば特許文献1や非特許文献1には、前述のように並列高速演算と情報の大容量記憶との両立を実現可能なホログラフィック光ディスクを用いた光相関システムが開示されている。

Field of industrial application (In Japanese)

本発明は、任意の多次元ベクトルの特徴量変換モジュール、前述の多次元ベクトルに関するパターン識別学習装置、パターン識別装置、光演算用データ生成装置、光記憶装置、パターン識別学習処理方法とパターン識別処理方法、光演算用データ生成方法およびパターン識別学習プログラム、並びにそれらを記録した記憶装置に関するものである。本願は、2016年2月15日に、日本に出願された特願2016-025892号に基づき優先権を主張し、その内容をここに援用する。

Scope of claims (In Japanese)
【請求項1】
 
ニューラルネットワークにおける学習によって学習データの特徴量を変換する特徴量変換モジュールであって、
任意の第一の次元数および任意の特徴量を有する学習データが入力される学習データ入力部と、
所定の光演算制約条件を満たす第二の次元数を有する重みとバイアスとを因子にもつ式からなる関数より構成された学習モデルに、前記学習データ入力部に入力された前記学習データを入力し、前記第二の次元数を有する中間層を設定する中間層設定部と、
前記中間層設定部で設定された前記中間層から前記第一の次元数を有する出力層を計算し、前記ニューラルネットワークの出力を算出する出力算出部と、
前記出力算出部によって算出された前記ニューラルネットワークの出力と前記学習データとの誤差を算出する誤差算出部と、
前記誤差算出部によって算出された前記誤差が所定の条件を満たすか否かを判定する判定部と、
前記誤差に基づいて前記重みと前記バイアスとをそれぞれ変更し、変更後の前記重みと前記バイアスとを得る重みバイアス変更部と、
前記変更後の前記重みと前記バイアスとを因子にもつ式からなる関数によって構成された学習モデルを出力する学習モデル出力部と、
前記判定部において前記誤差が所定の条件を満たすと判定された場合には、前記出力部から前記変更後の前記重みと前記バイアスとを因子にもつ式からなる関数によって構成された学習モデルを出力させ、前記判定部において前記誤差が所定の条件を満たさないと判定された場合には、前記出力算出部において前記学習モデルの前記式に含まれる前記重みと前記バイアスを前記重みバイアス変更部で得られた前記変更後の前記重みと前記バイアスにそれぞれ変更し、前記ニューラルネットワークの出力を算出させる制御部と、
を備え、
前記光演算制約条件は、前記ニューラルネットワークの出力を用いて行う光演算における所定の量子化数、前記光演算に用いられる光相関器の光学パラメータ、および所定のエネルギー数によって決まることを特徴とする特徴量変換モジュール。

【請求項2】
 
前記光相関器は、前記ニューラルネットワークの出力に基づく光演算用データを表示する表示素子と、前記演算用データが反映された光を集光するレンズと、を備え、
前記光学パラメータには、前記表示素子のピクセルピッチおよび前記レンズの半径が含まれることを特徴とする請求項1に記載の特徴量変換モジュール。

【請求項3】
 
前記光相関器は、前記表示素子に表示された前記光演算用データが反映された光のビーム径を縮小し、該ビーム径が縮小された光を前記レンズに向けて出射する縮小光学系をさらに備え、
前記光学パラメータには、前記縮小光学系の縮小倍率が含まれることを特徴とする請求項2に記載の特徴量変換モジュール。

【請求項4】
 
前記第二の次元数は、以下の(1)式を満たすことを特徴とする前記請求項3に記載の特徴量変換モジュール。
【数1】
 
(省略)
なお、上述の(1)式において、zは前記第二の次元数、aは前記表示素子のピクセルピッチ[mm]、rは前記レンズの半径[mm]、bは前記縮小光学系の縮小倍率を示す。

【請求項5】
 
請求項1から請求項4のいずれかに記載の特徴量変換モジュールと、
クラスラベルの付加された学習用データを入カとし、光演算用制約条件を備えた前記学習用データの識別精度を最大化するような特徴抽出器を学習する学習手段と、
前記特徴抽出器より抽出された特徴量を特徴抽出器に変換する光演算用データ変換部と、
光演算用データを記憶する光記憶部と、複数の光演算用データ聞における類似度を算出することによって光相関機能を提供する類似度計算部による光演算手段と、
識別対象データの辞書となる登録用データを入力とし、前記学習手段により得られた特徴抽出器を用いて抽出した特徴量を、前記光演算用データ変換部において光演算用に光演算用特徴量として変換し、前記光演算手段における光記憶部に登録する登録手段と、
識別対象データを入力とし、前記学習手段で生成された特徴抽出器より抽出した特徴量と前記登録手段において光記憶部に登録した特徴量聞の類似度を前記光演算手段における類似度計算部において算出し、出力部より識別結果を出力する識別手段と、
を備えることを特徴とするパターン識別装置。

【請求項6】
 
クラスラベルの付加された学習用データを入カとし、光演算用制約条件を備えた前記学習用データの識別精度を最大化するような特徴抽出器を学習する学習手段と、
前記特徴抽出器より抽出された特徴量を特徴抽出器に変換する光演算用データ変換部と光演算用データを記憶する光記憶部と、複数の光演算用データ聞における類似度を算出することによって光相関機能を提供する類似度計算部による光演算手段と、
識別対象データの辞書となる登録用データを入力とし、前記学習手段により得られた特徴抽出器を用いて抽出した特徴量を、前記光演算用データ変換部において光演算用に光演算用特徴量として変換し、前記光演算手段における光記憶部に登録する登録手段と、
識別対象データを入力とし、前記学習手段で生成された特徴抽出器より抽出した特徴量と前記登録手段において光記憶部に登録した特徴量聞の類似度を前記光演算手段における類似度計算部において算出し、出力部より識別結果を出力する識別手段と、
を備えることを特徴とするパターン識別装置。

【請求項7】
 
前記学習手段において、特徴抽出器の生成における学習の過程において、学習後に生成される特徴抽出器による出力がバイナリ近似された特徴量となるように、前記特徴抽出器生成部における活性化関数にステップ関数、もしくはシグモイド関数で近似したステップ関数のような特徴量の各次元の値を0から1の値の範囲に分布させる関数を適用することを特徴とする請求項5または請求項6に記載のパターン識別装置。

【請求項8】
 
前記学習手段において、特徴抽出器の生成における学習の過程において、学習後に生成される特徴抽出器による出力がバイナリ近似された特徴量となりかっ、特徴量のもつ表現力がフロート値のような多値である場合と比較しでも劣らない特徴量となるように、前記特徴抽出器生成部の学習により更新が行われるパラメータ部分の数を、多値の特徴量を抽出する特徴抽出器を生成する場合と比較し、大きな数とすることを特徴とする請求項5から請求項7のいずれか1項に記載のパターン識別装置。

【請求項9】
 
前記学習手段における特徴抽出器生成部の学習の結果得られた特徴抽出器から得られる0から1の範囲に各次元の特徴量が分布するバイナリ近似された特徴量を、前記光演算用データ変換部において特定の闇値でバイナリ化することを特徴とする請求項5から請求項8のいずれか1項に記載のパターン識別装置。

【請求項10】
 
前記学習手段における特徴抽出器生成部の光演算制約付加部において、前記学習手段より得られた特徴量抽出器に対して、入力データを与え抽出した特徴量を線形識別器による最適化をおこなった重みベクトルをバイナリ化する手法を備えたことを特徴とする請求項5または請求項6に記載のパターン識別装置。

【請求項11】
 
前記学習手段における特徴抽出器生成部の光演算制約付加部において、前記学習手段より得られた特徴量抽出器に対して、入力データを与え抽出した特徴量を、複数閥値において、それぞれの闇値と各次元の特徴量値の大小関係を利用してバイナリ化する手法を備えることを特徴とする請求項10に記載のパターン識別装置。

【請求項12】
 
前記光記憶部はホログラフィック記録媒体であることを特徴とする請求項5から請求項11のいずれか1項に記載のパターン識別装置。

【請求項13】
 
前記光記憶部におけるホログラブイツク記録媒体は円盤状に形成され、前記ホログラフィック記録媒体を回転させつつ、前記識別対象データ照射することを特徴とする請求項5から請求項12のいずれか1項に記載のパターン識別装置。

【請求項14】
 
前記光演算手段において、光演算用データ変換部の特徴抽出を、光演算で行うことを特徴とする請求項5から請求項13のいずれか1項に記載のパターン識別装置。

【請求項15】
 
入力されたデータを何らかのクラスに識別するパターン識別装置のパターン識別方法において、前記パターン識別装置によるクラスラベルの付加された学習用データを入力とし、光演算用制約条件を備えた前記学習用データの識別精度を最大化するような特徴抽出器を学習する学習ステップと、
前記特徴抽出器より抽出された特徴量を特徴抽出器に変換する光演算用データ変換部と光演算用データを記憶する光記憶部と、複数の光演算用データ聞における類似度を算出することによって光相関機能を提供する類似度計算部による光演算ステップと、識別対象データの辞書となる登録用データを入力とし、前記学習ステップにより得られた特徴抽出器を用いて抽出した特徴量を、前記光演算用データ変換部において光演算用に光演算用特徴量として変換し、前記光演算ステップにおける光記憶部に登録する登録ステップと、
識別対象データを入力とし、前記学習ステップで生成された特徴抽出器より抽出した特徴量と前記登録ステップにおいて光記憶部に登録した特徴量問の類似度を前記光演算ステップにおける類似度計算部において算出し、出力部より認識結果を出力する識別ステップと、
を含むパターン識別方法。

【請求項16】
 
コンピュータを、クラスラベルの付加された学習用データを入力とし、光演算用制約条件を備えた前記学習用データの識別精度を最大化するような特徴抽出器を学習する学習ステップと、
前記特徴抽出器より抽出された特徴量を特徴抽出器に変換する光演算用データ変換部と光演算用データを記憶する光記憶部と、複数の光演算用データ聞における類似度を算出することによって光相関機能を提供する類似度計算部による光演算ステップと、
識別対象データの辞書となる登録用データを入力とし、前記学習ステップにより得られた特徴抽出器を用いて抽出した特徴量を、前記光演算用データ変換部において光演算用に光演算用特徴量として変換し、前記光演算ステップにおける光記憶部に登録する登録ステップと、
識別対象データを入力とし、前記学習ステップで生成された特徴抽出器より抽出した特徴量と前記登録ステップにおいて光記憶部に登録した特徴量聞の類似度を前記光演算ステップにおける類似度計算部において算出し、出カ部より識別結果を出力する識別ステップとして機能させるプログラム。
IPC(International Patent Classification)
F-term
Drawing

※Click image to enlarge.

JP2018500181thum.jpg
State of application right Published


PAGE TOP

close
close
close
close
close
close
close