Top > Search of International Patents > CHARACTERISTIC AMOUNT CONVERSION MODULE, PATTERN IDENTIFICATION DEVICE, PATTERN IDENTIFICATION METHOD, AND PROGRAM

CHARACTERISTIC AMOUNT CONVERSION MODULE, PATTERN IDENTIFICATION DEVICE, PATTERN IDENTIFICATION METHOD, AND PROGRAM

Foreign code F170009161
File No. (S2016-0420-N0)
Posted date Sep 6, 2017
Country WIPO
International application number 2017JP005600
International publication number WO 2017141997
Date of international filing Feb 15, 2017
Date of international publication Aug 24, 2017
Priority data
  • P2016-025892 (Feb 15, 2016) JP
Title CHARACTERISTIC AMOUNT CONVERSION MODULE, PATTERN IDENTIFICATION DEVICE, PATTERN IDENTIFICATION METHOD, AND PROGRAM
Abstract A characteristic amount conversion module (characteristic amount conversion means) (500) to which the present invention is applied is equipped with: a learning data input unit (510); an intermediate layer setting unit (520), which inputs learning data that has been input to the learning data input unit into a learning model configured from a function comprising a formula having, as factors, a weighting and a bias having a second dimensional number satisfying an optical calculation constraint condition, and which sets an intermediate layer having the second dimensional number; an output calculation unit (530); an error calculation unit (540); a determination unit (550); a weighting bias changing unit (560); a learning model output unit (570); and a control unit (580).
Outline of related art and contending technology BACKGROUND ART
In recent years, new knowledge from the group consisting of a large-scale data, for the purpose of obtaining knowledge research and development attention. Machine learning in computer vision, learning by construction of a two-dimensional image from the object recognition, matching, realizing easy detection. Object recognition, matching, in order to improve the detection accuracy, and vast amounts of data for learning a good quality of high-speed processing technique for learning and the group is needed, a general purpose processor operating frequency is obtained. However, due to miniaturization of semiconductor manufacturing such as heat generation of the processes of the problem, further improvement of the operating frequency of a general-purpose processor is difficult. Therefore, the processor core or arithmetic unit in parallel and improve the performance of the learning technique, such as a dedicated processor and each portion is good, the conventional technique of efficiently combining the new computing technologies and fusion system and research and development.
For example, the multidimensional vector to a high speed as an inner product operation, and the light operation processing (see Non-Patent Document 1). The processing of the light is a lack of versatility, in a specific algorithm, and the analog characteristic of the parallel high-speed operation, large-capacity information stored in the high beam. Patent Document 1 and Non-Patent Document 1 for example is, as described above and a parallel high-speed operation and large-capacity storage of information capable of realizing both the holographic optical disk using the optical correlation system is disclosed.
Scope of claims (In Japanese)[請求項1]
ニューラルネットワークにおける学習によって学習データの特徴量を変換する特徴量変換モジュールであって、
任意の第一の次元数および任意の特徴量を有する学習データが入力される学習データ入力部と、
所定の光演算制約条件を満たす第二の次元数を有する重みとバイアスとを因子にもつ式からなる関数より構成された学習モデルに、前記学習データ入力部に入力された前記学習データを入力し、前記第二の次元数を有する中間層を設定する中間層設定部と、
前記中間層設定部で設定された前記中間層から前記第一の次元数を有する出力層を計算し、前記ニューラルネットワークの出力を算出する出力算出部と、
前記出力算出部によって算出された前記ニューラルネットワークの出力と前記学習データとの誤差を算出する誤差算出部と、
前記誤差算出部によって算出された前記誤差が所定の条件を満たすか否かを判定する判定部と、
前記誤差に基づいて前記重みと前記バイアスとをそれぞれ変更し、変更後の前記重みと前記バイアスとを得る重みバイアス変更部と、
前記変更後の前記重みと前記バイアスとを因子にもつ式からなる関数によって構成された学習モデルを出力する学習モデル出力部と、
前記判定部において前記誤差が所定の条件を満たすと判定された場合には、前記出力部から前記変更後の前記重みと前記バイアスとを因子にもつ式からなる関数によって構成された学習モデルを出力させ、前記判定部において前記誤差が所定の条件を満たさないと判定された場合には、前記出力算出部において前記学習モデルの前記式に含まれる前記重みと前記バイアスを前記重みバイアス変更部で得られた前記変更後の前記重みと前記バイアスにそれぞれ変更し、前記ニューラルネットワークの出力を算出させる制御部と、
を備え、
前記光演算制約条件は、前記ニューラルネットワークの出力を用いて行う光演算における所定の量子化数、前記光演算に用いられる光相関器の光学パラメータ、および所定のエネルギー数によって決まることを特徴とする特徴量変換モジュール。
[請求項2]
前記光相関器は、前記ニューラルネットワークの出力に基づく光演算用データを表示する表示素子と、前記演算用データが反映された光を集光するレンズと、を備え、
前記光学パラメータには、前記表示素子のピクセルピッチおよび前記レンズの半径が含まれることを特徴とする請求項1に記載の特徴量変換モジュール。
[請求項3]
前記光相関器は、前記表示素子に表示された前記光演算用データが反映された光のビーム径を縮小し、該ビーム径が縮小された光を前記レンズに向けて出射する縮小光学系をさらに備え、
前記光学パラメータには、前記縮小光学系の縮小倍率が含まれることを特徴とする請求項2に記載の特徴量変換モジュール。
[請求項4]
前記第二の次元数は、以下の(1)式を満たすことを特徴とする前記請求項3に記載の特徴量変換モジュール。
[数1]
なお、上述の(1)式において、zは前記第二の次元数、aは前記表示素子のピクセルピッチ[mm]、rは前記レンズの半径[mm]、bは前記縮小光学系の縮小倍率を示す。
[請求項5]
請求項1から請求項4のいずれかに記載の特徴量変換モジュールと、
クラスラベルの付加された学習用データを入カとし、光演算用制約条件を備えた前記学習用データの識別精度を最大化するような特徴抽出器を学習する学習手段と、
前記特徴抽出器より抽出された特徴量を特徴抽出器に変換する光演算用データ変換部と、
光演算用データを記憶する光記憶部と、複数の光演算用データ聞における類似度を算出することによって光相関機能を提供する類似度計算部による光演算手段と、
識別対象データの辞書となる登録用データを入力とし、前記学習手段により得られた特徴抽出器を用いて抽出した特徴量を、前記光演算用データ変換部において光演算用に光演算用特徴量として変換し、前記光演算手段における光記憶部に登録する登録手段と、
識別対象データを入力とし、前記学習手段で生成された特徴抽出器より抽出した特徴量と前記登録手段において光記憶部に登録した特徴量聞の類似度を前記光演算手段における類似度計算部において算出し、出力部より識別結果を出力する識別手段と、
を備えることを特徴とするパターン識別装置。
[請求項6]
クラスラベルの付加された学習用データを入カとし、光演算用制約条件を備えた前記学習用データの識別精度を最大化するような特徴抽出器を学習する学習手段と、
前記特徴抽出器より抽出された特徴量を特徴抽出器に変換する光演算用データ変換部と光演算用データを記憶する光記憶部と、複数の光演算用データ聞における類似度を算出することによって光相関機能を提供する類似度計算部による光演算手段と、
識別対象データの辞書となる登録用データを入力とし、前記学習手段により得られた特徴抽出器を用いて抽出した特徴量を、前記光演算用データ変換部において光演算用に光演算用特徴量として変換し、前記光演算手段における光記憶部に登録する登録手段と、
識別対象データを入力とし、前記学習手段で生成された特徴抽出器より抽出した特徴量と前記登録手段において光記憶部に登録した特徴量聞の類似度を前記光演算手段における類似度計算部において算出し、出力部より識別結果を出力する識別手段と、
を備えることを特徴とするパターン識別装置。
[請求項7]
前記学習手段において、特徴抽出器の生成における学習の過程において、学習後に生成される特徴抽出器による出力がバイナリ近似された特徴量となるように、前記特徴抽出器生成部における活性化関数にステップ関数、もしくはシグモイド関数で近似したステップ関数のような特徴量の各次元の値を0から1の値の範囲に分布させる関数を適用することを特徴とする請求項5または請求項6に記載のパターン識別装置。
[請求項8]
前記学習手段において、特徴抽出器の生成における学習の過程において、学習後に生成される特徴抽出器による出力がバイナリ近似された特徴量となりかっ、特徴量のもつ表現力がフロート値のような多値である場合と比較しでも劣らない特徴量となるように、前記特徴抽出器生成部の学習により更新が行われるパラメータ部分の数を、多値の特徴量を抽出する特徴抽出器を生成する場合と比較し、大きな数とすることを特徴とする請求項5から請求項7のいずれか1項に記載のパターン識別装置。
[請求項9]
前記学習手段における特徴抽出器生成部の学習の結果得られた特徴抽出器から得られる0から1の範囲に各次元の特徴量が分布するバイナリ近似された特徴量を、前記光演算用データ変換部において特定の闇値でバイナリ化することを特徴とする請求項5から請求項8のいずれか1項に記載のパターン識別装置。
[請求項10]
前記学習手段における特徴抽出器生成部の光演算制約付加部において、前記学習手段より得られた特徴量抽出器に対して、入力データを与え抽出した特徴量を線形識別器による最適化をおこなった重みベクトルをバイナリ化する手法を備えたことを特徴とする請求項5または請求項6に記載のパターン識別装置。
[請求項11]
前記学習手段における特徴抽出器生成部の光演算制約付加部において、前記学習手段より得られた特徴量抽出器に対して、入力データを与え抽出した特徴量を、複数閥値において、それぞれの闇値と各次元の特徴量値の大小関係を利用してバイナリ化する手法を備えることを特徴とする請求項10に記載のパターン識別装置。
[請求項12]
前記光記憶部はホログラフィック記録媒体であることを特徴とする請求項5から請求項11のいずれか1項に記載のパターン識別装置。
[請求項13]
前記光記憶部におけるホログラブイツク記録媒体は円盤状に形成され、前記ホログラフィック記録媒体を回転させつつ、前記識別対象データ照射することを特徴とする請求項5から請求項12のいずれか1項に記載のパターン識別装置。
[請求項14]
前記光演算手段において、光演算用データ変換部の特徴抽出を、光演算で行うことを特徴とする請求項5から請求項13のいずれか1項に記載のパターン識別装置。
[請求項15]
入力されたデータを何らかのクラスに識別するパターン識別装置のパターン識別方法において、前記パターン識別装置によるクラスラベルの付加された学習用データを入力とし、光演算用制約条件を備えた前記学習用データの識別精度を最大化するような特徴抽出器を学習する学習ステップと、
前記特徴抽出器より抽出された特徴量を特徴抽出器に変換する光演算用データ変換部と光演算用データを記憶する光記憶部と、複数の光演算用データ聞における類似度を算出することによって光相関機能を提供する類似度計算部による光演算ステップと、識別対象データの辞書となる登録用データを入力とし、前記学習ステップにより得られた特徴抽出器を用いて抽出した特徴量を、前記光演算用データ変換部において光演算用に光演算用特徴量として変換し、前記光演算ステップにおける光記憶部に登録する登録ステップと、
識別対象データを入力とし、前記学習ステップで生成された特徴抽出器より抽出した特徴量と前記登録ステップにおいて光記憶部に登録した特徴量問の類似度を前記光演算ステップにおける類似度計算部において算出し、出力部より認識結果を出力する識別ステップと、
を含むパターン識別方法。
[請求項16]
コンピュータを、クラスラベルの付加された学習用データを入力とし、光演算用制約条件を備えた前記学習用データの識別精度を最大化するような特徴抽出器を学習する学習ステップと、
前記特徴抽出器より抽出された特徴量を特徴抽出器に変換する光演算用データ変換部と光演算用データを記憶する光記憶部と、複数の光演算用データ聞における類似度を算出することによって光相関機能を提供する類似度計算部による光演算ステップと、
識別対象データの辞書となる登録用データを入力とし、前記学習ステップにより得られた特徴抽出器を用いて抽出した特徴量を、前記光演算用データ変換部において光演算用に光演算用特徴量として変換し、前記光演算ステップにおける光記憶部に登録する登録ステップと、
識別対象データを入力とし、前記学習ステップで生成された特徴抽出器より抽出した特徴量と前記登録ステップにおいて光記憶部に登録した特徴量聞の類似度を前記光演算ステップにおける類似度計算部において算出し、出カ部より識別結果を出力する識別ステップとして機能させるプログラム。
  • Applicant
  • ※All designated countries except for US in the data before July 2012
  • THE UNIVERSITY OF ELECTRO-COMMUNICATIONS
  • Inventor
  • WATANABE Eriko
  • FUJIYOSHI Hironobu
  • TANIGUCHI Yasufumi
  • IKEDA Kanami
  • WAKITA Suguru
  • SUZUKI Hidenori
IPC(International Patent Classification)
Please contact us by E-mail or facsimile if you have any interests on this patent.

PAGE TOP

close
close
close
close
close
close