TOP > 国内特許検索 > ニューラルネットワーク回路及びニューラルネットワーク集積回路

ニューラルネットワーク回路及びニューラルネットワーク集積回路 NEW

国内特許コード P180014796
整理番号 S2016-0778-N0
掲載日 2018年1月24日
出願番号 特願2016-223504
公開番号 特開2017-211972
出願日 平成28年11月16日(2016.11.16)
公開日 平成29年11月30日(2017.11.30)
優先権データ
  • 特願2016-100694 (2016.5.19) JP
発明者
  • 本村 真人
出願人
  • 国立大学法人北海道大学
発明の名称 ニューラルネットワーク回路及びニューラルネットワーク集積回路 NEW
発明の概要 【課題】回路規模及びコストを大幅に縮小しつつ、効率的且つ多様性を有するニューラルネットワーク回路を提供する。
【解決手段】脳機能に対応した乗算機能及び加算/適用機能を実現するニューラルネットワーク回路C1’において、重み付け係数Wとして「1」又は「0」を記憶するメモリセル10と、脳機能に対応した既定の所定値を記憶するメモリセル11と、入力データIと重み付け係数Wとの排他的論理和を生成する多数判定入力回路12と、排他的論理和と上記所定値とに基づき、当該所定値が脳機能に対応した既定値である場合に、(「1」である乗算結果の総数-「0」である乗算結果の総数≧既定の閾値)のとき「1」を出力し、(「1」である乗算結果の総数-「0」である乗算結果の総数<既定の閾値)のとき「0」を出力する直列多数判定回路13と、を備える。
【選択図】図9
従来技術、競合技術の概要


近年、人の脳機能をモデル化した、いわゆるニューラルネットワーク回路についての研究開発が行われている。このとき、従来のニューラルネットワーク回路としては、例えば浮動小数点又は固定小数点を使った積和演算を用いて実現される場合が多く、この場合には、例えば演算コストが大きく、処理負荷が高いという問題点があった。



そこで近年、上記入力データ及び上記重み付け係数をそれぞれ1ビットとする、いわゆる「バイナリニューラルネットワーク回路」のアルゴリズムが提案されている。ここで、上記バイナリニューラルネットワーク回路のアルゴリズムを示す先行技術文献としては、例えば下記非特許文献1及び非特許文献2が挙げられる。

産業上の利用分野


本発明は、ニューラルネットワーク回路及びニューラルネットワーク集積回路の技術分野に属する。より詳細には、複数の入力データと重み付け係数とをそれぞれ乗算する乗算機能と、各乗算結果を加算しその加算結果に活性化関数を適用して出力する加算/適用機能と、を有するニューラルネットワーク回路、及び当該ニューラルネットワーク回路を複数備えるニューラルネットワーク集積回路の技術分野に属する。

特許請求の範囲 【請求項1】
人の脳機能に対応した重み付け係数と1ビットの入力データとを乗算する乗算機能と、当該乗算機能による複数の乗算結果を加算すると共に当該加算結果に活性化関数を適用して1ビットの出力データを出力し且つ前記脳機能に対応した加算/適用機能と、を実現するニューラルネットワーク回路において、
前記重み付け係数として「1」又は「0」を記憶して第1演算部に出力する第1記憶部と、
前記脳機能に対応して予め設定された所定値を記憶して前記第1演算部に出力する第2記憶部と、
前記入力データと前記記憶されている重み付け係数との排他的論理和を前記乗算結果として生成する前記第1演算部と、
前記生成された乗算結果と、前記記憶されている所定値と、に基づいて前記加算/適用機能を実現する第2演算部であって、当該所定値が前記脳機能に対応して予め設定された値である場合において、「1」である前記乗算結果の総数から「0」である前記乗算結果の総数を減じた値が予め定められた閾値以上であるとき、「1」を前記出力データとして出力し、前記所定値が前記予め設定された値である場合において、前記減じた値が前記閾値未満であるとき、「0」を前記出力データとして出力する第2演算部と、
を備えることを特徴とするニューラルネットワーク回路。

【請求項2】
請求項1に記載のニューラルネットワーク回路において、
前記加算/適用機能における加算機能として、前記脳機能に基づいて予め設定され且つ当該脳機能としての傾向をニューロンごとに示す整数である傾向係数であって、絶対値が0以上且つ前記入力データの数以下である傾向係数が、各前記乗算結果の加算結果に対して更に加算されるべき場合、当該傾向係数の絶対値に等しい数のいずれかの前記第1演算部に当該傾向係数が分けて入力されており、
当該傾向係数が分けて入力されている前記第1演算部は、前記所定値に応じて、各前記乗算結果の加算結果に対する当該傾向係数の更なる加算結果を前記第2演算部に出力し、
前記第2演算部は、前記傾向係数の更なる加算結果を各前記第1演算部について加算した合計値が正又は0であるとき「1」を前記出力データとして出力し、前記合計値が負であるとき「0」を前記出力データとして出力することを特徴とするニューラルネットワーク回路。

【請求項3】
請求項1に記載のニューラルネットワーク回路において、
前記入力データの数が一であり、
前記出力データ、前記第1記憶部、前記第2記憶部、前記第1演算部及び前記第2演算部それぞれの数が、前記ニューラルネットワーク回路が対応すべき前記脳機能に基づいて予め設定された二以上の数であり、
前記重み付け係数及び前記所定値のそれぞれが前記脳機能に対応した値であり、
各前記第1演算部は、各前記出力データにそれぞれ対応する前記重み付け係数と前記入力データとの前記排他的論理和を前記乗算結果として前記出力データごとにそれぞれ生成し、
各前記第2演算部は、
前記所定値が前記予め設定された値である場合において、「1」である前記乗算結果の総数から「0」である前記乗算結果の総数を減じた値が前記閾値以上であるとき、「1」を前記出力データとして出力し、前記所定値が前記予め設定された値である場合において、前記減じた値が前記閾値未満であるとき、「0」を前記出力データとして出力することを特徴とするニューラルネットワーク回路。

【請求項4】
請求項1に記載のニューラルネットワーク回路において、
前記出力データ及び前記第2演算部の数がそれぞれ一であり、
前記入力データ、前記第1記憶部、前記第2記憶部及び前記第1演算部それぞれの数が、前記ニューラルネットワーク回路が対応すべき前記脳機能に基づいて予め設定された二以上の数であり、
前記重み付け係数及び前記所定値のそれぞれが前記脳機能に対応した値であり、
各前記第1演算部は、各前記入力データにそれぞれ対応する前記重み付け係数と当該各入力データとの前記排他的論理和を前記乗算結果として前記入力データごとにそれぞれ生成し、
前記第2演算部は、
前記所定値が前記予め設定された値である場合において、「1」である前記乗算結果の総数から「0」である前記乗算結果の総数を減じた値が前記閾値以上であるとき、「1」を前記出力データとして出力し、前記所定値が前記予め設定された値である場合において、前記減じた値が前記閾値未満であるとき、「0」を前記出力データとして出力することを特徴とするニューラルネットワーク回路。

【請求項5】
請求項3に記載のニューラルネットワーク回路と、
請求項4に記載のニューラルネットワーク回路と、
を備え、
一の入力データが入力される請求項3に記載の前記ニューラルネットワーク回路から出力される各出力データがそれぞれ、請求項4に記載の前記ニューラルネットワーク回路における各入力データとされており、
請求項4に記載の前記ニューラルネットワーク回路から一の出力データを出力することを特徴とするニューラルネットワーク集積回路。

【請求項6】
請求項5に記載のニューラルネットワーク集積回路において、
請求項3に記載のニューラルネットワーク回路と請求項4に記載の前記ニューラルネットワーク回路との間にレジスタ部を更に備え、
当該レジスタ部は、請求項3に記載のニューラルネットワーク回路から出力される各出力データを一基準クロック分だけバッファリングし、請求項4に記載の前記ニューラルネットワーク回路における各入力データとして請求項4に記載の当該ニューラルネットワーク回路に出力することを特徴とするニューラルネットワーク集積回路。

【請求項7】
複数の請求項5に記載のニューラルネットワーク集積回路が直列に接続されており、
一の当該ニューラルネットワーク集積回路のからの一の前記出力データが、直後段の当該ニューラルネットワーク集積回路への一の前記入力データとされていることを特徴とするニューラルネットワーク集積回路。

【請求項8】
複数の請求項5に記載のニューラルネットワーク集積回路を備え、
当該複数の請求項5に記載のニューラルネットワーク集積回路のそれぞれに対して一の前記入力データが共通に入力されており、
当該複数の請求項5に記載のニューラルネットワーク集積回路からそれぞれ別個に前記出力データが一ずつ出力されることを特徴とするニューラルネットワーク集積回路。
国際特許分類(IPC)
画像

※ 画像をクリックすると拡大します。

JP2016223504thum.jpg
出願権利状態 公開
ライセンスをご希望の方、特許の内容に興味を持たれた方は、下記までご連絡ください


PAGE TOP

close
close
close
close
close
close
close