Top > Search of Japanese Patents > SENSING AGENT SYSTEM USING PORTABLE TERMINAL, MACHINE LEARNING METHOD IN SENSING AGENT SYSTEM, AND PROGRAM FOR IMPLEMENTING THE SAME

SENSING AGENT SYSTEM USING PORTABLE TERMINAL, MACHINE LEARNING METHOD IN SENSING AGENT SYSTEM, AND PROGRAM FOR IMPLEMENTING THE SAME commons meetings

Patent code P180015118
Posted date Jun 20, 2018
Application number P2017-120278
Publication number P2018-045679A
Date of filing Jun 20, 2017
Date of publication of application Mar 22, 2018
Priority data
  • P2016-175700 (Sep 8, 2016) JP
Inventor
  • (In Japanese)趙 強福
  • (In Japanese)橋本 雅人
Applicant
  • (In Japanese)公立大学法人会津大学
Title SENSING AGENT SYSTEM USING PORTABLE TERMINAL, MACHINE LEARNING METHOD IN SENSING AGENT SYSTEM, AND PROGRAM FOR IMPLEMENTING THE SAME commons meetings
Abstract PROBLEM TO BE SOLVED: To provide a sensing agent system using a portable terminal which solves inconvenience of massive computation processing in machine learning, senses varied information of the user, and provides information useful for the user and solve problems based on the sensed information.
SOLUTION: The sensing agent system using a portable terminal comprises a portable terminal and a server connected to the portable terminal. The portable terminal encodes feature vectors included in information obtained from the user and then sends the encoded feature vectors to the server as an input layer of a neural network. The server receives the encoded feature vectors, calculates a hidden layer from the input layer of the neural network, and sends the calculation result of the hidden layer to the portable terminal. The portable terminal also calculates an output layer from the calculation result of the hidden layer received from the server.
Outline of related art and contending technology (In Japanese)

察知エージェントとは、ユーザの様々な情報を察知して、その情報を基にユーザに役立つ情報の提供や、問題解決を行うことを目的としたさまざまな分野に応用ができるシステムである。

かかる察知エージェントにELM(Extreme Learning Machine)に基づく機械学習手法を取り入れることによりユーザにカスタマイズされたエージェントを提供することが可能である。

ここで、脳の中には多数の神経細胞(ニューロン)があり、ニューロンは、他のニューロンからの信号を受け、入力される信号の状態から所定の信号を他の多数のニューロンに受け渡しして情報処理を行っている。このような脳における仕組みをコンピュータにより実現するものが、ニューラルネットワークである。

ELMは、一種のニューラルネットワークであり、大量の既知のデータから情報を抽出し、その情報をもとに未知のデータが何であるかを推論、分類する技術である。ここで、以降の説明では、「情報を抽出」することを学習、「推論、分類」することを分類と表示する。

図1は、一般的なELMニューラルネットワークを示す図である。図において、ニューラルネットワーク1は、入力層1a、隠れ層(中間層)1b、出力層1cを有する。

隠れ層1bの重みWとバイアスbは、乱数である。βは出力層1cの重みである。これら重みと係数は、事前のトレーニングにより決められる。

ここで、入力の特徴ベクトルをxとすると、特徴ベクトルxの関数は、次式で表される。

【数1】
(省略)

【数2】
(省略)

【数3】
(省略)

【数4】
(省略)

活性化関数としてシグモイド関数g(z)を用いる。以下はシグモイド関数の一例である。

【数5】
(省略)

上記式(1)-(4)において、Nhは隠れニューロンの数、Wは入力層から隠れ層の間の重み、bはバイアスである。βは隠れ層から出力層の間の重みである。また、Nfは特徴ベクトルxの次元数である。

基本的なELMの学習方法を示すと次の手順のようである。

学習データが、

【数6】
(省略)

である。(但し、Nfは特徴ベクトルの次元数、Ncはクラス数、Ndはデータ数)
1)まず、Wとbを乱数で初期化する。通常、乱数の範囲は、[-1,1]である。行列Wのサイズは、Nh×Nf,bはNh次元のベクトルである。
2)隠れ層の出力の行列を計算する。

【数7】
(省略)

次いで、
3)出力層の重みベクトルβを求める。

【数8】
(省略)

このとき、H+は式(6)の疑似逆行列である。Tは次に示す行列式である。

【数9】
(省略)

この方法によって求められたWとβと式(1)を用いて、分類処理を行う。

一方、近年、スマートフォンをはじめとした携帯端末(Portable/Wearable Computing Device: P/WCD)が急速に普及し、今後も利用者が増えることが予想される。様々なアプリケーションがかかる携帯端末に向けて開発され、電話やメールに限らず多くの場面で利用されている。

したがって、機械学習の手法を取り入れたアプリケーションの一つとして察知エージェントを携帯端末で実行できる場合、ユーザの様々な情報を察知して、その情報を基にユーザに役立つ情報の提供や、問題解決を行うことが可能である。

Field of industrial application (In Japanese)

本発明は、察知エージェントシステムに関し、特に携帯して利用可能な情報処理機能を有する通信機器や情報機器(以降これらを携帯端末と称す)を用いた察知エージェントシステムに関する。さらに、察知エージェントシステムにおける機械学習方法、及びこれを実施するためのプログラムに関する。

Scope of claims (In Japanese)
【請求項1】
 
携帯端末を用いた察知エージェントシステムであって、
携帯端末と、
前記携帯端末に接続されるサーバを有し、
前記携帯端末は、
ユーザから取得される情報から取得した特徴ベクトルを暗号化し、次いで、前記暗号化された特徴ベクトルをニューラルネットワークの入力層として前記サーバに送信し、
前記サーバは、
前記暗号化された特徴ベクトルを受信して、前記ニューラルネットワークの入力層から隠れ層を計算し、
前記隠れ層の計算結果を前記携帯端末に送信し、
前記携帯端末は、更に、前記サーバからの隠れ層の計算結果から出力層の計算を行う、
ことを特徴とする察知エージェントシステム。

【請求項2】
 
携帯端末を用いた察知エージェントシステムであって、
携帯端末と、
前記携帯端末に接続されるサーバを有し、
前記携帯端末は、
ユーザから取得される情報から取得した特徴ベクトルを第1の鍵により暗号化し、次いで、前記暗号化された特徴ベクトルをニューラルネットワークの入力層として前記サーバに送信し、
前記サーバは、
前記暗号化された特徴ベクトルを受信して、大きな乱数行列から部分重み行列を決定するための第2の鍵を用い、前記第2の鍵により決定される部分重み行列を用いて前記ニューラルネットワークの入力層から隠れ層を計算し、前記隠れ層の計算結果を前記携帯端末に送信し、
前記携帯端末は更に、前記隠れ層の計算結果の要素のうちその後の処理に用いない要素を決定するための第3の鍵を用いて、前記隠れ層の計算結果の要素を隠す処理を行い、その後、出力層の計算を行う、
ことを特徴とする察知エージェントシステム。

【請求項3】
 
請求項2において、
前記第1の鍵により、前記ユーザからのデータがベクトル置換によりを暗号化される、
ことを特徴とする察知エージェントシステム。

【請求項4】
 
請求項1乃至3において、
前記ニューラルネットワークは、機械学習アルゴリズムであって、
前記機械学習アルゴリズムは、処理フェーズとして、学習フェーズと、識別分類フェーズを有する、
ことを特徴とする察知エージェントシステム。

【請求項5】
 
請求項1において、
さらに、コンピュータを有し、
前記コンピュータは、学習フェーズとして、
前記携帯端末において前記暗号化に用いる複数の暗号鍵と、前記複数の暗号鍵に対応して前記出力層の計算に用いる複数の重みβを生成し、更に
前記サーバにおいて前記暗号化された特徴ベクトルに対して隠れ層の計算をするための重みWとバイアスbを生成する、
ことを特徴とする携帯端末を用いた察知エージェントシステム。

【請求項6】
 
請求項5において、
さらに、識別分類フェーズとして、
前記携帯端末は、前記複数の暗号鍵によりランダムに決定した暗号鍵を用いて、ユーザの入力した特徴ベクトルを暗号化し、
前記サーバは、前記暗号化された特徴ベクトルを、前記重みWとバイアスbを用いて隠れ層の計算をし、
前記携帯端末は、更に前記サーバにおける隠れ層の計算結果に対し、前記暗号化に用いた暗号鍵に対応する重みβを用いて出力層の計算を行う、
ことを特徴とする携帯端末を用いた察知エージェントシステム。

【請求項7】
 
請求項1乃至6の何れかにおいて、
前記サーバは、クラウドサーバであって、
前記携帯端末はインターネットを通して前記サーバに接続する、
ことを特徴とする携帯端末を用いた察知エージェントシステム。

【請求項8】
 
請求項2において、
さらに、コンピュータを有し、
前記コンピュータは、学習フェーズとして、
隠れニューロン数を決定し、
ユーザから取得される情報から取得した特徴ベクトルを暗号化するための第1の鍵と、
大きな乱数行列から部分重み行列を決定するための第2の鍵と、隠れ層の計算結果の要素のうちその後の処理に用いない要素を決定するための第3の鍵を生成し、更に出力層の重みを算出する、
ことを特徴とする携帯端末を用いた察知エージェントシステム。

【請求項9】
 
請求項8において、
さらに、識別分類フェーズとして、
前記携帯端末は、
前記第1、第2、第3の鍵と前記出力層の重みを保存し、前記第1の鍵を用いて、前記特徴ベクトルを暗号化し、
前記暗号化された特徴ベクトルと、前記第2の鍵及び隠れニューロン数を前記サーバに送信し、
前記サーバは、
前記第2の鍵及び隠れニューロン数により隠れ層の重みを求め、隠れ層を計算して携帯端末に送信し、更に
前記携帯端末は、前記計算された隠れ層の出力から前記第3の鍵により後の計算に用いない要素を決定する、
ことを特徴とする携帯端末を用いた察知エージェントシステム。

【請求項10】
 
携帯端末を用いた察知エージェントシステムにおける機械学習方法であって、
学習フェーズと識別分類フェーズを有し、
前記学習フェーズとして、コンピュータによる、
前記携帯端末における転置式暗号化のための異なるn個の暗号鍵(key1-keyn)と、前記暗号鍵に対応して、ニューラルネットワークの出力層の計算のための重みβを生成し、更に、サーバにおける前記ニューラルネットワークの隠れ層の計算に用いるニューロンの重みWとバイアスbを生成するステップと、
前記識別分類フェーズとして、
前記携帯端末による前記n個の暗号鍵をランダムに用いて、特徴ベクトルを暗号化するステップと、
前記サーバによる前記暗号化された特徴ベクトルを前記ニューロンの重みWとバイアスbを用いて前記ニューラルネットワークの隠れ層の計算をするステップと、
前記携帯端末により更に、前記隠れ層の計算結果に対し、前記特徴ベクトルを暗号化に用いた暗号鍵に対応する重みβを用いて前記ニューラルネットワークの出力層の計算を行うステップを、
有することを特徴とする機械学習方法。

【請求項11】
 
携帯端末を用いた察知エージェントシステムにおける機械学習方法であって、
学習フェーズと、識別分類フェーズを有し、
前記学習フェーズとして、
コンピュータによる、
隠れニューロン数を決定するステップと、
ユーザから取得される情報から取得した特徴ベクトルを暗号化するための第1の鍵と、
大きな乱数行列から部分重み行列を決定するための第2の鍵と、隠れ層の計算結果の要素のうちその後の処理に用いない要素を決定するための第3の鍵を生成するステップと
出力層の重みを算出するステップを有し、
前記携帯端末に第1、第2、第3の鍵と前記出力層の重みを保存するステップを有し、
前記識別分類フェーズとして、
前記携帯端末による前記第1の鍵を用いて、前記特徴ベクトルを暗号化するステップと、
暗号化された特徴ベクトルと、前記第2の鍵及び隠れニューロン数をサーバに送信するステップと、
前記サーバにより、前記第2の鍵及び隠れニューロン数により隠れ層の重みを求め、隠れ層を計算して携帯端末に送信するステップと、
携帯端末で、前記計算された隠れ層の出力から前記第3の鍵により後の計算に用いない要素を決定し、更に出力層の計算を行うステップを有する、
ことを特徴とする機械学習方法。

【請求項12】
 
携帯端末とサーバを有する察知エージェントシステムにおける機械学習方法を実行するプログラムであって、
コンピュータに、
前記携帯端末における転置式暗号化のための異なるn個の暗号鍵(key1-keyn)と、前記暗号鍵に対応して、ニューラルネットワークの出力層の計算のための重みβを生成し、更に、サーバにおける前記ニューラルネットワークの隠れ層の計算に用いるニューロンの重みWとバイアスbを生成するステップを実行させ、
前記携帯端末に、
前記n個の暗号鍵をランダムに用いて、特徴ベクトルを暗号化するステップを実行させ、
前記サーバに
前記暗号化された特徴ベクトルを前記ニューロンの重みWとバイアスbを用いて前記ニューラルネットワークの隠れ層の計算をするステップを実行させ、更に、
前記携帯端末に、
前記隠れ層の計算結果に対し、前記特徴ベクトルを暗号化に用いた暗号鍵に対応する重みβを用いて前記ニューラルネットワークの出力層の計算を行うステップを実行させる、
ことを特徴とするプログラム。

【請求項13】
 
携帯端末を用いた察知エージェントシステムにおける機械学習方法を実行するプログラムであって、
学習フェーズと、識別分類フェーズを有し、
前記学習フェーズとして、
コンピュータに、
隠れニューロン数を決定させるステップと、
ユーザから取得される情報から取得した特徴ベクトルを暗号化するための第1の鍵と、
大きな乱数行列から部分重み行列を決定するための第2の鍵と、隠れ層の計算結果のうちその後の処理に用いない要素を決定するための第3の鍵を生成するステップと
出力層の重みを算出するステップを実行させ、
前記携帯端末に前記第1、第2、第3の鍵と前記出力層の重みを保存させるステップを実行させ、更に、
前記識別分類フェーズとして、
前記携帯端末に、
前記第1の鍵を用いて、前記特徴ベクトルを暗号化させるステップと、
暗号化された特徴ベクトルと、前記第2の鍵及び隠れニューロン数をサーバに送信させるステップを実行させ、
前記サーバに、
前記第2の鍵及び隠れニューロン数により隠れ層の重みを求め、隠れ層を計算して携帯端末に送信させるステップを実行させ、更に
前記携帯端末に、
前記隠れ層の計算結果のうちその後の処理に用いない要素を前記第3の鍵を用いて決定させ、その後、出力層を計算させる、
ことを特徴とするプログラム。
IPC(International Patent Classification)
F-term
Drawing

※Click image to enlarge.

JP2017120278thum.jpg
State of application right Published
(In Japanese)本技術について、ライセンスや共同研究等をご希望の方は、下記「問合せ先」まで直接お問い合わせください。


PAGE TOP

close
close
close
close
close
close
close