TOP > 国内特許検索 > 抽出システム > 明細書

明細書 :抽出システム

発行国 日本国特許庁(JP)
公報種別 特許公報(B2)
特許番号 特許第4593966号 (P4593966)
公開番号 特開2005-322120 (P2005-322120A)
登録日 平成22年9月24日(2010.9.24)
発行日 平成22年12月8日(2010.12.8)
公開日 平成17年11月17日(2005.11.17)
発明の名称または考案の名称 抽出システム
国際特許分類 G06F  17/30        (2006.01)
FI G06F 17/30 320D
G06F 17/30 170A
請求項の数または発明の数 4
全頁数 19
出願番号 特願2004-140840 (P2004-140840)
出願日 平成16年5月11日(2004.5.11)
新規性喪失の例外の表示 特許法第30条第1項適用 2004年3月19日 言語処理学会発行の「言語処理学会第10回年次大会 併設ワークショップ「固有表現と専門用語」発表論文集」に発表
審査請求日 平成19年4月5日(2007.4.5)
特許権者または実用新案権者 【識別番号】301022471
【氏名又は名称】独立行政法人情報通信研究機構
発明者または考案者 【氏名】村田 真樹
【氏名】馬 青
【氏名】白土 保
【氏名】井佐原 均
個別代理人の代理人 【識別番号】100103827、【弁理士】、【氏名又は名称】平岡 憲一
【識別番号】100094662、【弁理士】、【氏名又は名称】穂坂 和雄
【識別番号】100096530、【弁理士】、【氏名又は名称】今村 辰夫
審査官 【審査官】岩間 直純
参考文献・文献 特開平09-237277(JP,A)
特開平08-006971(JP,A)
中渡瀬秀一,複合語からの類義語抽出法,情報処理学会研究報告,日本,社団法人情報処理学会,2002年 3月15日,Vol.2002,No.28,pp.39-46
河原大輔,用言と直前の格要素の組を単位とする格フレームの自動構築,自然言語処理,日本,言語処理学会,2002年 1月10日,第9巻,第1号,pp.3-19
調査した分野 G06F 17/30
特許請求の範囲 【請求項1】
入力する複数の少数の用語である入力正例と、
一定量の文書データを格納したデータベースと、
入力された前記入力正例を前記データベースで全文検索し、複数の前記入力正例の周辺に出現したパターンを抽出するパターン抽出部と、
前記パターン抽出部で抽出したパターンを前記データベースで全文検索し、該パターンにマッチする文のうち、前記入力正例が位置していた場所にある表現を抽出すると同時にスコアの大きい順にソートする用語抽出部とを備え、
前記用語抽出部は、前記スコアの算出に前記パターンで抽出される表現での入力正例の割合(pi )に前記パターンが出現した前記入力正例の個数(fi )を前記入力正例の個数(ni )で割った値を掛けた値(pi ×fi /ni )を用いることを特徴とした抽出システム。
【請求項2】
入力する複数の少数の用語である入力正例と、
一定量の文書データを格納したデータベースと、
入力された前記入力正例を前記データベースで全文検索し、複数の前記入力正例の周辺に出現したパターンを抽出するパターン抽出部と、
前記パターン抽出部で抽出したパターンを前記データベースで全文検索し、該パターンにマッチする文のうち、前記入力正例が位置していた場所にある表現を抽出する用語抽出部とを備え、
前記用語抽出部は、前記入力正例の共通部分文字列を持った表現を抽出することを特徴とした抽出システム。
【請求項3】
前記入力正例として複数の少数の二項以上の用語データを入力し、前記用語抽出部で二項以上の用語の表現を抽出することを特徴とした請求項1又は2記載の抽出システム。
【請求項4】
入力する複数の少数の二項以上の用語データである入力正例と、
一定量の文書データを格納したデータベースと、
入力された前記入力正例を前記データベースで全文検索し、複数の前記入力正例の周辺に出現したパターンを抽出するパターン抽出部と、
前記パターン抽出部で抽出したパターンを前記データベースで全文検索し、該パターンにマッチする文のうち、前記入力正例が位置していた場所にある二項以上の用語の表現を抽出すると同時にスコアの大きい順にソートする用語抽出部とを備え、
前記用語抽出部は、前記スコアの算出に前記抽出した複数のパターンのデータの組み合わせを用いることを特徴とした抽出システム。
発明の詳細な説明 【技術分野】
【0001】
本発明は、ユーザが入力した少数の単語と同じ分野の用語を収拾して出力する抽出システムに関する。
【0002】
近年、質問応答処理システム(下記文献(1) 参照)において、固有名詞を取り出すような固有表現抽出の技術は必然的に必要な技術となっており、生物情報処理分野でタンパク質表現の抽出が重要視されそれに関する研究が盛んになっている(下記文献(2) 参照)ように、固有表現抽出(固有名詞、数字等の抽出)、専門用語抽出などの研究は非常に重要なものとなってきている。また、固有表現、専門用語に関する技術・考え方は、新しい分野に適用されつつあり、また、これからも適用されるもので、用語の種類は極めて多様なもの、多彩なものとなりつつある。
【0003】
文献(1):村田真樹“質問応答システムの現状と展望”電子情報通信学会学会誌, Vol.86, No.12, (2003),pp.959-963。
【0004】
文献(2):Tomohiro Mitsumori, Sevrani Fation, Masaki Murata, Kouichi Doi, and Hirohumi Doi, “Boundary correction of protein names adapting heuristic rules ”Fifth International Conference on Intelligent Text Processing and Computational Linguistics(CICLing 2004),(2004)。
【0005】
そこで、本発明では、多様な用語に関する、用語抽出の評価データを作成することができるものである。このデータでは、用語データも極力漏れの少ない形で作成されており、用語抽出の実験において、再現率・適合率を算出するなどの性能評価に用いることができるものである。本発明では、このデータの説明とこのデータを利用した簡単な用語抽出の評価実験について述べる。さらに、可視化機能を有する用語抽出の応用システムについても述べる。この応用システムは、ユーザが入力した数語の単語と同じ分野の用語を約20秒で収集して可視化して提示するシステムで実用的でかつ有益なものである。
【背景技術】
【0006】
従来、少数の入力用語(入力正例)から、該入力用語と関連した用語を抽出することは、処理に時間がかかり、関連した用語を正確に抽出できないものであった。
【0007】
また、近年、質問応答の研究が重要視されつつあるが、質問応答システムでは、例えば、国名と首都名の対のデータのような二項データ(表2参照)をあらかじめ具備していれば、そういう関係の二項データでの質問応答を高性能に処理することができるものであった(例えば、非特許文献1参照)。二項データは、そういうシステムにも利用できるし、また、そういうシステムのために作成する二項データ抽出システムがあった(例えば、非特許文献2、3参照)。

【非特許文献1】Michael Fleischman,Eduard Hovy,and Abdessamad Echihabi "Offline strategies for online question answering:Answering questions before they are asked" Proceedings of the 41st Annual Meeting of the Association for Computational Linguistics (eds. Erhard Hinrichs and Dan Roth),(2003),pp.1-7 。
【非特許文献2】Sergey Brin "Extracting patterns and relations from the world wide web" WebDB Workshop at 6th International Conference on Extending Database Technology,EDBT'98,(1998)。
【非特許文献3】安藤まや, 関根聡, 石崎俊 "定型表現を利用した新聞記事からの下位概念単語の自動抽出" 情報処理学会自然言語処理研究会 2003-NL-157,(2003) 。
【発明の開示】
【発明が解決しようとする課題】
【0008】
上記従来のものは、入力した複数の用語と同じ分野の語を高速に、しかも正確に収集できるものではなかった。
【0009】
本発明は上記問題点の解決を図り、ユーザが入力した複数の語と同じ分野の用語を高速に、且つ正確に収集することを目的とする。
【課題を解決するための手段】
【0010】
図1は本発明の抽出システムである。図1中、1はパターン抽出部、2は用語抽出部、Dはデータベースである。
【0011】
本発明は、上記従来の課題を解決するため次のような手段を有する。
【0012】
(1):入力する複数の少数の用語である入力正例と、一定量の文書データを格納したデータベースDと、入力された前記入力正例を前記データベースで全文検索し、複数の前記入力正例の周辺に出現したパターンを抽出するパターン抽出部1と、前記パターン抽出部1で抽出したパターンを前記データベースDで全文検索し、該パターンによって抽出される表現を抽出する用語抽出部2とを備え、前記用語抽出部2は、前記入力正例になかった字種を含む表現を抽出しないようにする。このため、入力正例と同一分野の用語を高速で、且つ確実に収集することができる。
【0013】
(2):入力する複数の少数の用語である入力正例と、一定量の文書データを格納したデータベースDと、入力された前記入力正例を前記データベースDで全文検索し、複数の前記入力正例の周辺に出現したパターンを抽出するパターン抽出部1と、前記パターン抽出部1で抽出したパターンを前記データベースDで全文検索し、該パターンによって抽出される表現を抽出すると同時にスコアScoreの大きい順にソートする用語抽出部2とを備え、前記用語抽出部2は、前記スコアScoreの算出に前記パターンで抽出される表現での入力正例の割合(pi )に前記パターンが出現した前記入力正例の個数(fi )を前記入力正例の個数(ni )で割った値を掛けた値(pi ×fi /ni )を用いる。このため、入力正例と同一分野の用語を確実に収集することができる。
【0014】
(3):入力する複数の少数の用語である入力正例と、一定量の文書データを格納したデータベースDと、入力された前記入力正例を前記データベースDで全文検索し、複数の前記入力正例の周辺に出現したパターンを抽出するパターン抽出部1と、前記パターン抽出部1で抽出したパターンを前記データベースDで全文検索し、該パターンによって抽出される表現を抽出すると同時にスコアScoreの大きい順にソートする用語抽出部2とを備え、前記用語抽出部2は、前記入力正例になかった字種を含む表現を抽出しないようにすると共に、前記スコアScoreの算出に前記パターンで抽出される表現での入力正例の割合(pi )に前記パターンが出現した前記入力正例の個数(fi )を前記入力正例の個数(ni )で割った値を掛けた値(pi ×fi /ni )を用いる。このため、入力正例と同一分野の用語をより高速で、且つより確実に収集することができる。
【0015】
(4):入力する複数の少数の用語である入力正例と、一定量の文書データを格納したデータベースDと、入力された前記入力正例を前記データベースDで全文検索し、複数の前記入力正例の周辺に出現したパターンを抽出するパターン抽出部1と、前記パターン抽出部1で抽出したパターンを前記データベースDで全文検索し、該パターンによって抽出される表現を抽出する用語抽出部2とを備え、前記用語抽出部2は、前記入力正例の末尾の形態素になかった品詞を含む表現を抽出しないようにする。このため、入力正例と同一分野の用語を高速で、且つ確実に収集することができる。
【0016】
(5):入力する複数の少数の用語である入力正例と、一定量の文書データを格納したデータベースDと、入力された前記入力正例を前記データベースDで全文検索し、複数の前記入力正例の周辺に出現したパターンを抽出するパターン抽出部1と、前記パターン抽出部1で抽出したパターンを前記データベースDで全文検索し、該パターンによって抽出される表現を抽出する用語抽出部2とを備え、前記用語抽出部2は、前記入力正例の共通部分文字列を持たない表現を抽出しないようにする。このため、入力正例と同一分野の用語を高速で、且つ確実に収集することができる。
【0017】
(6):前記(1)~(5)の抽出システムにおいて、前記用語抽出部2が抽出しないようにする表現をユーザが指定できるようにする。このため、入力正例と同一分野の用語を高速で、より確実に収集することができる。
【0018】
(7):前記(1)~(6)の抽出システムにおいて、前記入力正例として複数の少数の二項以上の用語データを入力し、前記用語抽出部2で二項以上の用語の表現を抽出する。このため、入力正例と同一分野の二項以上の用語を確実に収集することができる。
【0019】
(8):入力する複数の少数の二項以上の用語データである入力正例と、一定量の文書データを格納したデータベースDと、入力された前記入力正例を前記データベースDで全文検索し、複数の前記入力正例の周辺に出現したパターンを抽出するパターン抽出部1と、前記パターン抽出部1で抽出したパターンを前記データベースDで全文検索し、該パターンによって抽出される二項以上の用語の表現を抽出すると同時にスコアの大きい順にソートする用語抽出部2とを備え、前記用語抽出部2は、前記スコアの算出に前記抽出した複数のパターンのデータの組み合わせを用いる。このため、的確なスコアが算出でき入力正例と同一分野の二項以上の用語を確実に収集することができる。
【0020】
(9):複数の少数の用語である入力正例を入力する手順と、一定量の文書データをデータベースDに格納する手順と、入力された前記入力正例を前記データベースで全文検索し、複数の前記入力正例の周辺に出現したパターンを抽出するパターン抽出手順と、前記抽出したパターンを前記データベースで全文検索し、該パターンによって抽出される表現を抽出する用語抽出手順と、前記入力正例になかった字種を含む表現を抽出しないようにする用語抽出手順とを、コンピュータに実行させるためのプログラムとする。このため、このプログラムをコンピュータにインストールすることで、入力正例と同一分野の用語を高速、且つ確実に収集できる抽出システムを容易に提供することができる。
【発明の効果】
【0021】
本発明によれば次のような効果がある。
【0022】
(1):パターン抽出部で入力された入力正例をデータベースで全文検索し、複数の前記入力正例の周辺に出現したパターンを抽出し、用語抽出部で前記パターン抽出部1で抽出したパターンをデータベースDで全文検索し、該パターンによって抽出される表現を抽出するとき、前記入力正例になかった字種を含む表現を抽出しないようにするため、入力正例と同一分野の用語を高速で、且つ確実に収集することができる。
【0023】
(2):パターン抽出部で入力された入力正例をデータベースDで全文検索し、複数の前記入力正例の周辺に出現したパターンを抽出し、用語抽出部で前記パターン抽出部で抽出したパターンを前記データベースDで全文検索し、該パターンによって抽出される表現を抽出すると同時にスコアScoreの大きい順にソートするとき、前記スコアScoreの算出に前記パターンで抽出される表現での入力正例の割合(pi )に前記パターンが出現した前記入力正例の個数(fi )を前記入力正例の個数(ni )で割った値を掛けた値(pi ×fi /ni )を用いるため、入力正例と同一分野の用語を確実に収集することができる。
【0024】
(3):パターン抽出部で入力された入力正例をデータベースDで全文検索し、複数の前記入力正例の周辺に出現したパターンを抽出し、用語抽出部で前記パターン抽出部で抽出したパターンを前記データベースDで全文検索し、該パターンによって抽出される表現を抽出すると同時にスコアScoreの大きい順にソートするとき、前記入力正例になかった字種を含む表現を抽出しないようにすると共に、前記スコアScoreの算出に前記パターンで抽出される表現での入力正例の割合(pi )に前記パターンが出現した前記入力正例の個数(fi )を前記入力正例の個数(ni )で割った値を掛けた値(pi ×fi /ni )を用いるため、入力正例と同一分野の用語を高速で、且つより確実に収集することができる。
【0025】
(4):パターン抽出部で入力された入力正例をデータベースDで全文検索し、複数の前記入力正例の周辺に出現したパターンを抽出し、用語抽出部で前記パターン抽出部で抽出したパターンを前記データベースDで全文検索し、該パターンによって抽出される表現を抽出するとき、前記入力正例の末尾の形態素になかった品詞を含む表現を抽出しないようにするため、入力正例と同一分野の用語を高速で、且つ確実に収集することができる。
【0026】
(5):パターン抽出部で入力された入力正例をデータベースDで全文検索し、複数の前記入力正例の周辺に出現したパターンを抽出し、用語抽出部で前記パターン抽出部で抽出したパターンを前記データベースDで全文検索し、該パターンによって抽出される表現を抽出するとき、前記入力正例の共通部分文字列を持たない表現を抽出しないようにするため、入力正例と同一分野の用語を高速で、且つ確実に収集することができる。
【0027】
(6):用語抽出部が抽出しないようにする表現をユーザが指定するため、入力正例と同一分野の用語を高速で、より確実に収集することができる。
【0028】
(7):入力正例として複数の少数の二項以上の用語データを入力し、用語抽出部で二項以上の用語の表現を抽出するため、入力正例と同一分野の二項以上の用語を確実に収集することができる。
【0029】
(8):パターン抽出部で入力された入力正例をデータベースDで全文検索し、複数の前記入力正例の周辺に出現したパターンを抽出し、前記パターン抽出部で抽出したパターンを前記データベースDで全文検索し、用語抽出部で該パターンによって抽出される二項以上の用語の表現を抽出すると同時にスコアの大きい順にソートするとき、前記スコアの算出に前記抽出した複数のパターンのデータの組み合わせを用いるため、的確なスコアが算出でき、入力正例と同一分野の二項以上の用語を確実に収集することができる。
【発明を実施するための最良の形態】
【0030】
§1:用語抽出の説明
(1):抽出システムの説明
図1は本発明の抽出システムの説明図である。図1において、用語を抽出する抽出システムには、パターン抽出部1、用語抽出部2、データベースDが設けてある。
【0031】
パターン抽出部1は、(入力手段等から)入力された少数の正例(用語)をデータベースDで全文検索し、該少数の正例の周辺に出現したパターンci を抽出するものである。用語抽出部2は、抽出したパターンci をデータベースDで全文検索し、パターンci によって抽出される表現expを抽出すると同時に、抽出した表現expをScore(スコア;評価値)の値の大きい順にソートして(出力手段等に)出力するものである。データベースDは、例えば、新聞、雑誌、Webデータ(ネットワーク上のデータ)等から抽出したデータ(一定量の文書データ)を格納するものである。
【0032】
(フローチャートによる説明)
図2は用語抽出処理フローチャートである。以下図2の処理S1~S3に従って説明する。
【0033】
S1:パターン抽出部1に、入力手段から少数の入力正例が入力される。
【0034】
S2:パターン抽出部1で、入力正例をデータベースDで全文検索し、複数の入力正例の周辺に出現したパターンをci として抽出する。(周辺に出現するパターンの定義は適宜行なう。)
S3:用語抽出部2で、パターン抽出部1で抽出したパターンci をデータベースDで全文検索し、パターンci によって抽出される表現expを抽出すると同時に、抽出した表現expをScoreの値の大きい順にソートして出力手段に出力する。
【0035】
(パターンの例の説明)
1) 国名Aと首都名Bの対(二項データ)の場合の例
・パターン抽出部1に入力される入力正例の例:
日本_東京
中国_北京
韓国_ソウル
シンガポール_シンガポール
ロシア_モスクワ
・パターン抽出部1が抽出する抽出パターンの例:
、Aの首都B
Aの首都B
A・B市に
る。〔B支局〕A
B支局〕A外務省
ただし、左右にA、Bがある場合は、さらにその左右は平仮名文字であることが条件となる。
【0036】
2) 国名Aの場合の例
・入力正例:
日本
中国
朝鮮
タイ
韓国
・抽出パターンの例(1) :(両端とも利用、スピードは遅いが性能は良い)
日、A軍
人のA人女性
日本はAと
〔A通信・
省。駐A大使な
・抽出パターンの例(2) :(片方のみ利用、片方は平仮名文字、スピードは早い)
[..A国]。
【0037】
語。A
[..A国]側
[..A国]伝来
A語入力
ただし、[..A..]は、それ自体が国名Aにマッチすることを意味する。例えば[A国]だとそのマッチした用語の最後が国であることを意味する。
【0038】
(2):用語抽出用評価データの作成の説明
本発明では、抽出システムの精度を求めるために、用語抽出用評価データ(正解データ)を作成した。作成したデータの例を表1と表2に示している。表1は、国名に関するデータで国名を国ごとに行に分けて格納しており、行頭を代表形としてそれ以外は代表形の異表記として同じ行に格納している。表2は、国名と首都名の対のデータで表1と同じく国ごとにデータを行に分けて先頭を代表形としてそれ以外は代表形の異表記として同じ行に格納している。
【0039】
本発明では、表1と表2をそれぞれ一項データ、二項データと呼ぶ。それぞれここで示したようなものを58種類作った。全データの規模を表3に示している。代表形数と代表形+異表記数はそれらの延べ数である。
【0040】
作った58種類のデータは、「太陽系惑星」「衛星」「十二支」「祝日」「スペースシャトル」「大河ドラマ」「相撲関連」「花の名称」「サッカー守備位置」「プロ野球選手名」「世界遺産」「村名と県名の対」「祝日と日付の対」「太陽系惑星と衛星の対」「作曲家と音楽作品の対」などと多様なものである。

表1:一項データの例( 国名データ)
┌────────────────────────┐ │アイスランド アイスランド共和国 ISL │
│アイルランド アイルランド共和国 IRL │
│アゼルバイジャン アゼルバイジャン共和国 AZE│
│アゾレス諸島 │
│アドゥイゲ アドゥイゲ共和国 │
│アフガニスタン アフガニスタン共和国 │
│アメリカ アメリカ合衆国 米国 米 USA │
│... │
└────────────────────────┘

【0041】
【数1】
JP0004593966B2_000002t.gif
表3:データの規模
┌─────────┬─────┬─────┐
│ │一項データ│二項データ│
├─────────┼─────┼─────┤
│データの種類の数 │ 58│ 58│
│代表形数 │ 17696│ 19387│
│代表形+異表記数 │ 26728│ 106850│
└─────────┴─────┴─────┘
(データの作成方法は以下の方法をとった)
a)単一の辞書・参考書などから手入力する。(例:太陽系惑星、衛星、十二支、祝日、スペースシャトル)
b)Webのサイトから入手する。(例:大河ドラマの名称)
c)複数の辞書・参考書またWebのサイトから得た情報を組み合わせる。(例:世界の山、花の名称、商品名)
d)その分野の知識が豊富な人間が知識と記憶によって作成する。(例:サッカー守備位置)
(データの補充、異表記の作成には以下の方法をとった)
a)規則性を持った異表記を自動で生成する。(例:人名から姓を取り出す)
b)規則性がない異表記をWebなどから取得する。(例:世界の山,花の名称,商品名)
c)規則性がない異表記を思いつく範囲で入力する。(例:相撲決り手、星座)
d)その分野の知識が豊富な人間が知識と記憶によって作成する。(例:サッカー守備位置)
データの作成の際には、それぞれのデータごとにその収集方法、異表記作成方法、代表形の基準の定義、異表記の基準の定義、その他のコメント、代表形の網羅度の情報を作成している。例えば、「国名データ」の代表形の基準の定義は「正式名称ではなく最も一般的に使用されるもの(例:フランス共和国→代表形「フランス」)」と記載されている。
【0042】
代表形の網羅度としては、ほぼ100%網羅している、網羅していないなどの情報を与えている。本発明で扱った用語の分類は国名や首都名や太陽系惑星など、用語の個数に限りがあることがわかっているものが多く、それらの場合はいつの時点での用語であるのかをはっきりさせておけば、ほぼ100%網羅しているであろうデータを作ることができる。
【0043】
このため、本発明のデータは、用語抽出の適合率・再現率の精度の計算に用いることができる。データの種類の方は58種類と少なく、世の中の用語の種類すべてから比べるとかなり小さいが、そのデータの種類を犠牲にして、容易に収集できかつある特定の分野内の用語に特定することでその分野内での網羅性をあげて適合率・再現率の精度計算可能なデータを作成しているのである。
【0044】
また、本発明の用語データは普遍的なものであり、用語の自動抽出対象のデータがいかなるものであっても利用できる評価用データである。例えば、毎日新聞から抽出した結果をこのデータで評価をしてもよいし、またWebから抽出した結果をこのデータで評価をしてもよい。
【0045】
一項データは普通の用語リストであるが、二項データは用語の対のデータであり、用語リストというよりは知識のようなものに近い。近年、質問応答の研究が重要視されつつあるが、質問応答システムでもこういう二項データをあらかじめ具備していればそういう関係の二項データでの質問応答を高性能に処理することができる。二項データはそういうシステムにも利用できるし、またそういうシステムのために作成する二項データ抽出システムの評価データにも利用できるのである。
【0046】
(3):用語抽出の具体的な説明
前記(2)により評価データ(正解データ)ができたので、これを使った簡単な用語抽出実験を行なってみた。この実験では網羅性が「ほぼ100%網羅している」となっているデータのうち実験できるように代表形が10個以上あったデータ(一項データで40種類、二項データで44種類)を用いた。ここで行なう実験では、少数の正例を使って学習し多くの正例を取ってくる正例のみによる学習を利用した(例えば、アメリカ、日本等の代表的な少数の国を入力し、他の国を抽出できるかどうかの実験)。
【0047】
ここでの実験では異表記は正例とせず代表形のみを正例とした。入力の少数の正例としては、評価データの代表形で毎日新聞での頻度の多い方から有名そうな用語を人手で五つ選んだ。CD毎日新聞(コンパクトディスクに記録された毎日新聞)1991-2000年度版を正例の取得対象のデータ(データベース)Dとした。抽出の手順は以下のとおりである。
【0048】
(1) 少数の正例をデータベースDで全文検索し、複数の正例の周辺に出現したパターンをci として抽出する(正例の周辺に出現するパターンがその正例だけ(一個)の場合は抽出しない)。(周辺に出現するパターンの定義は適宜行なう)。周辺に出現するパターンとして例えば、正例の前後(左右)3文字列を用いる場合は、前後それぞれ文字が1個、2個、3個の場合があるので、1個の正例で9通りのパターンができることになる。また、正例(自分自身)を含めたパターンとすることもできる。
【0049】
(2) 次に抽出したパターンci をデータベースDで全文検索し、パターンci によって抽出される表現expを抽出する。
【0050】
(3) 抽出した表現expをScoreの値の大きい順にソートして出力する。
【0051】
Scoreとして、以下のものがある。
【0052】
・手法1(決定リスト法)
手法1は、抽出した表現expのScoreとして、パターンci の中でpi が最も大きかったパターンのpi を使用するもの。
【0053】
【数2】
JP0004593966B2_000003t.gif
・手法2(ベイズ法)
手法2は、抽出した表現expのScoreとして、全てのパターンci のpi を掛け合わせたものを使用する。
【0054】
【数3】
JP0004593966B2_000004t.gif
・手法3(類似度に基づく方法)
手法3は、抽出した表現expのScoreとして、抽出されたパターンの個数(総数)を用いる。つまり、多くのパターンで抽出されたものほどScoreを大きくする。
【0055】
【数4】
JP0004593966B2_000005t.gif
・手法4(下記研究(3) 参照)
手法4は、抽出した表現expのScoreとして、pi の重みを加えた抽出されたパターンの個数を用いるものである。
【0056】
【数5】
JP0004593966B2_000006t.gif
研究(3):Ellen Riloff and Rosie Jones "Learning dictionaries for information extraction by multi-level bootstrapping" Proceedings of AAAI-99,(1999)。
【0057】
・手法5(下記文献(4) 参照)
手法5は、抽出した表現expのScoreとして、少なくとも一つは確からしくなる値を用いるものである。
【0058】
【数6】
JP0004593966B2_000007t.gif
上記式(5) は、確からしくない(1-pi )を掛け合わせることで一つも確からしくないことになり、そして、これを1から引くと少なくとも一つは確からしくなる。
【0059】
文献(4):村田真樹, 井佐原均 "同義テキストの照合に基づくパラフレーズに関する知識の自動獲得" 情報処理学会自然言語処理研究会 2001-NL-142,(2001) 。
【0060】
ただし、fi はパターンci が出現した入力正例の個数で、pi はパターンci で抽出される表現での入力正例の割合(確からしさ、すなわち確信度となる)である。手法1、2、4、5ではScoreが同じときは、手法3のScoreでソートし、手法3では手法5のScoreでソートする。
【0061】
一項データを使って、パターンとしては、正例の左と先頭のいずれかを含む1~3文字と右側のそれの組み合わせを使って実験を行なった。その結果を表4に示す。
【0062】
【数7】
JP0004593966B2_000008t.gif
表4において、APは、情報検索(下記文献(5) 参照)で用いるaverage precision の平均であり、正解記事を上位から取ったたびに求めた適合率の平均である。本願の内容の場合は、正解正例分を上位から取ったたびに求めた適合率の平均(ただし、入力正例は正解正例から除く)である。
【0063】
RPは、r-precision の平均であり、正解記事数分だけを検索した時に正解の記事が含まれている割合である。本願の内容の場合は、正解正例分だけを抽出した時に正解正例が含まれている割合である。なお、適合率は正解率と同じであり、正解正例が含まれる割合のことである。TPは、上位5個での精度の平均である。
【0064】
(制約に基づく抽出方法の説明)
(a)字種とKRを利用する方法
表4の例で抽出方法には、さらに字種とKRを利用する方法を用いた。ここで、字種とは、漢字、カタカナ、ひらがな、記号、数字などであり、例えば英語だと、アルファベット、数字、記号、単語の先頭が大文字かどうかなどである。
【0065】
字種を利用する方法では、入力した少数(この例では5個)の用語になかった字種を含む表現を抽出しない方法である。例えば、入力した5個の用語にひらがなが無かった場合は、ひらがなを含む表現を抽出しないようにするものである。
【0066】
KRを利用する方法では、pi をpi * fi / ni に置き換えた方法である。この方法の利点は、pi が同じでもfi / ni の値により確信度を変えることができるものである。ただし、ni は入力正例の個数で、手法3のときはKRの場合は1をfi に置き換えた。なお、評価では抽出した結果で正例の異表記は除いた。また、字種による方法以外にも次のような方法もある。
【0067】
(b)品詞に基づく方法
品詞に基づく方法では、例えば、入力表現に名詞しかない場合は出力時に名詞以外の表現を省く、また、入力表現に形容詞しかない場合は出力時に形容詞以外の表現を省くというものである。さらに、表現が複数の単語で構成されている場合は、末尾の単語(形態素)の品詞の情報を使うようにすることができる。
【0068】
(例による説明1)
入力正例として次のものであった場合、
「楽しい」「哀しい」「嬉しい」「とても嬉しい」「とても哀しい」
抽出物として次のものが得られる場合、
「とても」「新しい」「美しい」「とても美しい」「とても難しい」
上記抽出物の表現中の末尾の単語の品詞を推定し、上記入力正例では、末尾の単語の品詞は「形容詞」しかないので、抽出物の中で、末尾の単語の品詞が「形容詞」でない、副詞(「とても」)を除いて出力するようにする。
【0069】
(例による説明2)
入力正例として次のものであった場合、
「楽しい」「歓喜」「悲痛」「悲しい」
上記入力正例では、「形容詞」と「名詞」のように複数種類があった場合は、それらの品詞は出力し、それらの品詞以外の表現は出力しないようにする。
【0070】
なお、前述のような末尾の単語(形態素)の品詞の推定等の品詞情報を得るためには、次のような形態素解析システム(形態素解析手段)が必要になる。
【0071】
・形態素解析システムの説明
日本語を単語に分割するために、用語抽出部2で形態素解析システムを利用することが必要になる。ここではChaSenについて説明する(奈良先端大で開発されている形態素解析システム茶筌http://chasen.aist-nara.ac.jp/index.html.jp で公開されている)。
【0072】
これは、日本語文を分割し、さらに、各単語の品詞も推定してくれる。例えば、「学校へ行く」を入力すると以下の結果を得ることができる。
【0073】
学校 ガッコウ 学校 名詞-一般
へ ヘ へ 助詞-格助詞-一般
行く イク 行く 動詞-自立 五段・カ行促音便 基本形
EOS
このように各行に一個の単語が入るように分割され、各単語に読みや品詞の情報が付与される。
【0074】
(c)共通部分文字列に基づく方法
例えば、入力表現がすべて同じ「しい」という共通末尾表現を持っている場合、出力時に「しい」を持たない表現を省くものである。なお、これは末尾だけでなく、先頭の文字列でも同様にできる。
【0075】
(例による説明)
入力正例として次のものであった場合、
「悲しい」「楽しい」「嬉しい」
抽出されるものが次の場合、
「歓喜」「悲痛」「美しい」「新しい」
上記入力正例の共通部分文字列が「しい」なので、「しい」を持たない「歓喜」と「悲痛」を削除して出力するものである。
【0076】
(d)ユーザによる制約の指定
今までは、入力表現から自動で制約を得る方法でしたが、この制約はユーザにさせることもできる。例えば、ユーザが「漢字のみ」というオプションを選択すると出力では漢字以外の字種を用いた表現を出力しないことができる。また、ユーザが末尾は「しい」というオプションを選択すると出力では「しい」を末尾に持たない表現を出力しないようにすることができる。さらに、ユーザが品詞は名詞というオプションを選択すると出力では名詞以外の表現を出力しないようにする。
【0077】
なお、少数の正例を入力する研究には既に前記研究(3) があり、この研究(3) では抽出方法にブートストラップのアルゴリズムをくっつけて、入力正例を増やすことで精度高くより多くの用語を抽出する方法を使っている。本発明の方法の精度もブートストラップを使うことで改善されるだろう。研究(3) として手法4があるが、その式を少し変えた式やいろいろな工夫をした手法の結果も、評価用データがあるので比較できるのである。本発明の比較では、手法5で字種・KRを利用する方法が最も良いことがわかる。
【0078】
文献(5):村田真樹, 馬青, 内元清貴, 小作浩美, 内山将夫, 井佐原均 "位置情報と分野情報を用いた情報検索" 言語処理学会誌, Vol.7,No.2,(2000) 。
【0079】
次に二項データを使った実験をした。パターンとしては、二項データのどちらが先に出現したかを示す正例の順序と一つ目に出現した正例の左と先頭のいずれかを含む1~3文字と二つの正例の間の表現の組み合わせと正例の順序と二つ目に出現した正例の右と後部のいずれかを含む1~3文字と二つの正例の間の表現の組み合わせを用いた。
【0080】
正例の単語の境界が定まるように正例の左側か右側でパターンの文字列を取り出さない場合は、それらは平仮名文字であることをパターンの条件とした。こちらの実験では手法3で字種・KRを利用する方法の精度が最も良くAPは0.026 、RPは0.040 、TPは0.141 であった。
【0081】
なお、抽出システムを高速化するため、パターンci を「入力正例の左と先頭のいずれかを含む1~3文字でかつ入力正例の右が平仮名文字であるもの、または、入力正例の右と後部のいずれかを含む1~3文字でかつ入力正例の左が平仮名文字であること」とすることができる。
【0082】
§2:二次元表示の説明
(1):表示システムの説明
図3は本発明の表示システムの説明図である。図3において、表示システムには、パターン抽出部1、用語抽出部2、用語表示部3、可視化装置4、データベースDが設けてある。
【0083】
パターン抽出部1は、(入力手段等から)入力された少数の正例(用語)をデータベースDで全文検索し、該少数の正例の周辺に出現したパターンci を抽出するものである。用語抽出部2は、抽出したパターンci をデータベースDで全文検索し、パターンci によって抽出される表現expを抽出すると同時に、抽出した表現expをScore(スコア)の値の大きい順にソートして(出力手段等に)出力するものである。用語表示部3は、各用語に対して、その用語の抽出に使われたパターンを文脈とし、それらの文脈の情報から各用語間の類似度を求めて、用語間の意味的距離を意味する行列を作るものである。可視化装置4は、自己組織化マップ等(二次元表示手段)を用いて二次元の図に表示(可視化)するものである。データベースDは、例えば、新聞、雑誌、Webデータ等から抽出したデータ(一定量の文書データ)を格納するものである。
【0084】
(フローチャートによる説明)
図4は表示処理フローチャートである。以下図4の処理S11~S14に従って説明する。
【0085】
S11:パターン抽出部1に、入力手段から少数の入力正例が入力される。
【0086】
S12:パターン抽出部1で、入力正例をデータベースDで全文検索し、複数の入力正例の周辺に出現したパターンをci として抽出する。(周辺に出現するパターンの定義は適宜行なう。)
S13:用語抽出部2で、パターン抽出部1で抽出したパターンci をデータベースDで全文検索し、パターンci によって抽出される表現(用語)expを抽出すると同時に、抽出した表現expをScoreの値の大きい順にソートして用語表示部3に渡す。
【0087】
このとき、抽出された各用語にはどのパターンが使われたかのデータもくっつけておく。
【0088】
S14:用語表示部3で、各用語に対して、その用語の抽出に使われたパターンを文脈とし、それらの文脈の情報から各用語間の類似度を求め(同じパターンを持つ用語は類似度を高くする)て、用語間の意味的距離を意味する行列を作りこの行列を可視化装置4(自己組織化マップSOM_PAKツール)に入力し、二次元マップでの各用語の座標を定める。そして、求まった座標に用語を表示した図を出力する。
【0089】
(2):可視化装置(自己組織化マップSOM_PAKツール)の説明
意味マップの自動構築マシンとしてはKohonen の自己組織化型神経回路網モデルである自己組織化マップ(Self-Organizing Map ,略してSOM)(Kohonen, T.: Self-organizing maps, 2nd edition,Springer, 1997.)を用いる。SOMは高次元入力を持つ2次元配列のノードで構成され、以下に述べる自己組織化によって、高次元データをその特徴を反映するように2次元空間にマッピングすることができる。
【0090】
【数8】
JP0004593966B2_000009t.gif
但し、参照ベクトルの要素μijはノードiと入力要素ξj の間の重みであり、自己組織過程において少しずつ修正される。入力ベクトルxが与えられたとき、まず、その入力をすべてのノードの参照ベクトルと比較し、ユークリッド距離の一番短いノードを活性化する。マッピング処理段階ではこのノードのみ活性化される。このノードを勝者ノードと呼ぶ。即ち、勝者ノードcは以下の式(6) のように選ばれる。
【0091】
【数9】
JP0004593966B2_000010t.gif
一方、自己組織化過程では、グローバルに自己組織化が行われるように、勝者ノードだけでなくその近傍のノードも活性化させ、リラックス処理を行う。即ち、活性化されたすべてのノードに対し、それらの参照ベクトルを入力ベクトルに近づくように修正を行う。
【0092】
【数10】
JP0004593966B2_000011t.gif
ここで、tは学習回数で、hci(t) は、例えば以下の式(8) のように定義された近傍関数である。
【0093】
【数11】
JP0004593966B2_000012t.gif
従って、項∥rc -ri ∥は近傍ノードiが勝者ノードcから離れて行くにつれ、hciが小さくなりmi (t) の修正量が小さくなることを意味する。また、α(t) は学習率で、σ(t) は近傍の大きさ(半径)である。これらは時間と共に単調に減少していく関数であればよい。
【0094】
通常、学習過程は「整列」フェーズと「微調整」フェーズからなる。「整列」フェーズにおいてはα(t) とσ(t) の初期値を共に大きく取り、時間と共に減少して行く。ノードの配置の基本形はこのフェーズで形成される。一方、残りのフェーズでは、α(t) とσ(t) は小さい値のまま長時間をかけて、初期フェーズで形成された基本形を微調整する。
【0095】
本発明者らがこれまでに提案してきた可視化装置の例として、用語(ノード)間の意味的に近い単語どうしは近いところに、意味的に遠い単語どうしは離れたところに配置されるような、単言語の意味マップの自動構築手法がある(例えば、以降に記載の文献(6) 、及び Ma, Q., Zhang, M., Murata, M., Zhou, M., Isahara, H.: Self-Organizing Chinese and Japanese Semantic Maps, The 19th International Conference on Computational Linguistics (COLING'2002), Taiwan, pp. 605-611, August,2002. 参照)。
【0096】
(3):具体例による説明
前記の用語抽出手法は、文字列の全文検索を使うので高速に計算できる特徴を持つ。この文字列の全文検索には、suffix arrayという高速検索アルゴリズムがある。そこで前記の手法を用いた簡易な応用システムを開発した。まず、ユーザは、好きな数語を入力する。この数語を少数の正例として前記の字種・KRを利用する手法5を利用して入力の数語と同じ分野の語を収集する。
【0097】
この時高速化のため前記§1の(3)(用語抽出の具体的な説明)のアルゴリズムでパターンci は、より簡易なものにし、また途中の計算過程で何回かデータを閾値で足切りして減らしている。なお、正確には前記の実験のプログラムも少々は足切りなどをしている。それでも前記のものは一つ10時間ぐらいかかる。
【0098】
得られた同じ分野の語を見やすいように可視化して出力する。可視化には、下記文献(6) の意味マップを用いた。意味マップの利用では高速化のため学習回数を1/10にしている。それ以外はすべて文献(6) と同じ方法を用いた。文脈にはパターンci から正例の内部表現を使う素性を除いたものを利用した。なお、本発明では用語抽出に用いたパターンci を意味マップの文脈に用いたが、パターンci 以外に各用語の文脈を大規模データから抽出し直して意味マップの表示をするという方法もありえる。
【0099】
この実装で、現在約20秒での動作を実現している。(現在Perlでの実装部分もあるし今後のアルゴリズムの改良によっても速度をあげることは可能と思われる。)このシステムの性能は高速化で削った情報のため、一項データでは表4より精度が下がりAPは0.111 、RPは0.164 、TPは0.310 であった。
【0100】
文献(6):馬青,神崎享子,村田真樹,内元清貴,井佐原均“日本語名詞の意味マップの自己組織化”情報処理学会論文誌, Vol.42, No.10,(2001),pp.2379-2391 。
【0101】
(具体例(1) )
図5はユーザによる「色」に関する用語抽出の説明図である。図5において、実際にユーザがこのシステムに「赤色」「青色」「黄色」「紫色」「茶色」を入力した場合の出力(上位20個の出力)を示してある。ここでは入力(入力正例)には“●”の記号を付けている。また各表現につけている数字は抽出手法で何番目に得られたかを示している。一般には意味マップにより類似したパターンを持つ表現が近くに配置され見やすくなる。この例だと左上の「赤色」の近くに「朱色」「紅色」が出現しており、類似した表現が近くに出現している場合があることがわかる。また、右の上から真ん中辺りに「音色」「異色」「同色」という色ではない表現が固まっているが、意味マップでの可視化ではこのように不適合な表現をどこかに集めてくれて(順位では集まらない)それを除けばよいということを見やすく示す効果もある。
【0102】
(具体例(2) )
前記の例等では、入力正例として名詞を用いる説明をしたが、形容詞などの評価表現も扱うことができる。例えば、パターン抽出部へ入力する入力正例として、「●悲しい」「●楽しい」「●哀しい」「●嬉しい」だと、用語抽出部の出力として次の用語を得ることができる。
【0103】
「新しい」「美しい」「難しい」「厳しい」「激しい」「優しい」「寂しい」「珍しい」「苦しい」「正しい」「貧しい」「詳しい」「乏しい」「涼しい」「親しい」「欲しい」「悔しい」「真新しい」「忙しい」「著しい」「等しい」「重苦しい」「美味しい」「惜しい」「礼儀正しい」「心優しい」「生易しい」「堅苦しい」
このように、入力する用語は、名詞ばかりでなく、どのようなものも扱うことができる。
【0104】
なお、可視化装置として自己組織化マップの方法について説明したが、主成分分析を用いる方法など他の方法を使用することもできる。また、入力正例に“●”の記号を付けているが、この他に、入力正例がわかるように何か別の印を付けるか色をかえるようにしてもよい。
【0105】
ここまでの例では、文脈の情報から、意味的距離を意味する行列を作り、これを可視化装置に入力する例を示したが、可視化装置自体は、他の行列を入力しても可視化することができる。例えば、ある語に対する文脈の情報を右に並べたような次の行列を入力して用語を可視化することも可能である。

文脈1 文脈2 文脈3 ・・・・ 文脈N
用語1 2 0 1 1
用語2 2 1 1 2
・・・・
用語M 0 0 1 0

上記行列の各要素の数字は、その文脈でのその用語の出現回数を意味する。また、主成分分析による手法でも、このような形式のものを入力として可視化することが可能である。
【0106】
(4):まとめ
以上のように、本発明では、用語抽出の際の評価に用いることができるデータを作成した。この評価データとして「国名」や「国名と首都名の組」など一項データと二項データを作成した。本発明のデータは用語の網羅性が高く、どのようなデータからの用語抽出においても再現率・適合率を算出するなどの性能評価ができるものである。また、本願で作成した二項データは、用語リストというよりは知識に近いもので、質問応答などの知識処理の研究にも用いることができるものである。
【0107】
また、本願では簡単な用語抽出実験を行ない、種々の用語抽出方法の比較を行なった。一項データでは字種・KRを利用する手法5(文献(4) )が最も良く、二項データでは字種・KRを利用する手法3(類似度に基づく方法)が最も良かった。さらに、ユーザは好きな数語を入力すると約20秒でその数語と同じ分野の語を収集して可視化して表示する応用システムを示した。このシステムでは類似した用語が集まり、また不要な用語も集まる傾向があり、抽出結果の用語の表示としては便利な特徴を持っている。
【0108】
なお、上記の例では、入力正例として2つの用語の対(二項データ)を用いた説明をしたが、3つ以上の用語の対を用いても同様に実施することができる。
【0109】
(5):プログラムインストールの説明
パターン抽出部1、用語抽出部2、用語表示部3、可視化装置4等は、プログラムで構成でき、主制御部(CPU)が実行するものであり、主記憶に格納されているものである。このプログラムは、一般的な、コンピュータで処理されるものである。このコンピュータは、主制御部、主記憶、ファイル装置、表示装置、キーボード等の入力手段である入力装置などのハードウェアで構成されている。
【0110】
このコンピュータに、本発明のプログラムをインストールする。このインストールは、フロッピィ、光磁気ディスク等の可搬型の記録(記憶)媒体に、これらのプログラムを記憶させておき、コンピュータが備えている記録媒体に対して、アクセスするためのドライブ装置を介して、或いは、LAN等のネットワークを介して、コンピュータに設けられたファイル装置にインストールされる。そして、このファイル装置から処理に必要なプログラムステップを主記憶に読み出し、主制御部が実行するものである。
【図面の簡単な説明】
【0111】
【図1】本発明の抽出システムの説明図である。
【図2】本発明の用語抽出処理フローチャートである。
【図3】本発明の表示システムの説明図である。
【図4】本発明の表示処理フローチャートである。
【図5】本発明のユーザによる「色」に関する用語抽出の説明図である。
【符号の説明】
【0112】
1 パターン抽出部
2 用語抽出部
D データベース
図面
【図1】
0
【図2】
1
【図3】
2
【図4】
3
【図5】
4