TOP > 国内特許検索 > 検索装置及びプログラム > 明細書

明細書 :検索装置及びプログラム

発行国 日本国特許庁(JP)
公報種別 特許公報(B2)
特許番号 特許第4547500号 (P4547500)
公開番号 特開2008-027207 (P2008-027207A)
登録日 平成22年7月16日(2010.7.16)
発行日 平成22年9月22日(2010.9.22)
公開日 平成20年2月7日(2008.2.7)
発明の名称または考案の名称 検索装置及びプログラム
国際特許分類 G06F  17/30        (2006.01)
FI G06F 17/30 210D
G06F 17/30 370Z
G06F 17/30 320D
請求項の数または発明の数 4
全頁数 17
出願番号 特願2006-199312 (P2006-199312)
出願日 平成18年7月21日(2006.7.21)
新規性喪失の例外の表示 特許法第30条第1項適用 2006年3月22日~23日 社団法人 電子情報通信学会主催の「電子情報通信学会第二種研究会」において文書をもって発表
審査請求日 平成19年6月1日(2007.6.1)
特許権者または実用新案権者 【識別番号】504145364
【氏名又は名称】国立大学法人群馬大学
発明者または考案者 【氏名】安川 美智子
【氏名】横尾 英俊
【氏名】内山 智文
個別代理人の代理人 【識別番号】100079049、【弁理士】、【氏名又は名称】中島 淳
【識別番号】100084995、【弁理士】、【氏名又は名称】加藤 和詳
【識別番号】100085279、【弁理士】、【氏名又は名称】西元 勝一
【識別番号】100099025、【弁理士】、【氏名又は名称】福田 浩志
審査官 【審査官】波内 みさ
参考文献・文献 特開2005-346560(JP,A)
特開平11-328220(JP,A)
特開2003-208447(JP,A)
特開平11-328221(JP,A)
調査した分野 G06F 17/30
特許請求の範囲 【請求項1】
複数の文書データを記憶した文書データベースから、検索語に適合する複数の文書データを取得する文書データ取得手段と、
前記文書データ取得手段によって取得された複数の文書データの各々を形態素解析することによって得られた単語に基づいて、前記文書データの各々について、前記検索語に関連する複数の関連語の各々の出現頻度を算出する頻度算出手段と、
前記頻度算出手段によって算出された前記複数の関連語の各々の出現頻度に基づいて、各関連語同士の類似度を算出する類似度算出手段と、
前記複数の関連語のクラスタリングを行って、前記類似度算出手段によって算出された類似度が高い組み合わせから前記関連語を組み合わせて、所定数の関連語クラスタを生成するクラスタリング手段と、
前記クラスタリング手段によって生成された関連語クラスタ毎に、前記関連語の出現頻度に基づいて、前記文書データ取得手段によって取得された複数の文書データのうち、該関連語クラスタの関連語によって特徴付けられる文書データを該関連語クラスタに対応付ける対応付け手段と、
前記クラスタリング手段によって生成された関連語クラスタ及び該関連語クラスタに対応付けられた文書データを示す文書データ情報を、前記検索語と同時に検索される回数が多い関連語を含む関連語クラスタから順番に、前記検索語に適合する文書データの検索結果として表示する表示手段と、
を含む検索装置。
【請求項2】
少なくとも1つの検索語からなる検索クエリを複数記憶したデータベースに基づいて、前記文書データ取得手段における検索語と同時に検索語となる単語を、前記関連語として複数取得する関連語取得手段を更に含み、
前記頻度算出手段は、前記文書データの各々について、前記関連語取得手段によって取得された複数の関連語の出現頻度を算出する請求項1記載の検索装置。
【請求項3】
少なくとも1つの検索語からなる検索クエリを複数記憶したデータベースに基づいて、前記文書データ取得手段における検索語の類義語と同時に検索語となる単語を、前記関連語として複数取得する関連語取得手段を更に含み、
前記頻度算出手段は、前記文書データの各々について、前記関連語取得手段によって取得された複数の関連語の出現頻度を算出する請求項1記載の検索装置。
【請求項4】
コンピュータを、
複数の文書データを記憶した文書データベースから、検索語に適合する複数の文書データを取得する文書データ取得手段、
前記文書データ取得手段によって取得された複数の文書データの各々を形態素解析することによって得られた単語に基づいて、前記文書データの各々について、前記検索語に関連する複数の関連語の各々の出現頻度を算出する頻度算出手段
前記頻度算出手段によって算出された前記複数の関連語の各々の出現頻度に基づいて、各関連語同士の類似度を算出する類似度算出手段
前記複数の関連語のクラスタリングを行って、前記類似度算出手段によって算出された類似度が高い組み合わせから前記関連語を組み合わせて、所定数の関連語クラスタを生成するクラスタリング手段
前記クラスタリング手段によって生成された関連語クラスタ毎に、前記関連語の出現頻度に基づいて、前記文書データ取得手段によって取得された複数の文書データのうち、該関連語クラスタの関連語によって特徴付けられる文書データを該関連語クラスタに対応付ける対応付け手段、及び
前記クラスタリング手段によって生成された関連語クラスタ及び該関連語クラスタに対応付けられた文書データを示す文書データ情報を、前記検索語と同時に検索される回数が多い関連語を含む関連語クラスタから順番に、前記検索語に適合する文書データの検索結果として表示する表示手段
として機能させるためのプログラム
発明の詳細な説明 【技術分野】
【0001】
本発明は、検索装置及びプログラムにかかり、特に、検索エンジンによって文書データを検索する検索装置及びプログラムに関する。
【背景技術】
【0002】
従来より、Web検索エンジンを用いて、様々な検索が行われるようになっている。流行している物や現象、人、企業、商品、サービス、テレビ番組などについての情報を検索する際に、検索対象についてあまり詳しく知らないため、適切な関連語で検索結果を絞り込む事が容易でない場合がある。
【0003】
また、検索対象についてある程度知っている場合であっても検索語で検索される膨大な検索結果を全て閲覧するのではなく、興味のあるページ群だけ概観したいという場合がある。
【0004】
一般に検索対象となる文書集合の中には類似した文書が含まれることが多いことから、予め文書集合を類似度に応じてグループ化(クラスタリング)しておき、検索時にはこれらのグループ(クラスタ)と検索質問(検索クエリ)との適合度を計算するクラスタ型の検索が知られている(非特許文献1)。ある検索語で検索される検索結果Webページ群には、多数の類似したWebページが含まれるため、適切なクラスタリングを行うことで、検索結果を絞り込むことや、検索結果を概観することが容易になる。

【非特許文献1】徳永健伸、「情報検索と言語処理」、東京大学出版会、(1999)
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかしながら、上記の非特許文献1記載の技術では、検索結果Webページ群をWebページでクラスタリングすると、Webページ群の中に、ユーザの検索ニーズに合致しない雑多な情報が多数含まれているため、ユーザにとって意味が分からないクラスタや、検索対象を絞り込む上で役に立たないクラスタが生成されてしまうため、クラスタリングされた検索結果が、ユーザにとって分かりにくく、利便性が低いものとなってしまう、という問題がある。
【0006】
本発明は、上記の問題点を解決するためになされたもので、ユーザにとって分かりやすいクラスタにより検索結果を表示することができる検索装置及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0007】
上記の目的を達成するために本発明に係る検索装置は、複数の文書データを記憶した文書データベースから、検索語に適合する複数の文書データを取得する文書データ取得手段と、前記文書データ取得手段によって取得された複数の文書データの各々を形態素解析することによって得られた単語に基づいて、前記文書データの各々について、前記検索語に関連する複数の関連語の各々の出現頻度を算出する頻度算出手段と、前記頻度算出手段によって算出された前記複数の関連語の各々の出現頻度に基づいて、各関連語同士の類似度を算出する類似度算出手段と、前記複数の関連語のクラスタリングを行って、前記類似度算出手段によって算出された類似度が高い組み合わせから前記関連語を組み合わせて、所定数の関連語クラスタを生成するクラスタリング手段と、前記クラスタリング手段によって生成された関連語クラスタ毎に、前記関連語の出現頻度に基づいて、前記文書データ取得手段によって取得された複数の文書データのうち、該関連語クラスタの関連語によって特徴付けられる文書データを該関連語クラスタに対応付ける対応付け手段と、前記クラスタリング手段によって生成された関連語クラスタ及び該関連語クラスタに対応付けられた文書データを示す文書データ情報を、前記検索語と同時に検索される回数が多い関連語を含む関連語クラスタから順番に、前記検索語に適合する文書データの検索結果として表示する表示手段とを含んで構成されている。
【0008】
また、本発明に係るプログラムは、コンピュータを、複数の文書データを記憶した文書データベースから、検索語に適合する複数の文書データを取得する文書データ取得手段、前記文書データ取得手段によって取得された複数の文書データの各々を形態素解析することによって得られた単語に基づいて、前記文書データの各々について、前記検索語に関連する複数の関連語の各々の出現頻度を算出する頻度算出手段、前記頻度算出手段によって算出された前記複数の関連語の各々の出現頻度に基づいて、各関連語同士の類似度を算出する類似度算出手段、前記複数の関連語のクラスタリングを行って、前記類似度算出手段によって算出された類似度が高い組み合わせから前記関連語を組み合わせて、所定数の関連語クラスタを生成するクラスタリング手段前記クラスタリング手段によって生成された関連語クラスタ毎に、前記関連語の出現頻度に基づいて、前記文書データ取得手段によって取得された複数の文書データのうち、該関連語クラスタの関連語によって特徴付けられる文書データを該関連語クラスタに対応付ける対応付け手段、及び前記クラスタリング手段によって生成された関連語クラスタ及び該関連語クラスタに対応付けられた文書データを示す文書データ情報を、前記検索語と同時に検索される回数が多い関連語を含む関連語クラスタから順番に、前記検索語に適合する文書データの検索結果として表示する表示手段として機能させるためのプログラムである
【0009】
本発明によれば、複数の文書データを記憶した文書データベースから、検索語に適合する複数の文書データを取得し、取得された複数の文書データの各々を形態素解析して、文書データの単語を得る。そして、得られた単語に基づいて、文書データの各々について、検索語に関連する複数の関連語の各々の出現頻度を算出し、算出された複数の関連語の各々の出現頻度に基づいて、各関連語同士の類似度を算出する。
【0010】
そして、複数の関連語のクラスタリングを行って、算出された類似度が高い組み合わせから関連語を組み合わせて、所定数の関連語クラスタを生成し、生成された関連語クラスタを、検索語に適合する文書データの検索結果として表示する。
【0011】
従って、検索語に適合する各文書データにおける検索語に関連する複数の関連語の各々の出現頻度に基づいて関連語をクラスタリングした結果を、検索結果として表示することにより、ユーザによって入力される検索語に関係のない単語を除外して生成した関連語クラスタを検索結果として表示するため、ユーザにとって分かりやすいクラスタにより検索結果を表示することができる。
【0012】
ここで、検索語に関連する関連語とは、検索エンジンにユーザが検索語と同時に入力した単語である。
【0013】
また、本発明に係る検索装置は、クラスタリング手段によって生成された関連語クラスタ毎に、関連語の出現頻度に基づいて、文書データ取得手段によって取得された複数の文書データのうち、関連語クラスタの関連語によって特徴付けられる文書データを関連語クラスタに対応付ける対応付け手段を更に含み、表示手段は、関連語クラスタ及び関連語クラスタに対応付けられた文書データを示す文書データ情報を、検索結果として表示することができる。これにより、検索語に適合する文書データを関連語クラスタに対応付けて表示するため、検索結果の表示におけるユーザの利便性を向上することができる。
【0014】
また、本発明に係る検索装置は、少なくとも1つの検索語からなる検索クエリを複数記憶したデータベースに基づいて、文書データ取得手段における検索語と同時に検索語となる単語を、関連語として複数取得する関連語取得手段を更に含み、頻度算出手段は、文書データの各々について、関連語取得手段によって取得された複数の関連語の出現頻度を算出することができる。これにより、検索クエリのログを記憶したデータベースから、検索語に関連する関連語を複数取得することができる。
【0015】
また、本発明に係る検索装置は、少なくとも1つの検索語からなる検索クエリを複数記憶したデータベースに基づいて、文書データ取得手段における検索語の類義語と同時に検索語となる単語を、関連語として複数取得する関連語取得手段を更に含み、頻度算出手段は、文書データの各々について、関連語取得手段によって取得された複数の関連語の出現頻度を算出することができる。これにより、検索クエリのログを記憶したデータベースから、検索語の類義語に関連する関連語を複数取得することができる。
【0016】
また、本発明に係る表示手段は、検索語と同時に検索される回数が多い関連語を含む関連語クラスタから順番に、検索結果として表示することができる。これにより、検索語との関連が強い関連語を含む関連語クラスタを先に表示することにより、ユーザの検索ニーズに合致することができ、検索結果の表示におけるユーザの利便性を向上させることができる。
【発明の効果】
【0017】
以上説明したように、本発明の検索装置及びプログラムによれば、検索語に適合する各文書データにおける検索語に関連する複数の関連語の各々の出現頻度に基づいて関連語をクラスタリングした結果を、検索結果として表示することにより、ユーザによって入力される検索語に関係のない単語を除外して生成した関連語クラスタを検索結果として表示するため、ユーザにとって分かりやすいクラスタにより検索結果を表示することができる、という効果が得られる。
【発明を実施するための最良の形態】
【0018】
以下、図面を参照して本実施の形態を詳細に説明する。なお、本実施の形態では、複数の検索エンジンを一括検索(メタサーチ)する検索装置に本発明を適用した場合について説明する。
【0019】
図1に示すように、第1の実施の形態に係る検索システム10は、複数の検索クエリから構成される検索クエリのログを記憶した検索クエリログデータベース12と、少なくとも1つの検索語からなる検索クエリに対応して、Webページを検索する複数のWeb検索エンジン14、及び複数のWeb検索エンジン14によって検索されたWebページのキャッシュデータを一時的に記憶するキャッシュデータデータベース16に接続され、かつ複数のWeb検索エンジン14を一括検索(メタサーチ)するメタサーチエンジンを実現するメタサーチエンジンプログラムを記憶したコンピュータ18とを備えている。
【0020】
検索クエリログデータベース12には、1つ以上の検索語からなる検索クエリが複数記憶されている。また、複数のWeb検索エンジン14は、例えば、インターネットにおいて主要な複数の検索エンジン(http://www.yahoo.co.jp/、http://search.msn.co.jp/)を用いている。
【0021】
また、コンピュータ18には、テキストデータを形態素解析するための形態素解析器20と、行列計算を行うための行列計算ライブラリ22とが接続されている。
【0022】
メタサーチエンジンプログラムは、後述するメタサーチ処理ルーチンを実行するためのプログラムであり、検索クエリログデータベース12から取得した検索クエリログデータに基づいて、入力された検索語に関連する関連語を取得する関連語データ取得モジュール、検索クエリの検索語に適合するWebページを、複数のWeb検索エンジン14によって検索し、検索されたWebページのキャッシュデータをキャッシュデータデータベース16に一時的に記憶させる検索データ取得モジュール、キャッシュデータデータベース16のキャッシュデータに対して、形態素解析器20によって形態素解析を行って単語を取得し、名詞及び未知語の出現頻度を示す単語頻度行列を検索されたWebページ毎に作成する行列作成モジュール、単語頻度行列に対して行列計算ライブラリ22によって行列計算を行い、関連語をクラスタリングして、関連語クラスタを生成するクラスタ生成モジュール、及び生成された関連語クラスタの順序付けを行うクラスタ順序付けモジュールを含んで構成されている。
【0023】
なお、検索語に関連する関連語とは、検索エンジンへの検索クエリとして、ユーザが検索語と同時に入力した単語である。
【0024】
次に、従来のWeb検索結果のクラスタリングの問題点について説明する。既存の文書、Webページ、Web検索結果のクラスタリングの手法において、クラスタリング対象となる文書群やWebページ群の全体がユーザの検索ニーズを分離可能な状態で包含している場合や、ユーザが興味を持つ文書群のみが文書群全体から明確に分離可能な場合には、効果的なクラスタ検索を行うことができる。
【0025】
しかし、一般的に、Web検索エンジンが返す検索結果は、効果的なクラスタ検索を行う上で理想的なWebページ群ではなく、ユーザにとって意味のない雑多な情報を多数含んでいる場合が多い。
【0026】
例えば、検索語「英会話」に対してWeb検索エンジンが返す検索結果から、図2に示すようなWebページの単語頻度行列が作成された場合を考える。Webページの単語頻度行列に対して、Webページ方向に類似度計算することでWebページのクラスタリングが可能となり、また単語方向に類似度計算することで単語のクラスタリングが可能になる。図2の行列要素全てをクラスタリングに用いると、「英会話」という検索語の観点からはあまり関係のない「件」「月」「日」などの語が高い頻度で出現していたり、あるいは、逆に出現頻度が低く希少性が高かったり、また、他の語と共起していたりすることによって、語の持つ特徴量が大きくなることが、クラスタリング結果を悪化させる。例えば、類似度計算により、Webページのクラスタリングで{英会話学習、英語の日記、ジオス}{英会話BBS、イーオン}のような分け方がされる場合、また、単語方向のクラスタリングで{件、日}{月、無料、スクール、教材}のような分け方がされる場合のどちらの場合も、ユーザにとってクラスタリング結果が理解しにくいものとなってしまう。
【0027】
このように、Web検索結果から構築される単語頻度行列の全体を用いると、ユーザの検索ニーズに合致しない雑多な情報が影響するために、Webページのクラスタリング及び単語のクラスタリングのどちらの場合も、クラスタ検索を効果的に行うことができない。
【0028】
以下、上記のコンピュータ18で実行される検索語による検索結果として、関連語のクラスタリング結果を表示するためのメタサーチ処理ルーチンについて図3を用いて説明する。
【0029】
まず、ステップ100において、ユーザが検索語を入力したか否かを判定し、ユーザがキーボードやマウス(図示省略)を操作して、検索語を入力すると、ステップ102へ進み、検索クエリログデータベース12から、検索語に関連する複数の関連語を示す関連語データを取得する。
【0030】
ここで、関連語は、検索に役立つ語を推薦するYahoo!(R)やYahoo!JAPAN(R)の関連語検索の機能や検索広告のキーワード分析に用いられるものであり、検索広告では、キーワード分析を行うために、ユーザが検索語と同時に検索エンジンに入力した関連語の情報が提供されている。例えば、キーワード分析ツールにおいて、検索語「英会話」についての検索を行うユーザの検索ニーズを表す情報であって、図4のような関連語のデータを用いることにより、検索語「英会話」で得られる検索結果を、ユーザの検索ニーズに合致した情報によって絞り込む事ができるようになる。
【0031】
なお、第1の実施の形態では、検索語の関連語のデータは、100件を上限とする検索語の関連語と、月間検索数の予測値が得られるOverture(R)のキーワードアドバイスツール(http://inventory.jp.overture.com/)により取得する。
【0032】
そして、ステップ104では、複数のWeb検索エンジン14を用いて、ステップ100で入力された検索語に対応してメタサーチを行い、Web検索エンジン14の各々から、Web検索結果データとして、検索結果URL、Title、summary/snippet、及びキャッシュURLを取得する。
【0033】
なお、Yahoo!(R)、Yahoo!JAPAN(R)、Google(R)、MSNサーチ(R)などの主要なWeb検索エンジンでは、ライセンスを持たないメタ検索エンジンからのアクセスを禁止し、一般ユーザ向けに提供された検索サイトへの自動クエリの送信を禁止しているが、その代わりに、プログラムで検索エンジン資源にアクセスするための検索APIやSDKを提供している。例えば、Google Web APIs(http://www.google.com/apis)や、Yahoo!Search Web Services SDK(http://developer.yahoo.net/search/)、MSN Search Web Service SDK(http://msdn.microsofe.com/msn/msnsearch/)、Yahoo!JAPAN WebサービスSDK(http://developer.yahoo.co.jp/)があり、第1の実施の形態では、1000件を上限とする日本語の検索結果が得られるGoogle Web APIsとYahoo!JAPAN WeebサービスSDKを用いてメタサーチを行っている。
【0034】
次のステップ106では、キャッシュURLに基づいて、キャッシュデータを取得し、キャッシュデータをキャッシュデータデータベース16に格納し、ステップ108において、キャッシュデータのHTMLソースファイルから、EUC-JPテキストであるテキストデータを抽出する。
【0035】
そして、ステップ110で、形態素解析器20のユーザ辞書に対して、入力された検索語及びステップ102で取得された関連語を登録し、ステップ112において、形態素解析器20によって、ステップ108で抽出したテキストデータを形態素解析して、形態素解析結果として複数の単語を取得し、ステップ114で、形態素解析結果から、雑音を除去し、検索語の周辺の名詞及び未知語のみを抽出する。なお、形態素解析には、ChaSen(http://chasen.naist.jp/hiki/Chasen/)を使用し、検索語や関連語をChaSenのユーザ辞書に登録することにより、1つの語が複数の語に分割されていないようにしている。
【0036】
そして、ステップ116において、抽出された名詞及び未知語で、図2に示すような複数のWebページに対する単語頻度行列を作成し、ステップ118で、作成された単語頻度行列における関連語と一致する単語の列要素IDを抽出し、ステップ120において、抽出した列要素IDを指定して、行列計算ライブラリ22によって、関連語にのみ注目した関連語同士の類似度を算出する。
【0037】
ここで、上述したように、検索結果から作成されるWebページの単語頻度行列全体に対して、単語方向の類似度計算を行うと、検索結果の中の雑多な情報がクラスタリングに悪影響を及ぼしてしまう。これに対して、例えば、図2に示すような検索結果に対して、図4に含まれる関連語で絞り込みを行い、関連語「スクール」「無料」「教材」のみの出現頻度で類似度を算出すると、図5に示すように、「英会話」に興味を持つユーザにとって重要でない語「件」「月」「日」を、類似度計算の対象から除外することができる。
【0038】
そして、ステップ122において、ステップ120で算出された関連語同士の類似度に基づいて、関連語のクラスタリングを行い、類似度が高い組み合わせから関連語を組み合わせ、所定数の関連語クラスタになるまで、類似度が高い組み合わせから関連語の組み合わせを行い、所定数の関連語クラスタを生成する。例えば、図5にように、関連語「スクール」「無料」「教材」に限定して関連語のクラスタリングを行うことで、{無料、教材}{スクール}のような関連語クラスタを生成し、関連語クラスタ{無料、教材}を特徴付けるページとして{英会話学習、英語の日記、英会話BBS}を関連語クラスタ{無料、教材}に対応付け、また、関連語クラスタ{スクール}を特徴付けるページとして{ジオス、イーオン}を関連語クラスタ{スクール}に対応付ける。
【0039】
なお、関連語のクラスタリングを行うために、第1の実施の形態では、連想計算のライブラリとして汎用連想計算エンジンGETA(http://geta.ex.nii.ac.jp/)を利用している。GETAでは、単一リンク方、完全リンク法、群平均法、WARD法、階層的ベイズクラスタリング(HBC)などの代表的なクラスタリングの距離計算のアルゴリズムを指定できる。
【0040】
また、検索数(月間検索数の予測値)が多い関連語で限定した関連語のクラスタリングにより、多くのユーザの検索ニーズに合致する関連語クラスタを生成することができる。
【0041】
次のステップ124では、関連語の検索数に基づいて、ステップ122で生成された関連語クラスタの重み付けを行い、重みに基づいて関連語クラスタを順序付けて、関連語クラスタをソートする。関連語クラスタCの重みは以下の数式によって算出する。
【0042】
【数1】
JP0004547500B2_000002t.gif


ここで、fは関連語クラスタCに含まれる関連語wの検索数の総和であり、Tは関連語クラスタCに含まれる関連語の数である。
【0043】
例えば、関連語「子供」が、「英会話 子供」「子供 英会話 教室」のような複数の検索で用いられている場合は関連語「子供」の検索数の総和は、「英会話 子供」「子供 英会話 教室」の検索数の和となる。図4の例では、「スクール」の検索数が22796件、「無料」と「教材」の検索数がそれぞれ6647件、2285件となっている。従って、図5の関連語クラスタ{無料、教材}{スクール}の重みはそれぞれ8932、22796と計算される。
【0044】
そして、ステップ126において、関連語クラスタとWeb検索データが示すWebページとの対応付けを行い、ステップ128で、図6に示すように、ソートされた関連語クラスタのリストを検索結果として表示して、メタサーチ処理ルーチンを終了する。図5に示したような関連語クラスタが生成された場合には、検索結果において関連語クラスタが{スクール}{無料、教材}の順で表示される。このように、第1の実施の形態では、検索語の関連語のデータを用いて、検索で頻繁に用いられる関連語のみを用いた関連語のクラスタリングを行い、更に、生成された関連語クラスタを関連語の検索数で重み付けし、関連語クラスタをソートして検索結果を表示する。
【0045】
また、検索結果の表示では、図6に示すように、関連語クラスタのリスト表示の下に、関連語クラスタの詳細表示として、関連語クラスタに対応付けられたWebページの文書データ情報としてのタイトルや概要、URLも表示されるようになっている。
【0046】
次に、第1の実施の形態のクラスタリングと従来のクラスタリングとの比較実験について説明する。ここでは、検索語として、Clusty the Clustering Engine(http://clusty.jp/)のトップページで例示されているクラスタ検索の検索語の例6語(英会話、介護、携帯電話、胃がん、悪質商法、受験)を用いて、関連語のクラスタリングとWebページのクラスタリングのとの結果を比較した。
【0047】
関連語のクラスタリングに利用する関連語の数、生成するクラスタの数、クラスタリングの距離計算のアルゴリズムなど条件を変えることで、生成される関連語クラスタが変化する。異なる条件の下で関連語のクラスタリングとWebページのクラスタリングとをそれぞれ行い、クラスタリング結果を比較した。
【0048】
関連語のクラスタリングを図7に示す条件で行い、Webページのクラスタリングを図8に示す条件で行い、検索語を「英会話」とした場合のWebページのクラスタリング結果を図9に示す。また、検索語を「英会話」とした場合の関連語のクラスタリング結果では、図10に示すように、「無料、教材、上達法」は、無料の英会話教材を使って英会話の勉強をする場合をイメージすることができ、「マンツーマン、個人、プライベート、レッスン、講師」は、個人的に英会話のレッスンを受けたい場合をイメージすることができ、「ビジネス、ラジオ、日常、旅行」は、ラジオ番組を聴いて、英会話を習得したい場合をイメージすることができる。
【0049】
また、検索語を「英会話」とした場合のWebページのクラスタリング結果を図11に示し、また、検索語を「英会話」とした場合の関連語のクラスタリング結果を図12に示す。
【0050】
上記の比較結果では、関連語のクラスタリングの結果とWebページのクラスタリングの結果とには、ほとんど共通点がなく、Webページのクラスタリングでは、ユーザの検索意図とは無関係な意味の分からないクラスタが生成される傾向が見られた。
【0051】
これに対して関連語のクラスタリングでは、ユーザにとって馴染みがあると思われる関連語がクラスタリング結果に現れ、ユーザ層や検索目的ごとの関連語クラスタが生成される傾向が見られた。
【0052】
次に、実際に検索を行うユーザの立場で、関連語のクラスタリングの結果とWebページのクラスタリングの結果とを比較する評価実験について説明する。まず、評価者は、大学院生及び大学学部生(男性、20代前半)10名であり、検索語は図13に示す20語を用いた。なお、クラスタリングは、図7、8に示す条件で行った。
【0053】
関連語のクラスタリングの結果とWebページのクラスタリングの結果とを左右並べて表示し、「どちらのクラスタリング結果が見やすいか」を評価者に質問して、回答を得た。評価者10人が20語のクラスタリング結果の比較を行い、合計200件の回答が得られた。200件のうち、161件が「関連語のクラスタリングの結果が見やすい」、39件が「Webページのクラスタリングの結果が見やすい」という結果であった。
【0054】
また、検索語別及び評価者別の回答結果を図14及び図15のそれぞれに示す。また、評価者別のクラスタリング結果1件当たりの平均閲覧時間を図16に示す。検索語によって、また、評価者によって評価が分かれているが、Webページのクラスタリングと比較して、関連語のクラスタリングの方がユーザにとって分かりやすく見やすい結果を表示できていると推察される。
【0055】
第1の実施の形態における関連語のクラスタリングでは、類義語(例えば、「試験」と「模試」)、共起語(例えば、「航空券」と「空席」と「予約」)、集合(例えば、「レクサス」と「ハリアー」と「アイシス」と「ウィッシュ」)、表記の揺れ(例えば、「プレーヤー」と「プレイヤー」)、複合語(例えば、「機種」と「変更」)がそれぞれ1つのクラスタにまとまる傾向が見受けられた。この傾向により、関連語のクラスタリングは、検索結果ページ群をコーパスとした関連語のシソーラス構築に相当するものといえる。
【0056】
以上説明したように、第1の実施の形態に係る検索システムによれば、検索語に適合する各Webページにおける検索語に関連する複数の関連語の各々の出現頻度に基づいて関連語をクラスタリングした結果を、検索結果として表示することにより、ユーザによって入力される検索語に関係のない単語を除外して生成した関連語クラスタを検索結果として表示するため、ユーザにとって分かりやすいクラスタにより検索結果を表示することができる。
【0057】
また、検索されたWebページを関連語クラスタに対応付けて表示するため、検索結果の表示におけるユーザの利便性を向上することができる。
【0058】
また、検索クエリのログを記憶したデータベースから、自動的に検索語に関連する関連語を複数取得することができる。
【0059】
また、検索語と同時に検索される回数が多い関連語を含む関連語クラスタから順に表示することにより、検索語との関連が強い関連語を含む関連語クラスタを先に表示するため、ユーザの検索ニーズに合致することができ、検索結果の表示におけるユーザの利便性を向上させることができる。
【0060】
また、ユーザが頻繁に利用する検索語の関連語を用いた関連語のクラスタリングにより、ユーザにとって分かりやすい見やすいクラスタリング結果の表示を行うことができる。
【0061】
また、複数の検索エンジンを一括検索することにより、質の良い多数の検索結果を得ることができる。
【0062】
また、得られた多数の結果をクラスタリングして表示することでユーザにとって概観しやすい検索結果表示を行うことができる。
【0063】
また、関連語の検索数で関連語クラスタを重み付けすることで、頻繁に参照される関連語クラスタを検索結果の上位に表示することができる。
【0064】
なお、上記の実施の形態では、コンピュータが既存の複数の検索エンジンを利用して、Web検索結果データを取得する場合を例に説明したが、コンピュータに検索エンジンの機能が搭載されており、Webページを複数記憶したデータベースから検索語に適合するWebページを取得するようにしてもよい。この場合には、関連語の取得や関連語クラスタリングの機能が、検索エンジンの一つの機能となる。
【0065】
また、メタサーチ処理ルーチンなどのプログラムをコンピュータで実行する場合を例に説明したが、これに限定されるものではなく、検索システムが携帯情報端末を含んで構成されており、携帯情報端末で、メタサーチ処理ルーチンを含むプログラムを実行するように構成してもよい。
【0066】
次に第2の実施の形態について説明する。なお、第1の実施の形態と同様の構成部分については、同一符号を付して説明を省略する。
【0067】
第2の実施の形態では、関連語を取得するための検索語や、Web検索データを取得するための検索語を修正して、再度クラスタリングすることができる点が第1の実施の形態と異なっている。
【0068】
図17に示すように、第2の実施の形態に係る検索システム210は、検索クエリログデータベース12、Web検索エンジン14、キャッシュデータデータベース16、及び検索語を類義語に修正するために、複数の単語の各々に対する類義語を記憶した検索語修正用シソーラスデータベース212に接続されたコンピュータ218を備えている。なお、類義語とは、一般的な意味の類義語の他に、分割した単語や、表記の揺れとなる単語を含む。
【0069】
また、コンピュータ218には、形態素解析器20と行列計算ライブラリ22とが接続されている。
【0070】
次に、第2の実施の形態におけるメタサーチ処理ルーチンについて図18を用いて説明する。なお、第1の実施の形態と同様の処理については、同一符号を付して詳細な説明を省略する。
【0071】
まず、ステップ100において、ユーザが検索語を入力したか否かを判定し、検索語が入力されると、ステップ102で、検索クエリログデータベース12から、検索語に関連する複数の関連語を示す関連語データを取得する。そして、ステップ104では、入力された検索語に対応してメタサーチを行い、Web検索エンジン14の各々から、Web検索結果データを取得し、次のステップ106では、キャッシュデータを取得し、キャッシュデータデータベース16に格納する。
【0072】
そして、ステップ108において、キャッシュデータからテキストデータを抽出し、ステップ110で、形態素解析器20のユーザ辞書に対して、入力された検索語及び関連語を登録し、ステップ112において、抽出したテキストデータを形態素解析して、形態素解析結果として複数の単語を取得し、ステップ114で、形態素解析結果から、雑音を除去し、検索語の周辺の名詞及び未知語のみを抽出する。
【0073】
そして、ステップ116において、抽出された名詞及び未知語で、複数のWebページに対する単語頻度行列を作成し、ステップ118で、作成された単語頻度行列における関連語と一致する単語の列要素IDを抽出し、ステップ120において、抽出した列要素IDを指定して、関連語にのみ注目した関連語同士の類似度を算出する。
【0074】
そして、ステップ122において、関連語のクラスタリングを行い、所定数の関連語クラスタを生成し、次のステップ124では、生成された関連語クラスタの重み付けを行い、重みに基づいて関連語クラスタを順序付けて、関連語クラスタをソートする。
【0075】
そして、ステップ126において、関連語クラスタとWeb検索データが示すWebページとの対応付けを行い、ステップ128で、ソートされた関連語クラスタのリストを検索結果として表示する。
【0076】
次のステップ230では、検索結果として表示された関連語クラスタを修正するか否かを判定し、ユーザから関連語クラスタの修正が指示されない場合には、メタサーチ処理ルーチンを終了するが、ユーザがキーボードやマウスを操作して、関連語クラスタの修正を指示すると、ステップ232で、関連語データを修正するか否かを判定し、ユーザが関連語データの修正を指示しない場合には、ステップ238へ移行するが、一方、ユーザがキーボードやマウスを操作して、関連語データの修正を指示した場合には、ステップ234へ移行する。
【0077】
ステップ234では、関連語データ取得用に、修正した検索語を作成する。例えば、ユーザの入力により、修正した検索語を作成するか、または、検索語修正用シソーラスデータベース212から検索語の類似語を自動的に取得して、修正した検索語を作成する。次のステップ236では、修正済みの検索語と同時に検索される関連語を、検索クエリログデータベース12から抽出して、関連語データを取得し、ステップ238へ移行する。
【0078】
ステップ238において、Web検索結果データを修正するか否かを判定し、ユーザがWeb検索結果データの修正を指示しない場合には、ステップ106へ戻り、新たに取得された関連語データに基づいて、再び関連語クラスタを生成するが、一方、ユーザがキーボードやマウスを操作して、Web検索結果データの修正を指示した場合には、ステップ240へ移行する。
【0079】
ステップ240では、Web検索結果データ取得用に、修正した検索語を作成する。例えば、ユーザの入力により、修正した検索語を作成するか、または、検索語修正用シソーラスデータベース212から検索語の類似語を自動的に取得して、修正した検索語を作成する。次のステップ242では、修正済みの検索語に対応してメタサーチを行い、Web検索エンジン14の各々から、Web検索結果データを取得して、ステップ106へ戻り、新たに取得された関連語データ及びWeb検索結果データに基づいて、再び関連語クラスタを生成する。
【0080】
以上説明したように、第2の実施の形態に係る検索システムによれば、関連語クラスタを検索結果として表示した後に、検索語を修正して、新たに取得した関連語データ及びWeb検索結果データを用いて、検索結果となる関連語クラスタを生成することができるため、ユーザにとって更に分かりやすいクラスタにより検索結果を表示することができる。
【図面の簡単な説明】
【0081】
【図1】第1の実施の形態に係る検索システムを示すブロック図である。
【図2】複数のWebページにおける単語頻度行列を示すイメージ図である。
【図3】第1の実施の形態に係るコンピュータのメタサーチ処理ルーチンの内容を示すフローチャートである。
【図4】検索語と関連語との組み合わせに対する検索数を示す表である。
【図5】関連語の列要素に限定した単語頻度行列を示すイメージ図である。
【図6】第1の実施の形態に係る検索結果表示のイメージ図である。
【図7】関連語のクラスタリングの条件を示す表である。
【図8】Webページのクラスタリングの条件を示す表である。
【図9】検索語を「英会話」とした場合のWebページのクラスタリング結果を示す図である。
【図10】検索語を「英会話」とした場合の関連語のクラスタリング結果を示す図である。
【図11】検索語を「受験」とした場合のWebページのクラスタリング結果を示す図である。
【図12】検索語を「受験」とした場合の関連語のクラスタリング結果を示す図である。
【図13】ユーザ評価に用いた検索語を示す図である。
【図14】複数の検索語各々におけるクラスタリング結果の見やすさを示すグラフである。
【図15】複数の評価者各々におけるクラスタリング結果の見やすさを示すグラフである。
【図16】複数の評価者各々におけるクラスタリング結果の平均閲覧時間を示すグラフである。
【図17】第2の実施の形態に係る検索システムを示すブロック図である。
【図18】第2の実施の形態に係るコンピュータのメタサーチ処理ルーチンの内容を示すフローチャートである。
【符号の説明】
【0082】
10、210 検索システム
12 検索クエリログデータベース
14 検索エンジン
16 キャッシュデータデータベース
18、218 コンピュータ
20 形態素解析器
22 行列計算ライブラリ
212 検索語修正用シソーラスデータベース
図面
【図1】
0
【図2】
1
【図3】
2
【図4】
3
【図5】
4
【図6】
5
【図7】
6
【図8】
7
【図9】
8
【図10】
9
【図11】
10
【図12】
11
【図13】
12
【図14】
13
【図15】
14
【図16】
15
【図17】
16
【図18】
17