■anond:20191019183452

自分が機械学習に詳しいかどうかはわかりませんが，わかる範囲で書きます．

質問のテキストを投げるとそれに一番見合ったFAQページのリンクとタイトルを表示してくれるチャットボット的なプログラム

「チャットボット」はただの UI であるので

• 入力 : 質問のテキスト
• 出力 : FAQ ページの集合から一番「見合った」 FAQ ページ

を実現する事が目的だと考えて話を進めましょう．

一般的にこのタスクは類似文書検索と呼ばれています．ブックマークコメントでは「ElasticSearchを使え」と言われています．ElasticSearch の More Like This Query 機能を使うことで類似文書検索が実現できるようです．あとはパラメータを調整することで思い通りの結果が得られるのではないでしょうか．

より高度なアプローチを取るのであれば，BERT と呼ばれるニューラルネットワークモデルを活用した類似文書検索も可能です．こちらのブログ (ElasticsearchとBERTを組み合わせて類似文書検索 - Ahogrammer) が参考になるでしょう．

しかしこれだけで終わると悲しいのでもう少し機械学習の話をすることにします．

機械学習的にこの問題に取り組むには順序学習 Learning to Rank という問題を解く必要があります．順序学習は google 検索にも使われている機能です．

これは，「入力 x に対して N 個の候補 y_1, y_2, ..., y_N を類似している順に並び替えるようなスコアを出力する関数 f(x, y_i) を学習する」というものです．

More Like This Query 機能よりもこちらのアプローチが優れているのは，前者はどうパラメータをチューニングしようと「類似している文書」しか得られないのに対して，後者は(先程引用したような)「見合った」を明示的にデータとして与えてランキングを学習できる，という点です．

学習データとして「この質問のに対してこの FAQ ページがもっとも見合っている」「この質問に対して A と B ふたつの FAQ ページがあるが，B より A の方が見合っている」「この質問に対して見合った順に全ての FAQ ページを並び替えたもの」といったデータを大量に準備することで，「見合った」を学習することが可能です．

しかしこちらも ElasticSearch の機能に搭載されているようです．ありがとう ElasticSearch．お疲れ様でした．

もしあなたが ElasticSearch を使うのではなく， Python を使って再実装したいと考えているのであれば，目印として必要なライブラリや概念を書いておきます．

• 類似文書検索について
  • 入力および出力候補であるテキストは何らかの形で特徴量に変換する必要があります．これは MeCab を使った分かち書きによる単語集合 bag-of-words でも良いですし，単語集合に対して word2vec などの潜在表現を組み合わせて文章を潜在表現の集合として表現し， pooling 処理を行うのも良いでしょう．先程言及したよう BERT も利用可能です．
  • 類似文書検索を行うには，特徴量同士の類似度を計算する必要があります．コサイン類似度を自ら実装するもよし，Numpy や Scipy や scikit-learn などのライブラリを用いるのも良いでしょう．
  • そもそも類似度を愚直に計算せずとも，scikit-learn には近傍検索を行う NearestNeighbors が実装されています．これを使いましょう．
  • 検索対象である FAQ ページの量が膨大である場合，近似近傍検索 Appropriate Nearest Neighbors (ANN) を検討するのも良いでしょう．ANN を行うライブラリは複数あり，ベンチマークも行われている(erikbern/ann-benchmarks: Benchmarks of approximate nearest neighbor libraries in Python)ので好きなものを選んでください．私の好みは FLANN です．
• 順序学習については詳しくないので IR の専門家にお願いします．検索した感じ LightGBM で実装するのが一番楽そうです．

Permalink | 記事への反応(0) | 23:07

ツイートシェア