Deep Learningによる自動応答システム(Chatbot)の概要

いきなりまとめ

自動応答システムは2種類

• Retrieval-based model
• Generative model

DeepLearningはどちらのモデルにおいても使用される。
よく使われるのはクローズドドメインのRetrieval-based model。

Today I Learned

Deep Learning for Chatbots, Part 1 – Introduction
を参考に。


自動応答システムにはRetrieval-based modelとGenerative modelの2種類がある。
DeepLearningはどちらでも使用されうる。

Retrieval-based modelの特徴

• 新しい応答を生み出さない。
• 事前定義された応答集より取り出す。
• その際にルールベースもしくはMLによるクラス分類を使用。
• 文法的にミスがない。
• 名前などの文脈情報を返せない。

Generative modelの特徴

• 新しい応答を生み出す。
• MachineTranslationと同様の技術を使用。
• 名前などの文脈情報を返せる。
• 文法的ミスがありうる。
• 膨大なトレーニングが必要。
• Sequence to Sequenceモデルが適している。

共通事項

• 入出力のテキストが長くなるほど難易度が高い。
• オープンドメインよりもクローズドドメインの方が難易度が高い。 

共通する困難

• 会話文脈を取り込むこと。
• 意味的に同じ質問に対して一貫した応答をすること。
• 人の評価に匹敵するモデル評価の指標がないこと。
• 一般的な応答ばかりすること。

Retrieval-based modelにせよGenerative modelにせよ、オープンドメインでのシステムは実現するのが困難。
文法ミスや不適切な応答の可能性があるGenerative modelよりもRetrieval-based modelが実際には用いられている。