Differentiable Neural Computers(DNC)の概要

いきなりまとめ

Differentiable Neural Computers(DNC)はNeural Turing Machines(NTM)の強化版。
構造データの記録、構造データを使用した質問への回答が可能。
例えば、

• 地下鉄最短経路の探索
• 家系図の探索
• 複雑な指示の実行

が可能。

Today I Learned

Differentiable neural computers
を参考に。

Differentiable Neural Computersとは

DNCはmemory augmented neural networkの一種。

メモリを使用することで複雑かつ構造データに関わる質問に回答可能。
例えば、ストーリーの作成、家系図、地下鉄の地図。
reinforcement learningを使ってブロックパズルゲームを解くことも可能。

Differentiable Neural Computersの中身

Neural Turing Machinesと同様にコントローラーとメモリーバンクを搭載。

違いはメモリーバンクへのアドレスを生成する方法。
読み込み時にはassociative temporal linksによって連続的に書き込まれた情報にアクセス。
メモリのusageが記録され使用率の低いアドレスから書き込みに使用される。

Differentiable Neural Computersの威力

DNCに複雑な構造データを作成させ、そのデータに従い質問に回答させるでテストを実施。

グラフデータは任意に結合した経路やサイクルを表現する際に重要。
DNCは任意のグラフに関して説明、質問に対する回答が可能。


・地下鉄の地図

例えばロンドン地下鉄。
ボンドストリートからスタートして、
中央線に乗って1駅、
環状線に乗って4駅、
ジュービリー線に乗って2駅乗る、
するとどの駅に着くか？
といった質問に答えることが可能。
またムーアゲートからピカデリーサーカスまでのルートの提案が可能。


・家系図

家系図問題においては複雑な推論が可能。
例えば、両親、子供、兄弟といった関係のみから、
フレイヤの母方の曾祖父は誰か？
といった質問に回答可能。


・Reinforcement Learning

DNCはreinforcement learningにも応用可能。
カラーブロックの配置問題。
青のブロックを緑の下に、
オレンジのブロックを赤の左に、
紫をオレンジの下に、
青を紺色の右に、
・・・といった一連の指示が実行可能。
DNCはそれぞれの指示をメモリーに格納し、順次実行。