1つの論文を深く掘り下げるDepth First Learning計画の紹介

  • 2018.07.15
  • AI
1つの論文を深く掘り下げるDepth First Learning計画の紹介

1.1つの論文を深く掘り下げて理解するDepth First Learning計画の紹介まとめ

・注目度が高い個々の論文を基礎となった部分から理解を深める目的のDFLプロジェクトの紹介
・他の学習リソースと趣旨が重複しないよう補完する関係とコミュニティ参加型を目指している
・コンセプトが非常に優れているので特定の論文を突き詰めたい人には最適

2.Depth First Learning計画とは?

ようこそ!私たちはあなたのためにこのサイトを作りました!

何故かって?機械学習に関しての情報は世にあふれているけれども、皆が気づいている通り、2つの点で酷いものだからです。

1つは、24時間で機械学習を学習できるとアピールするオンラインサイトが溢れている一方で、機械学習が10年の研究努力の結果である事を解説するサイトがほとんどない事です。一度そのように感じ始めると、小手先の技術ではなく、幹となる知識を欲するようになります。

もう一つは、私たちが学んだ事と現在の最先端の研究の間は断絶しており、橋が架かっていないということです。橋がなければ今後の研究がどこへ向かっていくのかについて洞察する事が本当に困難です。

橋とは例えば、TRPOのようなアルゴリズムがどのように機能するのかを理解するだけでなく、著者がなぜその選択をしたのか?何をしたのか?決断の前に知っていた事は何か?そしてその影響は?などを同時に知る事です。

Depth First Learning計画のこの公開リポジトリは、機械学習の研究分野におけるこれらの欠点に対する努力の成果です。DFLは、コミュニティと共有され、コミュニティによって成長するように設計されています。あなたがまだ我々が取り上げていない論文のカリキュラムを作成することに興味があるなら、私たちはあなたを手伝います!Githubをチェックし、勉強したい論文の詳細を記してください。このサイトを充実させ、より豊かなものにするためにあなたの助けが必要です。

我々は他の学習手段の欠けている部分を満たすためにDFLを作成しています。以下のリソースは、DFLと補完関係にあります:

・教科書:事実上の標準の学習方法。教科書がカバーしている深さに合わせることはできません。代わりに、私たちは個別の現代的な論文を取り上げて解説することを目指しています。

・オンラインコース:オンラインコースは、世界のほぼすべての人が利用可能な点で素晴らしいですが、特徴は教科書とほぼ同様です。

・ブログ:ブログは機械学習コミュニティで活発なメディアです。ブログは頻繁に単一の論文やアイデアを取扱う点で教科書と対照的です。 DFLとは対照的に、ブログは一般的に一つ一つの議題を軽く取り上げるため、深い理解を促すには不十分です。

・distill.pub:Distill.pubには機械学習現象についての美しく徹底的な説明があり、しばしば基礎となる数学についての新しい洞察もあります。各トピックは、複数の論文にまたがることがあり、機械学習の学習者にとってより広い関心領域をカバーします。対照的に、DFLは、研究の対象となる適切なリソースとトピックを提供することによって、単一の論文を深く理解するために必要なリソースをまとめようとしています。

・Metacademy:Metacademyは、Depth First Learningと最もコンセプトが似ています。両者とも、コンセプトを元となったアイディアまで遡ることで学習プロセスを改善するという同様の目標を持っています。しかし究極的には、DFLは重要な機械学習論文を理解し必然的にフィールド全体への理解増す事を目的として構築されており、焦点が異なっています。

3.1つの論文を深く掘り下げて理解するDepth First Learning計画の紹介感想

Jeff Dean氏がイイネしていたので、見てみたら確かに素敵なコンセプトのプロジェクトだったのでご紹介。ただ、それぞれのページを「カリュキュラム」と称すだけあって、各段落の前に「前提知識」も明示してくれているのですが、「Chapter 1.6 from Pattern Recognition and Machine Learning / Bishop. (“PRML”)」と書いてあったりします。(PRMLは機械学習分野の古典的な聖典で「PRMLをちゃんと読んだのか?」は、その人のやる気や実力を測る問いとして使われる事があります。外貨定価 US$ 94.95 ペーパーバック版のページ数 738 ページの超大作です)

各カリュキュラムにはAlphaGoZeroやInfoGANなど面白そうなものが沢山あるのですが、先祖に当たる技術やコンセプトから解説しているので腰を据えていかないと吸収が大変そうです。しかし、コンセプトが非常に素晴らしいので深い理解を追い求めている人には砂漠のオアシスとなるでしょう。

4.1つの論文を深く掘り下げて理解するDepth First Learning計画の紹介関連リンク

1)www.depthfirstlearning.com
depthfirstlearning

2)www.kinokuniya.co.jp
PRML

3)distill.pub
Distill — Latest articles about machine learning

4)metacademy.org
metacademy your package manager for knowledge