入門／解説 (2018年4月時点で)データサイエンス初学者が知っておくと便利な10のツール(1/2)
１．(2018年4月時点で)データサイエンス初学者が知っておくと便利な10のツール(1/2)まとめ ・2018年4月時点でアメリカでデータサイエンティストが知っておくべきと見なされたツールの紹介 ・2018年後半に一つのブレークスルーがあっ...
nlp
入門／解説 
入門／解説 GPT-2が自動生成したその他の文章(1/3)
１．GPT-2が自動生成したその他の文章(1/3)まとめ ・GPT-2が出力したユニコーン以外の文章の紹介 ・プレスリリース、ニュース、芸能ニュース、の3種類 ・部署名等は実在の名称を入れてくるので流し読みしていると読めてしまう ２．GPT...
学習手法 MT-DNN：BERTを凌駕するMicrosoftの新しいNLPモデル
１．MT-DNN：BERTを凌駕するMicrosoftの新しいNLPモデルまとめ ・MT-DNNはマイクロソフトが発表した新しい自然言語処理モデルでBERTを上回るスコアを出した ・2015年に提案したモデルに基づいて構築されマルチタスク学...
入門／解説 GPT-2：より良い言語モデルとそれが暗示する事(3/3)
１．GPT-2：より良い言語モデルとそれが暗示する事(3/3)まとめ ・GPT-2のような大規模な言語モデルは良い事に使う事もできるが悪用する事も出来る ・画像や音声、動画も簡単に偽造出来る現在では予想外の悪用方法があるかもしれない ・従来...
入門／解説 GPT-2：より良い言語モデルとそれが暗示する事(2/3)
１．GPT-2：より良い言語モデルとそれが暗示する事(2/3)まとめ ・GPT-2はWinograd Schema、LAMBADA、およびその他の言語モデリング用タスクで最先端のスコアを達成 ・質問回答、読解力、要約、翻訳などの他の言語タス...
入門／解説 2018年のGoogleの研究成果を振り返って(6/6)
１．2018年のGoogleの研究成果を振り返って(6/6)まとめ ・Googleの2018年のAI関連の研究や成果の振り返り ・研究活動以外の貢献活動、新しい拠点と新しいメンバー、2019年に向けて ・研究開発の結果から実際の製品として世...
入門／解説 2018年の機械学習とAIの主な進歩と2019年の主な傾向(2/2)
１．2018年の機械学習とAIの主な進歩と2019年の主な傾向(2/2)まとめ ・ELMoやBERTなどの自然言語処理分野におけるトランスファーラーニングの成功 ・プライバシー問題やAIのディストピアに繋がる利用が注目を集めた事 ・オンライ...
学習手法 BERT:自然言語処理のための最先端の事前トレーニング
１．BERT:自然言語処理のための最先端の事前トレーニングまとめ ・自然言語処理は学習に使えるデータが少ない事が問題になっている ・言語構造を事前トレーニングさせる事によりデータ不足問題を大きく改善できる ・双方向型の事前トレーニングである...
入門／解説 EMNLP 2018におけるGoogleの存在感
１．EMNLP 2018におけるGoogleの存在感まとめ ・自然言語処理のトップカンファレンスであるEMNLPにおけるGoogleの貢献一覧 ・論文と同時に４つの新しいデータセットが公開されている ・品詞のタグ付け、質問文への整形、文章の...
入門／解説 あなたが見逃してはいけない5つのpython機械学習プロジェクト
１．あなたが見逃してはいけない5つのpython機械学習プロジェクトまとめ ・メジャーになりつつあるPythonの機械学習系ライブラリ５選まとめ ・視覚化、自然言語作成、embeddingの３種より５ライブラリ ・使い勝手は工夫されているも...
入門／解説 2分で理解するAttention
１．2分で理解するAttentionまとめ ・Attentionは文章のような前後の並びが重要なデータを上手く扱う事ができる ・並列処理の実現や遠く離れた単語間の関連性を捉える事も可能 ・Transformerは画像、オーディオ、ビデオなど...
入門／解説 いいえ！人工知能は予言なんてしません
１．いいえ！人工知能は予言なんてしませんまとめ ・Google翻訳に意味のない入力をすると神の言葉を代弁し始めると話題に ・人工知能が意志を持ちはじめたとか人工知能脅威論を煽る人も ・宗教的な発言が出力される理由はマイナー言語では宗教的資料...