elmo

データセット

Open Images V6:新しいタイプの注釈localized narrativesが特徴(2/2)

1.Open Images V6:新しいタイプの注釈localized narrativesが特徴(2/2)まとめ・Open Images V6では、視覚的関係の注釈の種類を1桁(約1.4k)増やした・個々のアクションを実行する人間を含んだ...
学習手法

T5:Text-To-Text Transfer Transformerと転移学習の探索(1/3)

1.T5:Text-To-Text Transfer Transformerと転移学習の探索(1/3)まとめ・転移学習を用いたNLP関連技術の進歩が速すぎて何が効果的なのか評価することが困難になった・最も効果的な転移学習手法を調べ、得た洞察...
入門/解説

人工知能とデータサイエンスの2019年の主な進展と2020年の予測research編(3/3)

1.人工知能とデータサイエンスの2019年の主な進展と2020年の予測research編(3/3)まとめ・ビジネスにAIを採用させる事を成功するためにはビジネス固有のカスタムソリューションが必要・より複雑なデータサイエンスの問題には、特定分...
入門/解説

機械学習のトップマインドによる2020年のAI予測(2/3)

1.機械学習のトップマインドによる2020年のAI予測(2/3)まとめ・Jeff Deanはマルチモーダル学習とマルチタスク学習の進歩を期待・Anandkumarは反復アルゴリズム、自己教師学習の進化を予測・顔認識AIなど個人のプライバシー...
入門/解説

Snorkel MeTaLを用いた大規模マルチタスク学習(2/4)

1.Snorkel MeTaLを用いた大規模マルチタスク学習(2/4)まとめ・Snorkel MeTaLが最先端のスコアを達成するために辿った教師信号を具体的に解説・伝統的な教師信号から開始し、次の段階は事前学習からの転移学習・そして「もっ...
入門/解説

FastText:テキストデータの特徴量抽出の実装(1/2)

1.FastText:テキストデータの特徴量抽出の実装(1/2)まとめ・FastTextは2016年にFacebookによって最初に発表された素のWord2Vecモデルを拡張および改善したもの・各単語をBag of Character n-...
入門/解説

2018年の機械学習とAIの主な進歩と2019年の主な傾向(2/2)

1.2018年の機械学習とAIの主な進歩と2019年の主な傾向(2/2)まとめ・ELMoやBERTなどの自然言語処理分野におけるトランスファーラーニングの成功・プライバシー問題やAIのディストピアに繋がる利用が注目を集めた事・オンラインコー...
入門/解説

2018年の機械学習とAIの主な進歩と2019年の主な傾向(1/2)

1.2018年の機械学習とAIの主な進歩と2019年の主な傾向(1/2)まとめ・様々な立場の専門家による人工知能と機械学習分野の振り返りと展望・ディープラーニングの進歩、機械学習の限界、自然言語処理手法の変化・大きな技術的進歩はなかったと言...
学習手法

BERT:自然言語処理のための最先端の事前トレーニング

1.BERT:自然言語処理のための最先端の事前トレーニングまとめ・自然言語処理は学習に使えるデータが少ない事が問題になっている・言語構造を事前トレーニングさせる事によりデータ不足問題を大きく改善できる・双方向型の事前トレーニングであるBER...