Keep Learning! Fail and open the door to a new world!
１．Open Images V6:新しいタイプの注釈localized narrativesが特徴(2/2)まとめ ・Open Images V6では、視覚的関係の注釈の種類を1桁(約1.4k)増やした ・個々のアクションを実行する人間を含んだ250万の注釈も増やした ・2350万の人間が検証した新しい画像レベルのラベルも追加した ２．Open Images V6の収録データ数 以下、ai.goo […]
１．Open Images V6:新しいタイプの注釈localized narrativesが特徴(1/2)まとめ ・多くの点で世界最大の画像データセットであるOpen Imagesのバージョン6が公開 ・バージョン６では新しいタイプの注釈「localized narratives(物語化した注釈)」が追加された ・これはマルチモーダルな注釈、つまり音声や文章、マウスの動きを使って表現した全く新し […]
１．T5:Text-To-Text Transfer Transformerと転移学習の探索(3/3)まとめ ・T5はクローズドブック質問回答タスクで驚くほど優れており、人間がかなわない程の性能を見せる ・またGPT-2のように人間が読んでも非常に自然に見える文章を生成する能力にも優れている ・特にピーナッツバターへの愛は冷静に読めば絶対まずそうなレシピなのに凄そうに見える迫力を持つ ２．ピーナッ […]
１．T5:Text-To-Text Transfer Transformerと転移学習の探索(2/3)まとめ ・NLP用の転移学習に導入されたアイデアと手法を広範囲にわたって調査して有用な知見を多く得た ・体系的な研究から得た最良の方法を組み合わせてGoogle Cloud TPUアクセラレータで規模を拡大 ・最大のモデルはGLUE、SuperGLUE、SQuAD、及びCNN/Daily Mail […]
１．T5:Text-To-Text Transfer Transformerと転移学習の探索(1/3)まとめ ・転移学習を用いたNLP関連技術の進歩が速すぎて何が効果的なのか評価することが困難になった ・最も効果的な転移学習手法を調べ、得た洞察を元にT5と呼ばれる新しいモデルを開発 ・T5は多くのNLPベンチマークで最先端の結果を達成し、様々な下流タスクに微調整可能 ２．T5とは？ 以下、ai.g […]
